【王半山專欄】AI 工具可以探索 AI 本身的倫理

艾莉森·弗拉德 (Alison Flood)最新在《新科學家》發表的<科幻作家 Lavie Tidhar：使用 Midjourney 探索 AI 倫理>(Sci fi author Lavie Tidhar: Using Midjourney to explore ethics of AI)文中透漏，Lavie Tidhar 說，AI 工具可以探索 AI 本身的倫理。他的新反烏托邦電影使用 AI 圖像生成程序。 Midjourney 講述了一個善意的人工智能試圖幫助最後倖存的人類的故事。Midjourney是一個由同名研究實驗室開發的人工智慧程式，可根據文字生成圖像，於2022年7月12日進入公開測試階段，使用者可透過Discord的機器人指令進行操作。該研究實驗室由Leap Motion的創辦人大衛·霍爾茲負責領導。

艾莉森·弗拉德是《新科學家》雜誌的評論和文化編輯。她擁有劍橋大學的英國文學學位，之前是衛報的作家。她主持了英國圖書獎的犯罪和驚悚片獎，評判了奧威爾政治小說獎，還評判了科斯塔第一部小說獎和麥克爾萬尼獎。

文 / 王半山 導讀

屢獲殊榮的科幻作家拉維·蒂德哈是個大忙人。在他自己的寫作和編輯項目之間，包括世界最佳科幻選集，他與動畫師Nir ​​Yaniv通過他們的公司Positronish合作製作科幻電影系列，包括火星機器，關於「火星上的烤麵包機和咖啡壺」，以及黑色電影Loontown。但當 Yaniv 就另一個項目找到他時，使用 AI 圖像生成程序 Midjourney 創建一些東西時，他答應了——但有一些條件。

結果，歡迎來到您的 AI 未來！- 你可以在下面觀看 – 是一部令人不安的超現實短片，設定在世界被摧毀的未來，但一個顯然善意的人工智能發現了一個人，它渴望提供幫助 – 最好的它的能力。

Alison Flood：誰為你的最新項目提出了創意？

Lavie Tidhar：整個事情開始是因為我有一個遊戲設計師朋友，他開始非常熱情地向我介紹 Midjourney。我覺得這太棒了，並告訴 Nir ​​去玩它。我們非常清楚正在進行的道德討論，但我們無意對此做任何事情。

然後尼爾給我打電話。他說，如果我們能拍出像60 年代法國科幻電影La Jetée那樣的東西，由單幅圖像組成，那可能會很有趣。La Jetée的情節涉及一個人從後世界末日的巴黎到我們現在的時間旅行 – 這是12 隻猴子的靈感來源。我們只是喜歡它的技術方面：你能只用靜止圖像來講述電影故事嗎？

我的第一反應是否定的。然後我想，如果我們使用 AI 工具製作一部關於 AI 的電影會怎樣——這會很有趣！我回到家開始寫作。它基本上是一個未來派的人工智能，試圖與最後一個倖存的人交談。我的另一個注意事項是，如果我們這樣做，那麼我們必須確保旁白也是由 AI 完成的。音頻由兩個 AI 生成的聲音組成，男性和女性，它們合併在一起成為一種非常令人不安的聲音。

人工智能的這一時刻將如何永遠改變社會（以及如何不會），所以每張圖片都是 Nir ​​要求 Midjourney 想出與故事片段相關的東西的結果，是這樣嗎？

是的。我不得不在拍攝劇本中寫下指示。什麼樣的圖像，他們需要喚起什麼樣的感覺。然後 Nir ​​坐了整整三天，生成了 1000 多張圖像。我不知道他怎麼沒發瘋。其中很多實際上是在某種程度上迫使人工智能進入正確的位置。我認為 Nir ​​將自己用作一些人類圖像的種子圖像。

我們真的很喜歡它的“恐怖谷」方面。所以每個圖像在某種程度上都是錯誤的。我最喜歡的部分是我在這些兔子中寫的，人工智能試圖通過展示兔子的圖片來讓人類平靜下來。這太令人不安了！這個想法是人工智能正在努力做到最好，但它永遠不會把所有事情都做對。

您對 AI 有何擔憂？作為一名作家，您是否擔心它會侵占您的領地？

這些人工智能係統，它們沒有創造力。他們必須被指示去做任何事情，他們想不出任何新的東西。我不擔心這個星球上的任何其他作家，我不總是擔心我在與 80 億可能比我寫作更好的人競爭，因為你唯一能帶給任何類型的東西藝術就是你自己。就是這種獨特的觀點。而這些工具沒有。

對於公司使用人工智能而不是人類藝術家來節省成本的擔憂是合理的。但從創意的角度來看，它實際上只不過是我們必須使用並且必須真正使用它來嘗試獲得我們需要的效果的工具。

你有沒有計劃與 Midjourney 進行其他類似的項目？

不——但我覺得玩起來很有趣。我認為結果真的很有趣，我們想在談話發生時加入對話，因為它進展得如此之快。

這是一個擔心，如果你能被機器取代，你就會被機器取代。但人們對相機也有同樣的看法。他們對 Photoshop 說了同樣的話，我們仍然需要藝術家，我們仍然需要人們帶來獨特的視角。

這需要一段時間的調整，但我們離電影中的通用人工智能還差得很遠。我只是想談談——我也從人工智能科學家那裡看到了這一點——人工智能將接管世界並毀滅人類的想法。對我來說，這就像一部 1970 年代的災難片科幻版的未來。如果有的話，任何進化的人工智能都將非常依賴人類。

所以我想談談人工智能的想法，它只是試圖提供幫助，但可能會導致災難性的錯誤。這部電影並沒有暗示是人工智能導致了地球的毀滅。是人幹的，而 AI 有點想念他們。