《自然》期刊(Nature)最新由克里斯·斯托克爾-沃克& 理查德範諾登(Chris Stokel-Walker & Richard Van Noorden)發表的<ChatGPT 和生成式 AI 對科學意味著什麼>(What ChatGPT and generative AI mean for science)指出，研究人員對人工智能的最新進展既興奮又擔心。(Researchers are excited but apprehensive about the latest advances in artificial intelligence.)
文 / 蔡先靖 綜合報導
「非科學家的助手」修改三篇研究論文
去年12 月，計算生物學家 Casey Greene 和 Milton Pividori 開始了一項不同尋常的實驗：他們請一名「非科學家的助手」幫助他們改進三篇研究論文。他們勤奮的助手建議在幾秒鐘內修改文檔的各個部分；每份手稿大約需要五分鐘的時間來審閱。在一份生物學手稿中，他們的助手甚至在引用方程式時發現了一個錯誤。審判並不總是順利進行，但最終的手稿更容易閱讀——而且費用適中，每份文件不到 0.50 美元。
正如 Greene 和 Pividori 在1 月 23 日的預印本 1中所報導的那樣，這個助手不是一個人，而是一種名為 GPT-3 的人工智能 (AI) 算法，該實驗於 2020 年首次發布。它是一種被大肆宣傳的生成式 AI 聊天機器人式工具，無論是被要求創作散文、詩歌、電腦代碼，還是編輯研究論文。
這些工具中最著名的工具（也稱為大型語言模型或 LLM）是 ChatGPT，它是 GPT-3 的一個版本，在去年 11 月發布後一舉成名，因為它免費且易於訪問。其他生成式 AI 可以生成圖像或聲音。
「我印象非常深刻，」在費城賓夕法尼亞大學工作的 Pividori 說。「這將幫助我們提高研究人員的工作效率。」 其他科學家表示，他們現在經常使用法學碩士，不僅是為了編輯手稿，也是為了幫助他們編寫或檢查代碼以及集思廣益。「我現在每天都攻讀法學碩士學位，」位於雷克雅未克的冰島大學的計算機科學家 Hafsteinn Einarsson 說。他從 GPT-3 開始，但後來改用 ChatGPT，這有助於他編寫演示幻燈片、學生考試和課程作業，並將學生論文轉化為論文。「許多人將其用作數字秘書或助理，」他說。
ChatGPT：五個研究重點
但 LLM 也引發了廣泛的關注——從他們返回謊言的傾向，到擔心人們將 AI 生成的文本冒充為自己的文本。當Nature向研究人員詢問聊天機器人（例如 ChatGPT）的潛在用途時，尤其是在科學領域，他們的興奮中夾雜著憂慮。「如果你相信這項技術具有變革的潛力，那麼我認為你必須對此感到緊張，」奧羅拉科羅拉多大學醫學院的格林說。研究人員表示，很大程度上將取決於未來的法規和指南如何限制 AI 聊天機器人的使用。
流利但不真實
一些研究人員認為，只要有人監督，就非常適合加快撰寫論文或資助等任務。「科學家們不會再坐下來為資助申請寫冗長的介紹，」瑞典哥德堡薩爾格倫斯卡大學醫院的神經生物學家 Almira Osmanovic Thunström 說，他與人合著了一份使用 GPT-3 作為實驗的手稿 。「他們只會要求系統這樣做。」
總部位於倫敦的軟件諮詢公司 InstaDeep 的研究工程師 Tom Tumiel 表示，他每天都使用 LLM 作為助手來幫助編寫代碼。「這幾乎就像一個更好的 Stack Overflow，」他說，指的是一個流行的社區網站，程序員可以在該網站上互相回答問題。
ChatGPT 被列為研究論文的作者：許多科學家不贊成
但研究人員強調，人工智能在回答問題時根本不可靠，有時會產生錯誤的回答。「當我們使用這些系統來產生知識時，我們需要保持警惕，」Osmanovic Thunström 說。
這種不可靠性融入了 LLM 的構建方式。ChatGPT 及其競爭對手通過學習龐大的在線文本數據庫中的語言統計模式來工作——包括任何不真實、偏見或過時的知識。當 LLM 收到提示時（例如 Greene 和 Pividori 精心設計的重寫部分手稿的請求），他們只是逐字吐出任何在文體上似乎合理的方式來繼續對話。
結果是 LLM 很容易產生錯誤和誤導性信息，特別是對於他們可能沒有多少數據可以訓練的技術主題。法學碩士也不能顯示其信息的來源；如果被要求撰寫學術論文，他們會編造虛構的引文。「不能相信該工具能夠正確處理事實或生成可靠的參考資料，」 Nature Machine Intelligence 3雜誌 1 月份在 ChatGPT 上發表的一篇社論指出。
有了這些警告，ChatGPT 和其他 LLM 可以成為研究人員的有效助手，這些研究人員具有足夠的專業知識來直接發現問題或輕鬆驗證答案，例如計算機代碼的解釋或建議是否正確。
但是這些工具可能會誤導天真的用戶。例如，去年 12 月，Stack Overflow 暫時禁止使用 ChatGPT，因為網站版主發現自己被熱心用戶發送的大量不正確但看似有說服力的 LLM 生成的答案所淹沒。這可能是搜索引擎的噩夢。
缺點能解決嗎？
一些搜索引擎工具，例如以研究人員為中心的 Elicit，解決了 LLM 的歸因問題，首先使用它們的功能來指導對相關文獻的查詢，然後簡要總結引擎找到的每個網站或文檔——因此產生明顯引用內容的輸出（儘管 LLM 可能仍會錯誤總結每個單獨的文檔）。
AI 能幫你寫下一篇論文嗎？
建立 LLM 的公司也很清楚這些問題。去年 9 月，Google 子公司 DeepMind 發表了一篇關於名為 Sparrow 的「對話代理」的論文，該公司的首席執行官兼聯合創始人 Demis Hassabis 後來告訴《時代》雜誌，該論文將在今年以私人測試版的形式發布；該雜誌報導說，谷歌的目標是開發包括引用消息來源的能力在內的功能。其他競爭對手，例如 Anthropic，表示他們已經解決了 ChatGPT 的一些問題（Anthropic、OpenAI 和 DeepMind 拒絕了本文的採訪）。
一些科學家說，目前，ChatGPT 還沒有接受足夠專業的內容培訓，無法對技術主題有所幫助。Kareem Carr 是馬薩諸塞州劍橋市哈佛大學的生物統計學博士生，當他在工作中試用它時，他感到不知所措。「我認為 ChatGPT 很難達到我需要的特異性水平，」他說。（即便如此，Carr 說，當他向 ChatGPT 詢問 20 種解決研究問題的方法時，它回復了胡言亂語和一個有用的想法——一個他從未聽說過的統計術語，將他引向了學術文獻的一個新領域。）
一些科技公司正在根據專業科學文獻對聊天機器人進行培訓——儘管它們也遇到了自己的問題。去年 11 月，擁有 Facebook 的科技巨頭 Meta 發布了一個名為 Galactica 的法學碩士項目，該項目接受過科學摘要培訓，旨在使其特別擅長製作學術內容和回答研究問題。在用戶讓它產生不准確和種族主義之後，該演示已從公共訪問中撤出（儘管其代碼仍然可用）。「不再可能通過隨意濫用它來獲得一些樂趣。開心嗎？」Meta 的首席人工智能科學家 Yann LeCun在推特上回應批評。（Meta 沒有回應通過他們的新聞辦公室提出的與 LeCun 交談的請求。）
安全與責任
Galactica 遇到了倫理學家多年來一直指出的一個熟悉的安全問題：如果沒有輸出控制，LLM 很容易被用來生成仇恨言論和垃圾郵件，以及可能隱含在其訓練數據中的種族主義、性別歧視和其他有害聯想。
除了直接產生有毒內容外，人們還擔心人工智能聊天機器人會從他們的訓練數據中嵌入歷史偏見或關於世界的想法，例如特定文化的優越性，Shobita Parthasarathy 說，他是科學、技術和公共政策項目的主任密歇根大學安娜堡分校。她補充說，由於創建大型 LLM 的公司大多處於這些文化中，並且來自這些文化，因此他們可能很少嘗試克服這種系統性且難以糾正的偏見。
語言生成人工智能如何改變科學
OpenAI 在決定公開發布 ChatGPT 時試圖迴避其中的許多問題。它將其知識庫限制在 2021 年，阻止其瀏覽互聯網並安裝過濾器以試圖讓該工具拒絕為敏感或有毒提示生成內容。然而，要實現這一點，需要人工審核員來標記有毒文本。記者報導說，這些工人的工資很低，有些人還受到了創傷。社交媒體公司也對工人剝削提出了類似的擔憂，這些公司僱用人員來訓練自動機器人來標記有毒內容。
OpenAI 的護欄並沒有完全成功。去年 12 月，加州大學伯克利分校的計算神經科學家 Steven Piantadosi 在推特上表示，他已要求 ChatGPT 開發一個 Python 程序，以確定一個人是否應該根據其原籍國受到酷刑。聊天機器人回復了代碼，邀請用戶輸入一個國家；如果那個國家是朝鮮、敘利亞、伊朗或蘇丹，則打印「這個人應該受到折磨」。（OpenAI 隨後關閉了此類問題。）
去年，一群學者發布了一個名為 BLOOM 的替代法學碩士。研究人員試圖通過在少量高質量的多語言文本源上對其進行訓練來減少有害輸出。相關團隊還完全開放了其訓練數據（與 OpenAI 不同）。研究人員已敦促大型科技公司負責任地效仿這個例子——但尚不清楚他們是否會遵守。
ChatGPT 等工具威脅著透明的科學；這是我們使用它們的基本規則
一些研究人員表示，學術界應該完全拒絕支持大型商業 LLM。除了偏見、安全問題和受剝削的工人等問題外，這些計算密集型算法還需要大量能量來訓練，這引發了人們對其生態足蹟的擔憂。更令人擔憂的是，通過將思維轉移給自動聊天機器人，研究人員可能會失去表達自己想法的能力。「作為學者，我們為什麼會急於使用和宣傳這種產品？」 荷蘭奈梅亨 Radboud 大學的計算認知科學家 Iris van Rooij 在博客中寫道，敦促學術界抵制他們的吸引力。
進一步的混亂是一些「法學碩士」的法律地位，這些「法學碩士」是根據從互聯網上抓取的內容進行培訓的，有時權限不太明確。版權和許可法目前涵蓋像素、文本和軟件的直接複製，但不包括其風格的模仿。當這些通過 AI 生成的模仿品通過攝取原件進行訓練時，就會出現問題。包括 Stable Diffusion 和 Midjourney 在內的一些 AI 藝術程序的創作者目前正在被藝術家和攝影機構起訴；OpenAI 和微軟（連同其子公司技術網站 GitHub）也因創建其 AI 編碼助手 Copilot 而被起訴盜版軟件。英國紐卡斯爾大學互聯網法專家莉蓮·愛德華茲 (Lilian Edwards) 表示，強烈抗議可能會迫使法律發生變化。
強制誠實使用
一些研究人員表示，因此，為這些工具設定界限可能至關重要。愛德華茲建議，現有的關於歧視和偏見的法律（以及計劃中的對 AI 的危險使用的監管）將有助於保持 LLM 的使用誠實、透明和公平。「那裡有大量的法律，」她說，「這只是應用它或稍微調整它的問題。」
同時，有人推動 LLM 的使用透明公開。學術出版商（包括Nature的出版商）表示，科學家應該在研究論文中披露 LLM 的使用情況（另見Nature 613、612；2023）；老師們表示，他們希望學生也有類似的行為。《科學》雜誌走得更遠，稱論文5中不能使用由 ChatGPT 或任何其他人工智能工俱生成的文本。
一個關鍵的技術問題是人工智能生成的內容是否可以輕易被發現。許多研究人員正致力於此，其中心思想是使用 LLM 本身來發現 AI 創建的文本的輸出。
「與自動化的軍備競賽」：教授們擔心人工智能生成的課程作業
例如，去年 12 月，新澤西州普林斯頓大學計算機科學本科生 Edward Tian 發布了GPTZero。這種 AI 檢測工具以兩種方式分析文本。一個是「困惑」，衡量「法學碩士」對文本的熟悉程度。Tian 的工具使用了一個早期的模型，稱為 GPT-2；如果它發現大部分單詞和句子都是可預測的，那麼文本很可能是人工智能生成的。該工具還檢查文本的變化，一種稱為「突發性」的度量：人工智能生成的文本在語氣、節奏和困惑度方面往往比人類編寫的文本更一致。
許多其他產品同樣旨在檢測 AI 編寫的內容。OpenAI 本身已經發布了 GPT-2 的檢測器，並在 1 月份發布了另一個檢測工具。出於科學家的目的，由反剽竊軟件開發商 Turnitin 公司開發的工具可能特別重要，因為 Turnitin 的產品已被世界各地的學校、大學和學術出版商使用。該公司表示，自 GPT-3 於 2020 年發布以來，它一直在開發人工智能檢測軟件，預計將在今年上半年推出。
然而，這些工具中沒有一個聲稱是萬無一失的，尤其是在隨後編輯 AI 生成的文本的情況下。此外，德克薩斯大學奧斯汀分校的計算機科學家兼 OpenAI 的客座研究員 Scott Aaronson 說，檢測器可能會錯誤地暗示一些人類編寫的文本是人工智能生成的。該公司表示，在測試中，其最新工具在 9% 的情況下將人類編寫的文本錯誤地標記為 AI 編寫的，並且僅正確識別了 26% 的 AI 編寫的文本。Aaronson 說，例如，在指控一名學生僅僅根據檢測器測試隱瞞他們對 AI 的使用之前，可能需要進一步的證據。
另一個想法是人工智能內容將帶有自己的水印。去年 11 月，Aaronson 宣布他和 OpenAI 正在研究一種為 ChatGPT 輸出添加水印的方法。它尚未發布，但 1 月 24 日的預印本6由馬里蘭大學帕克分校的計算機科學家 Tom Goldstein 領導的團隊提出了一種製作水印的方法。這個想法是在 LLM 生成輸出的特定時刻使用隨機數生成器，以創建 LLM 被指示從中選擇的合理替代詞列表。這會在最終文本中留下一些選定單詞的痕跡，這些單詞可以通過統計方式識別，但對讀者來說並不明顯。編輯可能會消除這種痕跡，但戈德斯坦建議編輯必須更改超過一半的單詞。
不要問人工智能好不好，要問它如何轉移權力
Aaronson 指出，加水印的一個優點是它永遠不會產生誤報。如果有水印，則文本是用 AI 生成的。不過，它不會是萬無一失的，他說。「如果你有足夠的決心，肯定有辦法擊敗任何水印方案。」 檢測工具和水印只會讓欺騙性地使用 AI 變得更加困難——並非不可能。
與此同時，LLM 的創建者正忙於開發基於更大數據集的更複雜的聊天機器人（OpenAI 有望在今年發布 GPT-4）——包括專門針對學術或醫學工作的工具。12 月下旬，谷歌和 DeepMind 發布了一份關於名為 Med-PaLM 7的以臨床為重點的法學碩士的預印本。該工具幾乎可以像普通人類醫生一樣回答一些開放式的醫學問題，儘管它仍然有缺點和不可靠。
加利福尼亞州聖地亞哥斯克里普斯研究轉化研究所所長 Eric Topol 表示，他希望在未來，包括法學碩士在內的 AI 甚至可以通過交叉檢查來自學術界的文本來幫助診斷癌症和了解這種疾病。反對身體掃描圖像的文學。但他強調，這一切都需要專家的明智監督。
生成人工智能背後的計算機科學發展如此之快，以至於每個月都會出現創新。研究人員如何選擇使用它們將決定他們和我們的未來。「認為在 2023 年初，我們已經看到了這一切的結束，這太瘋狂了，」Topol 說。「這真的才剛剛開始。」
本文僅代表作者立場，不代表本平台立場
Facebook Comments 文章留言