【洪存正專欄】ChatGPT 將如何改變未來的教育?

在不到 2 個月的時間裡，人工智能 (AI) 程序 ChatGPT 已經成為一種文化轟動。它可以通過該工具的開發者 OpenAI 創建的門戶網站免費訪問。該程序——根據書面提示自動創建文本——非常受歡迎，如果您嘗試使用它，它很可能「現在已經滿負荷運轉」。H. HOLDEN THORP 1 月 26 日在《科學》(Science)的社論上發表一篇<ChatGPT 很好玩，但不是作者>(ChatGPT is fun, but not an author) 對於所謂「原創」提出憂慮以及很重要的看法。

文 / 洪存正

當您通過時，ChatGPT 會提供無盡的娛樂。要求它重寫美國經典戲劇《推銷員之死》的第一幕；以動畫電影《冰雪奇緣》中的艾爾莎公主為主角，而不是威利·洛曼。結果是一段有趣的對話，在這段對話中，艾爾莎——結束了艱難的一天的銷售工作——她的兒子哈皮告訴她，「來吧，媽媽。你是《冰雪奇緣》中的艾爾莎. 你有冰的力量，你是女王。你勢不可擋。」 像這樣的混搭當然很有趣，但對科學界和學術界的 ChatGPT 等生成式 AI 程序有嚴重的影響。

ChatGPT（生成式預訓練轉換器）是使用一種稱為從人類反饋中強化學習的技術開發的，用於訓練語言模型，使其具有很強的對話性。然而，正如該網站所述，「ChatGPT 有時會寫出看似合理但不正確或荒謬的答案。」 幾個例子顯示了它可能犯的明顯錯誤，包括引用一項不存在的科學研究。

許多擔憂與 ChatGPT 將如何改變教育有關。它當然可以寫關於一系列主題的文章。我給了它一個考試和一個期末項目，我在喬治華盛頓大學教授的科學否認課上給學生分配了這些項目。它很好地找到了事實答案，但學術寫作還有很長的路要走。如果有的話，對教育的影響可能會促使學者以創新的方式重新思考他們的課程，並佈置人工智能不容易解決的作業。那可能是最好的。

更令人擔憂的是 ChatGPT 對撰寫科學論文的影響。在最近的一項研究中，由 ChatGPT 創建的摘要被提交給學術審稿人，他們只發現了 63% 的假文章。這是很多人工智能生成的文本，很快就會進入文學。

多年來，科學系列期刊的作者都簽署了一份許可證，證明「該作品是原創的」（斜體字已添加）。對於科學期刊，「原創」一詞足以表明 ChatGPT 編寫的文本是不可接受的：畢竟，它是從 ChatGPT 中抄襲的。此外，我們的作者證明他們自己對論文中的研究負責。儘管如此，為了明確起見，我們現在正在更新我們的許可和編輯政策指定不能在作品中使用由 ChatGPT（或任何其他人工智能工具）生成的文本，圖形、圖像或圖形也不能是此類工具的產品。人工智能程序不能成為作者。違反這些政策將構成科學不端行為，與篡改圖像或抄襲現有作品無異。當然，有許多合法的數據集（不是論文的文本）是人工智能在研究論文中有意生成的，這些不在本次變更的範圍內。

科學期刊處理的大多數科學不端行為的發生都是因為人類關注不夠。快捷方式是通過使用圖像處理程序（例如 Photoshop）或從其他來源複製文本來獲取的。更改後的圖像和復制的文本可能不會引起注意，因為每個作者對它們的審查太少。在我們這邊，當編輯和審稿人不聽取他們內心的懷疑，或者當我們未能敏銳地關注細節時，錯誤就會發生。在人們對科學的信任正在削弱的時候，科學家們重新致力於對細節的仔細和細緻的關注是很重要的。

科學記錄歸根結底是人類為解決重要問題所做的努力之一。機器發揮著重要作用，但它是人們提出假設、設計實驗和理解結果的工具。最終，產品必須來自——並由——我們頭腦中美妙的計算機來表達。