文化台灣民俗【洪存正專欄】ChatGP...

【洪存正專欄】ChatGPT 將如何改變未來的教育?

Date:

在不到 2 個月的時間裡,人工智能 (AI) 程序 ChatGPT 已經成為一種文化轟動。它可以通過該工具的開發者 OpenAI 創建的門戶網站免費訪問。該程序——根據書面提示自動創建文本——非常受歡迎,如果您嘗試使用它,它很可能「現在已經滿負荷運轉」。H. HOLDEN THORP 1 月 26 日在《科學》(Science)的社論上發表一篇<ChatGPT 很好玩,但不是作者>(ChatGPT is fun, but not an author) 對於所謂「原創」提出憂慮以及很重要的看法。

文 / 洪存正

當您通過時,ChatGPT 會提供無盡的娛樂。要求它重寫美國經典戲劇《推銷員之死》的第一幕;以動畫電影《冰雪奇緣》中的艾爾莎公主為主角,而不是威利·洛曼。結果是一段有趣的對話,在這段對話中,艾爾莎——結束了艱難的一天的銷售工作——她的兒子哈皮告訴她,「來吧,媽媽。你是《冰雪奇緣》中的艾爾莎. 你有冰的力量,你是女王。你勢不可擋。」 像這樣的混搭當然很有趣,但對科學界和學術界的 ChatGPT 等生成式 AI 程序有嚴重的影響。

ChatGPT(生成式預訓練轉換器)是使用一種稱為從人類反饋中強化學習的技術開發的,用於訓練語言模型,使其具有很強的對話性。然而,正如該網站所述,「ChatGPT 有時會寫出看似合理但不正確或荒謬的答案。」 幾個例子顯示了它可能犯的明顯錯誤,包括引用一項不存在的科學研究。

許多擔憂與 ChatGPT 將如何改變教育有關。它當然可以寫關於一系列主題的文章。我給了它一個考試和一個期末項目,我在喬治華盛頓大學教授的科學否認課上給學生分配了這些項目。它很好地找到了事實答案,但學術寫作還有很長的路要走。如果有的話,對教育的影響可能會促使學者以創新的方式重新思考他們的課程,並佈置人工智能不容易解決的作業。那可能是最好的。

更令人擔憂的是 ChatGPT 對撰寫科學論文的影響。在最近的一項研究中,由 ChatGPT 創建的摘要被提交給學術審稿人,他們只發現了 63% 的假文章。這是很多人工智能生成的文本,很快就會進入文學。

多年來,科學系列期刊的作者都簽署了一份許可證,證明「該作品是原創的」(斜體字已添加)。對於科學期刊,「原創」一詞足以表明 ChatGPT 編寫的文本是不可接受的:畢竟,它是從 ChatGPT 中抄襲的。此外,我們的作者證明他們自己對論文中的研究負責。儘管如此,為了明確起見,我們現在正在更新我們的許可和編輯政策指定不能在作品中使用由 ChatGPT(或任何其他人工智能工具)生成的文本,圖形、圖像或圖形也不能是此類工具的產品。人工智能程序不能成為作者。違反這些政策將構成科學不端行為,與篡改圖像或抄襲現有作品無異。當然,有許多合法的數據集(不是論文的文本)是人工智能在研究論文中有意生成的,這些不在本次變更的範圍內。

科學期刊處理的大多數科學不端行為的發生都是因為人類關注不夠。快捷方式是通過使用圖像處理程序(例如 Photoshop)或從其他來源複製文本來獲取的。更改後的圖像和復制的文本可能不會引起注意,因為每個作者對它們的審查太少。在我們這邊,當編輯和審稿人不聽取他們內心的懷疑,或者當我們未能敏銳地關注細節時,錯誤就會發生。在人們對科學的信任正在削弱的時候,科學家們重新致力於對細節的仔細和細緻的關注是很重要的。

科學記錄歸根結底是人類為解決重要問題所做的努力之一。機器發揮著重要作用,但它是人們提出假設、設計實驗和理解結果的工具。最終,產品必須來自——並由——我們頭腦中美妙的計算機來表達。

本文僅代表作者立場,不代表本平台立場

分享文章

Facebook Comments 文章留言

特別報導
特別報導
銳傳媒資料中心

專欄

推薦閱讀