生成式AI大爆發 杜奕瑾：言論自由恐遭虛假消息反噬

生成式人工智能(AI)應用加速，近期在語音、影像和文本等領域都出現應用現象。台灣專家預測，AI不僅將大幅顛覆商業模式，在地緣政治劇變的今天，更將成為認知作戰的最大工具。國際社會若不積極對抗極權政府，言論自由恐被虛假消息的操作反噬。

台灣人工智慧實驗室創辦人杜奕瑾在一項座談會上表示，比起公正新聞之發布，部分人士操作虛假訊息的利益更大，導致公共論壇的消失、媒體營收能力的弱化，而最新出現的生成式AI科技，更使其散佈虛假訊息的能力大增。

就ChatGPT技術而言，杜奕瑾說:“它只要合理的，都有辦法生成，你只要能夠做出任何偵測的方法，我們都是可以訓練AI模型，去把它騙過去。”他預期未來AI將被廣泛運用，因此，真實報導的媒體記者若無法大量地傳遞正確消息，“我們就會被虛假消息給反噬。”

他說，臉書（Facebook）上有些程式自動產生的留言，雖然因技術不到位，而出現奇怪的符號或看不懂的語言。但這些圍繞特定主題、不斷生成的虛假內容，就是要疲勞轟炸閱聽大眾，使其轉化為腦袋裡的意象。

保障真人言論伸張數位人權

當生成式AI技術廣泛應用到言論上，杜奕瑾認為，“不刪除就是保障言論自由”的思維其實是錯的。因為若不及時制止這些操作，“真人的言論就會被淹沒”。他說，一般人發表意見，若引來一堆“人”辱罵，或使用大量的仇恨語言來反制其意見時，久而久之就會讓大家不敢自由發言。

擁抱科技文明的同時，杜奕瑾說，保障“真人”的公共論壇空間，才能保障數位人權。他主張，應加強社交媒體平台的透明度分析，並支持第三方機構揭發虛假訊息的操作，這不同於社交媒體對仇恨言論的審查機制，尤其這些審查機制已經成為獨裁者箝制言論的工具。

強化媒體能力

面對假訊息操作和新聞媒體的危機，杜奕瑾呼籲，公共論壇或媒體應投入資源，保障“真人數位人權”。他說，臉書(Facebook)和推特(Twitter)每年都從中國和俄羅斯收到大量的廣告收益，滲透的意味濃厚，因為這兩國根本封禁人民使用臉書和推特。因此，我們必須強化公共論壇及新聞媒體的能力，才能保障民主。

杜奕瑾建議三項具體作法，第一，發布相應的法規，以提升社交媒體平台的透明度；第二，新聞內容的廣告收益應合理分潤至內容創作者，讓致力深度報導的媒體能得到合理的利潤，以維繫運營；第三，面對生成式AI科技的發展，受眾應提高數位素養，以洞察AI科技的破壞力，並探討如何防範生成科技產製虛假消息的倫理問題。