財經國家財經指標【專文】歐威爾無法想像的極...

【專文】歐威爾無法想像的極權監控網路─人工智能助中共強化專制統治

Date:

文/鄧聿文(美國之音特約評論員)

聊天機器人ChatGPT的出世可能是人類近年取得的最重要技術突破。在現今的國際格局下,任何一項有著重大創新意義的技術,都不可避免地會被視作或拿來用作大國間的競爭工具。我們看到,在對ChatGPT的各種討論中,特別是在中文世界,一個被許多人問到的問題是,為什麼ChatGPT不是最先在中國而是在美國發明的?

這個問題其實預設著提問者的答案:習近平的中國,專制統治打壓思想和言論自由,窒息了科研人員的創新力,所以AI的突破不可能最先出現在中國,中國人造不出ChatGPT。

不過這樣看問題有些簡單,有人也可以反問,為什麼ChatGPT不是最先出現在日本或者德國,又或它為什麼不是最先由Google或者蘋果公司開發的?中國雖然沒有第一個做出聊天機器人,但它很可能第二個或第三個做出來。

在ChatGPT問世後,中國的科技巨頭坐不住了,紛紛表態要下場迎戰,百度甚至宣布3月將推出自己的聊天機器人。

一個國家的思想專制會給科學研究帶來極大干擾,但這種干擾更可能體現在基礎原理上,在應用技術層面,影響研發的可能主要是國家的科研體制、長官意志等。與此同時,也要看到,經濟發展水平和科研投入對一個國家的科技進步也會帶來很大影響,在專制統治恆定的條件下,甚至會起決定性作用。

仍舉中國為例,過去40多年一直處於中共統治下,但隨著經濟崛起,政府和企業加大研發投入,中國的技術在過去十幾年有一個突飛猛進,以致現在外界有意無意拿中國的科技和美國對比。

對人工智能的開發,中國當局的思想箝制雖然會干擾產品,但主要是在AI的數據處理上,要避開很多敏感詞,以及和官方立場、觀點相左的信息,語言編碼等純技術問題應該影響不大。然而,由於中國也是數據大國,擁有大數據優勢,開發者完全可以做到在AI的數據信息輸入中規避政治等敏感信息而不因此影響它的聊天功能,儘管這會影響AI對此類數據信息的獲取。換言之,思想箝制導致的某些數據信息的缺席對中國沒有第一個開發出聊天機器人會有一定影響,但未必是主因。

利用機器人作為控制手段

既然中共的專制制度並不實質性影響人工智能的開發,假如中國緊隨美國之後第二個推出中國版本的聊天機器人,開發者會不會在AI的數據中植入中共的專制信息,讓AI儲存有利中共統治的語言信息偏好,就非常值得警惕。幾乎可以肯定,當AI大規模運用於社會,中共必將機器學習和人工智能拿來作為控制人的手段,將專制統治推到極致。

關於這一點,有識者早就指出過,索羅斯在開放基金會的演講中曾警告,“在專制國家和大數據豐富的信息技術壟斷公司之間,正在形成一種聯盟,這種聯盟使新興的企業監控系統與已經發展的國家資助的監控系統結合起來,將導致形成一個甚至連喬治·歐威爾都無法想像的極權主義的監控網絡。”這種情況實際在中國的三年抗疫中某種程度已出現。

中國官方學報2018年發表的一篇人工智能論文,也討論了這個問題。文章分析了人工智能和人類專制制度的三種對應關係,即人工智能輔助下的人類專制、人類過度依賴人工智能的專制、人工智能自身對人類的專制。後者聽起來雖然可怕,但即使有哪一天,也是相當遙遠的事情。

賦予統治者強大暴力能力

對人類來說,眼下的問題才是真正需要關心的,也就是,如果有一個像希特勒這樣的極權統治者擁有人工智能後,會用它來做什麼?該論文認為,鑑於人工智能可以極大替代人類勞動力,降低對勞動力的需求,從而將改變專制統治者與大眾在勞動上的互相依賴關係,讓擁有技術的專制者不必在乎他們的具體感受;可以高效準確地執行統治者的命令,不會產生任何合法性、道德、意願等的約束,從而可以極大降低社會管制成本;可以賦予統治者強大的暴力能力,特別是武器等鎮壓工具的智能化,使得統治者無需用一支龐大的人工隊伍去操持武器,從而形成極大的對內對外的征服和控制能力,因此,作為機器屬性的人工智能會被專制政權拿來作為一種絕佳的統治工具。

論文討論的是“人類專制”,把它換成中共專制,文章說到的人工智能輔助下的專制情況就完全可以用來描述中國。在現存的專制政權中,中共是最具技術實力的,尤其是在習近平的統治下,借助人工智能,它的專制統治在經濟、管制、暴力領域將進一步完善,從而第一次對被專制者俱有毫無顧忌的強大能力,想採取什麼樣的統治形態就採取什麼樣的形態,完全取決這個政權的好惡,這並非不可想像。果真到這一步,當然會是人類歷史上最可怕的專政。

目前階段而言,中共利用人工智能加強專制統治最有可能出現的兩種情形,一是AI的設計和編程受當局影響,要求AI開發者在數據信息的輸入中偏向某種特定的有利於維護中共統治的觀點或立場,這樣AI輸出的結果就會偏向專制,從而影響信息接受者的看法。如果人們對此沒有很強的識別能力,今後在工作和生活中大量參考甚或依賴人工智能的建議,當局就在不知不覺中對民眾進行了思想的洗腦。

利用AI監控民眾進行洗腦

二是當局用AI來監控大眾在網絡上的發言、通信記錄和出行等,尤其用它來對付異議人士和政治反對派。這一點當然也不新鮮,當局早就在用科技手段竊聽和監控它眼中的反對者,包括用大數據搜索他們的信息。然而,人工智能會更強化當局的這一監控能力。當AI的功能延申到網絡搜索領域,監控者無須從海量的信息中撈取反對者的信息,人工智能會自動撈取和識別,向監控者提供它最需要的信息,從而大大節省當局的監控成本,讓當局真正做到精準打擊。

現在,我們知道中國當局為什麼非常重視人工智能的開發,強調在這一領域要奮起直追,不能落後美國太遠,除了它有經濟、科技和軍事的考量,維護和強化中共的專制統治,亦是一個本質因素。
儘管中共可以控制住中國的人工智能發展不偏離它的統治方向,但無法完全控制民眾對國外人工智能的使用。在美國推出ChatGPT後,中共已感受到某種對它的威脅。

有論者開始呼籲中國警惕美國利用人工智能加劇對華認知戰,認為ChatGPT可能強化美國意識形態滲透能力,針對中國發布更具迷惑性的內容,使人們更加難以識別美西方的虛假信息,並利用ChatGPT炮製各類反華信息也將更迅速、更密集,令中國應對起來更困難。

既然中共擔憂ChatGPT對中國民眾進行意識形態滲透,要削弱人工智能被中共用來加強其專制統治,美國必須抓住在該領域的領先優勢,在人工智能的開發中,輸入更多反專制的、反映自由民主人權的價值觀的信息。

(本文轉載VOA)

本文僅代表作者立場,不代表本平台立場

分享文章

Facebook Comments 文章留言

編輯中心
編輯中心https://vigormedia.tw/
銳傳媒 編輯中心 https://vigormedia.tw/

專欄

推薦閱讀