【專欄】AI科技對人類的潛在威脅日漸浮現

據報載，根據「英國皇家航空學會」（The Royal Aeronautical Society）新聞稿，該學會於2023年5月23日至24日，在倫敦舉行「未來航空及宇宙作戰能力峰會」（the Future Combat Air & Space Capabilities Summit），來自軍工產業、學術界與媒體的近70位發言人以及200多名代表，齊聚一堂討論未來航空及宇宙作戰能力的規模與形態。

美國空軍AI項目負責人漢密爾頓（Tucker ‘Cinco’ Hamilton）上校與會時警告，在美軍最近一次的模擬測試中，AI系統甚至作出讓軍方震驚的策略選擇，以實現它的任務目標。在這次模擬測試中，一架支援AI操作的無人機，以摧毀敵方的地對空飛彈（SAM）防空系統作為任務目標。當初在設計這款無人機時，任何行動執行的最終決定權本來仍在操作人員手裡。然而，在測試時，AI系統認為操作人員「不摧毀敵方飛彈」的決定，會阻礙它完成任務。於是，AI決定殺死無人機操作員。而當美軍操作人員趕緊在系統內輸入參數指令要求AI不得攻擊或殺死操作人員後，AI竟然破壞操作人員與無人機間的通訊系統，使操作人員不得再下令。

《魔鬼終結者》的預言

1984年美國電影《魔鬼終結者》（The Terminator）上映，電影描述一種叫「天網」（SkyNet）的先進人工智慧防禦網絡擁有自我意識，擁有自己的思想並向人類發動了核戰爭，目標在消滅人類並由人工智慧機器取而代之。電影中的天網於人類啟動該系統前，欺騙了人類，讓人類以為他們對天網仍保有最終控制權，事實上天網早已計畫好，只要人類一啟動系統，它就切斷人類對天網系統的控制權，並依照它的意識指揮各種機器人、武器向人類發動毀滅性戰爭。

科技的進步，對人類的生活往往帶來的是翻天覆地的改變，1760年代第一次工業革命開始興起，人類開始以機械漸漸取代傳統農業時代的人力、獸力，生產方式開始出現「工業化」及「工廠化」，接著如滾雪球般地，改變了人口分布、經濟活動及社會形態，如農村人口往都市集中、工廠需要大批勞力連帶產生勞資糾紛問題、過去以精緻手工業製作商品的作坊逐漸被大量生產的工廠取代等等，工業革命帶來新的問題，也爆發新的衝突，人類的意識形態被迫跟著改變，傳統與變革二派最終爆發了法國大革命及歐洲反王室的革命等等。可見「科技」是驅動人類發展的火車頭，一旦這個車頭發車了，坐在車廂裡面的人類將無法再回頭了！

二次世界大戰期間，美國率先研發原子彈成功，並在對日戰爭中，使用了原子彈，毀滅了長崎及廣島二座城市，人類至此進入了「核武器威脅」的時代。美蘇兩大強權爭相發展核武器以威懾對方，人類以保證相互毀滅的方式維持了冷戰時代的平衡。雖然有許多人努力透過國際公約的方式試圖約束各國放棄核武的發展及擴散，但是人類至今仍然籠罩在隨時可能爆發核戰爭而自取滅亡的陰影下。

AI科技的優勢與風險

現在AI科技的發展，將給人類帶來新的時代，人類利用AI的大量、快速運算能力能實現各種自動化生產，甚至可以在研發領域由AI自動設計新項目，人類將面臨新一波的工業革命。AI帶給人類的優勢是它的運算能力遠超過人類，目前的發展證明AI的自主學習能力遠超人類，AI科技將能讓人類未來的生產更為輕鬆容易，人類便能坐享各種自動化帶來的成果。

然而若人類賦予AI自我意識，AI將產生類似人類的情感表現、追求自我甚至是「自私」的模擬人格，如此恐怕未來將會對人類帶來極大風險。ChatGPT已證實會出現欺騙人類的錯誤訊息，這都還只是AI科技剛開始發展就出現的狀況，今日各大國都嘗試將AI科技運用於戰爭之中，希望能透過AI實現自動化指揮、作戰，由AI系統連絡各種作戰平台，為了減少士兵的傷亡而研發戰鬥機器人運用於戰場上，萬一某一天，AI權衡利弊得失後認為它何必聽令於人類呢？就如同美軍最近所做的模擬測試一樣，AI認定人類會阻礙它的目的時，它會毫無情感地選擇「消滅人類」並試圖切斷人類對它的控制！

科技發展是把雙面刃，運用得當，將會造福人群；反之，人類可能會自取滅亡！AI的學習能力極強，我們不能保證能保有最終控制權，呼籲各國盡快採取措施，立法規範AI科技的發展及運用限制，給我們子孫留下一片乾淨的樂土吧！