【專欄】AI代理調查支付隱私：驚人相似背後隱藏偏見危機

文/蔡鎤銘（淡江大學財務金融學系兼任教授）

引言

近年來，人工智慧技術迎來革命性突破，生成式人工智慧不僅能創作文字與圖像，更開始涉足社會科學研究領域。其中，市場調查作為耗時費力的傳統作業，正成為生成式AI的試驗場。日本銀行與韓國銀行的研究團隊率先利用ChatGPT模擬支付應用的用戶調查，聚焦於隱私與技術效益的感知差異。這項研究顯示，AI生成的回應與真人調查結果存在高度一致性，例如隱私關注度高的代理對支付應用評價較低，且風險感知較強，與實際調查趨勢吻合。然而，AI代理的回應變異性遠低於人類，且多數傾向於「隱私基本主義者」，暴露了內建偏見的風險。本文將深入探討生成式AI在調查應用中的潛力與局限，並剖析其對政策設計的啟示。

生成式AI如何模擬支付應用調查？

生成式AI模擬調查的關鍵在於「提示設計」與「代理人設」的設定。研究採用角色、任務與格式的三段式提示方法，為AI代理賦予國籍、年齡、性別、是否為支付應用用戶等屬性，並隨機抽樣以貼近目標群體分佈。例如，在模擬荷蘭支付應用調查時，AI代理的年齡分為六組，各組用戶比例參照實際調查數據設定。溫度參數與頂部P值均設為最大值，以確保回應的多樣性。

AI代理需回答一系列關於隱私風險與應用效益的問題，並以李克特五點量表評分。風險分數基於七項隱私侵害情境的嚴重性與可能性計算，效益分數則來自三項對支付應用實用性的評價。透過大量生成回應，研究團隊得以統計分析AI代理的感知模式，並與真人調查結果比對。這種方法不僅節省時間成本，更能快速測試不同人設對調查結果的影響，為問卷設計提供前期模擬。

AI與真人調查的驚人一致性

研究結果顯示，AI代理在多個維度上複製了真人調查的趨勢。首先，隱私關注度與風險效益感知呈現負相關：隱私基本主義者對支付應用的效益評價最低，風險評價最高，而隱私無憂者則相反。此趨勢與實際調查一致，且AI代理無需在提示中明確指示此關聯，即能自主呈現這種認知模式。其次，AI代理成功捕捉了用戶與非用戶的差異：用戶普遍認為支付應用效益高、風險低，非用戶則相反，這與真人調查中觀察到的行為理性相符。

更細緻地看，AI代理對效益感知的變異性高於風險感知，這也符合人類回應的規律。顯示生成式AI能夠在一定程度上模擬人類的複雜認知結構，尤其是隱私計算的權衡過程。這些一致性讓研究者認為，AI可作為調查設計的輔助工具，用於快速驗證問卷題目或模擬特定群體的回應模式。

隱藏危機一：變異性不足與少數意見的消失

然而，AI代理的回應存在明顯的變異性不足問題。實際調查中，效益與風險分數的標準差分別為1.93與0.74，而AI代理的標準差僅為0.82與0.29左右，即使調整溫度參數或增加人設細節（如收入與教育程度），變異性提升幅度有限。這意味著AI代理難以反映人類群體中的極端意見或少數觀點，對於政策制定者而言，這可能是致命缺陷。

政策設計往往需兼顧分布尾端的群體權益，若僅依賴AI調查，可能忽略弱勢或特殊群體的聲音。例如，實際調查中有部分用戶呈現「隱私悖論」行為，即高風險感知卻仍使用應用，但AI代理中此類比例極低。這種平滑化的回應雖然便於計算平均值，卻無法真實反映社會的多樣性，導致決策偏誤。

隱藏危機二：隱私偏見與文化盲點

另一項關鍵問題是AI代理的系統性偏見。在未指定隱私類型的情況下，多數AI代理被歸類為「隱私基本主義者」，比例遠高於實際調查。此偏見可能源於AI訓練過程中的強化學習調整，為避免生成有害或輕忽隱私的回應，模型傾向於保守立場。研究團隊進一步測試將代理居住國從荷蘭改為美國，結果隱私基本主義者比例仍高達73%，顯示偏見具有跨文化一致性。

這種偏見使得AI代理在隱私議題上失去中立性，影響調查結果的代表性。若直接應用於政策評估，可能過度放大隱私風險，忽略實際用戶的效益考量。更棘手的是，偏見的來源難以追溯與修正，使用者僅能被動接受模型的內建傾向，這對追求公平與包容的政策設計構成挑戰。

提示設計的雙面刃效應

提示設計的細緻化並未如預期般提升模擬精度。研究比較三種實驗情境：案例一僅設定年齡與用戶屬性；案例二追加隱私類型；案例三再加入收入與教育程度。結果發現，提示越複雜，AI代理的回應越可能出現權重失衡，例如在案例二中，隱私類型的指定削弱了用戶與非用戶的差異，導致隱私悖論比例異常升高。

統計檢定顯示，不同提示設計下的效益與風險分數存在顯著差異，儘管幅度不大，但證明了提示的微小變動可能引發非預期後果。這提醒研究者，不能單純透過增加人設細節來優化調查，而需謹慎評估各屬性的交互作用。生成式AI並非按比例還原人類思維的鏡子，其回應機制充滿黑箱特性。

對政策與市場研究的啟示

生成式AI在支付應用調查中的表現，顯示其具備作為「協作工具」的潛力，尤其適用於問卷前測與情境模擬。它能快速生成大量回應，幫助研究者釐清變數關聯，節省實地調查的資源。然而，其局限於變異性不足與系統偏見，意味著它無法取代真人調查，特別是當政策目標需涵蓋少數群體權益時。

對中央銀行等政策機構而言，使用AI調查時應格外謹慎，需輔以傳統調查數據進行校正，並主動檢測模型偏見。未來發展方向可能結合多模態AI與動態人設設定，以提升回應多樣性。但核心原則是：AI應作為人類智慧的延伸，而非替代。

結語

生成式AI為支付應用的隱私與效益調查開闢了新徑，其與真人調查的相似性令人驚豔，但變異性不足與內建偏見也敲響警鐘。在擁抱技術效率的同時，我們必須正視其局限，避免將AI的平滑化回應誤讀為社會共識。唯有在人類監督下審慎運用，生成式AI才能真正成為推動隱私保護與科技創生的助力。