【曾子固特稿】社交媒體正在戕害兒童

發表在最新一期權威期刊《柳葉刀》(The Lancet) 的柳葉刀數位健康第 7 卷，第 4 期的社論<超越社交媒體禁令>( Beyond the social media ban)指出， 我們正面臨一個艱難的悖論：旨在教育、聯繫和增強我們能力的數位工具也被用來傷害我們最脆弱的群體——兒童。
OCSEA 已成為一種普遍的威脅
根據 Fry 及其同事發表在《柳葉刀兒童與青少年健康》上的一篇評論，在線兒童性剝削和虐待 （OCSEA） 已成為一種普遍的威脅，令人震驚的統計數據顯示，每 12 名兒童中就有 1 名在過去一年中經歷過 OCSEA。當考慮到他們一生中的童年經歷時，這個數位上升到六分之一的兒童，這凸顯了對循證干預的迫切需求。我們如何在不扼殺兒童學習、社交和成長能力的情況下保護他們的在線網路？
首先，我們需要瞭解這場危機的規模。Fry 及其同事描述了 OCSEA 的亞型，例如在線招攬，它影響了全球約 12·5% 的兒童。此外，英國國家防止虐待兒童協會最近的一份報告強調了與生成式人工智慧 （genAI） 工具相關的嚴重安全風險，揭示了人工智慧如何促進誘騙、騷擾和有害內容的生成。AI 生成圖像的興起在容量和回應策略方面帶來了挑戰。這些 AI 圖像通常是在人類生成的內容上訓練的，這使問題進一步複雜化。儘管 AI 主要用作創建剝削性圖像的工具，但人類仍然負責各種形式的剝削，包括誘騙。互聯網觀察基金會 2023 年 10 月的 AI 兒童性虐待報告顯示，在短短 1 個月內，超過 11,000 張 AI 生成的犯罪圖像被上傳到暗網論壇，2024 年 7 月的更新指出，AI 生成的視頻和越來越嚴重的圖像的出現。總之，這種活動構成了巨大的風險，可能會壓倒打擊離線圖像生成的努力，從而可能將關鍵資源從解決真實的兒童性虐待材料 （CSAM） 中轉移出來。
澳洲禁止16歲以下兒童使用社交媒體帳戶
為了回應其中一些擔憂，澳大利亞政府最近頒布了一項有爭議的禁令，禁止16歲以下兒童使用社交媒體帳戶。包括由140名學者和心理健康專業人士組成的聯盟在內的批評者認為，這種方法過於簡化了問題，缺乏具體性。Jasmine Fardouly 在本期發表的評論中警告說，該禁令可能會無意中將兒童推向監管較少的在線空間，或者由於害怕受到懲罰而阻止他們報告虐待行為。最近發表在《柳葉刀區域衛生 – 歐洲》上的一項對 1200 多名中學生的研究進一步報告了全面禁令的有限影響，該研究發現，在有限制性電話禁令的學校和沒有限制性電話的學校就讀的人的心理健康幾乎沒有差異。然而，Meta 最近決定停止對有害內容的主動執法，這引發了人們對 OCSEA 可能增加的嚴重擔憂。該禁令也沒有認識到社交媒體使用與心理健康之間的微妙關係。儘管對屏幕時間過長和接觸有害內容（例如影響六分之一學齡兒童的網路欺淩）的擔憂是有道理的，但我們也必須承認在線平臺在培養社會聯繫方面發揮的積極作用，特別是對邊緣化群體而言。例如，一項審查發現，社交媒體可以通過同伴聯繫、身份管理和社會支持來支援 LGBTQ 青年的心理健康。
科技公司必須帶頭創造安全設計產品
全面禁令有可能使兒童無法從中受益，而沒有解決網路傷害的根本原因，那麼有什麼替代方案可以更有效呢？為了真正應對 OCSEA 的挑戰，我們需要強調預防而不是被動措施。首先，科技公司必須帶頭創造安全設計產品。注意義務立法應追究社交媒體和 genAI 平台的責任，要求採取積極措施來檢測和刪除有害內容。此外，許多開源 genAI 模型都在現有的 CSAM 上進行訓練，這凸顯了對優先考慮兒童安全的道德 AI 框架的迫切需求。要使這些積極措施取得成功，必須制定一個強有力的監管框架，並聽取兒童和家長的意見。還必須優先考慮數位素養教育，使兒童能夠安全地流覽在線空間。最後，加強法律框架以起訴參與在線剝削的個人和實體至關重要。通過技術問責制、健全的法規和數位素養來專注於預防，我們可以更好地保護兒童免受在線剝削，並確保他們在數字時代的安全。