關鍵數字：根據顧問公司德勤2024年的報告，使用生成式AI的詐騙預計到明年僅在美國就會造成400億美元的損失。
數據總覽
2024年，一名香港金融從業員與工程顧問公司奧雅納（Arup）的同事進行視訊會議，討論一宗機密收購案。直到匯出2500萬美元款項後，他們才發現自己被騙了。視訊中的其他人，包括看似是財務長的那個人，全是AI生成的深度偽造影像。
根據德勤的報告，AI生成的詐騙案件不僅在金融領域，還擴展到了社交平台、交友網站等多個方面。這意味著，每個人都有可能成為AI詐騙的受害者。
數據解讀 1：AI生成的臉孔越來越難辨識
6月發表於《美國國家科學院院刊》（PNAS）的一項研究顯示，人類辨認AI生成臉孔的能力非常差。澳洲國立大學（ANU）心理學副教授艾美·道爾（Amy Dawel）指出，研究顯示我們的表現不比五五開的猜測好，甚至更差。
道爾博士的研究發現，AI生成的臉孔被判定為真人的頻率，比實際人類臉孔還高——這種現象被稱為「AI超真實感」（AI hyperrealism）。由於AI演算法傾向於取其訓練的數萬張臉孔的數學平均值，因此AI臉孔看起來比人類臉孔更平均、更對稱、更有吸引力。
數據解讀 2：訓練辨識AI臉孔的新方法
在最新研究中，研究團隊開發了一種新的訓練方法，旨在提高人們辨識AI生成臉孔的能力。這套訓練並非教人尋找不匹配的耳環或扭曲特徵等明顯破綻，而是訓練他們對每張臉孔整體做出直覺判斷。
研究人員通過展示約100張臉孔——一半真實、一半AI生成——並要求參與者針對六項整體特徵評分：獨特性、可記憶性、表情豐富度、對稱性、比例協調性與吸引力。平均而言，參與者在訓練後的準確率大致翻倍，達到81%。
趨勢預測
研究人員強調，人類正在與不斷進步的AI系統賽跑。目前，已有使用演算法偵測AI生成內容的自動化工具，但這些工具也有限制。它們可能只對特定AI產品有效，且當新模型出現或影像被編輯時，可能會難以應付。
道爾博士表示，「這是一場貓捉老鼠的遊戲，就像電腦病毒一樣，它們不斷變化，我們也必須不斷調整才能跟上。」她認為這些研究結果提供了「令人抱持希望的充分理由」，未來或許可以開發類似的訓練，幫助人們辨識AI生成的語音和影片，而不只是靜態臉孔。
從產業面來看，AI生成的深度偽造影像不僅威脅金融安全，還可能影響社交網絡的信任基礎。因此，提高公眾的辨識能力刻不容緩。政府和企業應加大投資，開發更多有效的訓練工具，以應對這一日益嚴重的問題。
數據告訴我們什麼？
隨著AI技術的不斷進步，深度偽造影像的辨識將成為每個人都需要面對的挑戰。無論是金融交易、社交互動還是日常生活，我們都需要提高警惕，學習如何辨識AI生成的內容。
道爾博士的最新研究提供了一條可能的解決途徑，通過訓練直覺判斷，我們可以更有效地辨識AI生成的臉孔。然而，這只是一個開始，我們仍需持續努力，以應對不斷變化的AI威脅。
現在，你可以開始學習辨識AI生成的臉孔，提高自己的防範意識。如果你在日常生活中遇到可疑的影像或聲音，不妨多加留意，確保自己的安全。
本文改寫整理自公開新聞來源，原始報導由BBC中文發布。
常見問題 FAQ
AI生成的臉孔有哪些特點？
AI生成的臉孔通常更對稱、比例更協調、更有吸引力，但缺乏真實人類臉孔的獨特性和表情豐富度。
如何辨識AI生成的臉孔？
訓練自己對每張臉孔整體做出直覺判斷，注意臉孔的獨特性、可記憶性、表情豐富度、對稱性、比例協調性和吸引力。
AI生成的詐騙有哪些常見手段？
AI生成的詐騙常見手段包括視訊會議中的深度偽造影像、社交平台上的虛假個人資訊和網銀詐騙等。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。