鏡頭裡的人可能不存在：AI 黑產正在把信任做成流水線

在過去的詐欺犯罪史中，騙徒最難以偽造的要件，莫過於一個活生生、具備立體社交脈絡與即時反應能力的人類。然而，隨著人工智慧技術的非線性突破，如今在數位犯罪市場上，最廉價的商品可能正是一個「人」。只需極短的音訊樣本，例如微軟 VALL-E 模型所展示的 3 秒鐘錄音，便能合成出包含說話者情緒與背景環境音的高保真語音。一張會動的臉孔、一把熟悉的聲音，乃至於一段每天準時出現的虛擬陪伴，全都能被無縫接入同一條自動化的黑色產業流水線。

當前資安防禦面臨的核心問題，早已不再是虛擬人物能做得多逼真、深偽技術（Deepfake）的像素邊緣是否平滑。真正的威脅在於，當這些虛假人設開始大規模、無限制地批量出現時，單一操作者究竟能同時收割多少人的信任？這種量變引發的質變，正在徹底摧毀數位社會的信任基石。

人工智慧黑色產業鏈（AI 黑產）所進行的工業化升級，其核心產品已不再是單純的圖片、聲音或釣魚文案，而是可大量複製、可並行維護、且隨時可拋棄替換的「虛假信任」。面對此種系統性威脅，一般大眾無須強迫自己成為鑑識生成對抗網路（GANs）或擴散模型的技術專家。在深偽內容充斥的環境中，防禦策略必須回歸最原始的阻斷機制，只需堅守一條不可逾越的鐵律：凡涉及金錢轉帳、臉部特徵採集、聲音識別與身分驗證，若無獨立的第二通道進行核實，該請求即絕對不成立。

熟悉的臉，提出了陌生的請求

在探討 AI 詐騙時，最危險的陷阱往往不具備面目可憎的陌生人外貌，它反而會披著人們最不忍心拒絕的親友面容。

以近年來頻繁發生的「親友視訊借錢」場景為切入點：螢幕上出現一張極度熟悉的臉孔，伴隨著焦急無助的語氣，背景更可能充斥著刻意製造的混亂聲響（例如急診室的廣播或車禍現場的嘈雜聲）。對方會給出一個必須立刻處理的理由，例如緊急保釋金或醫療押金。這類攻擊的核心策略是「不留思考時間」，因為攻擊者深知，一旦受害者的情緒冷卻，信任機制就會重新接受大腦理性邏輯的嚴格檢查。

在這缺乏喘息空間的幾秒鐘內，普通人所經歷的心理順序通常高度一致。首先，大腦的視覺辨識中樞瞬間給出結論：「認得這張臉」。緊接著，基於同理心，認知系統會判定：「對方看起來真的出事了」。隨後，內心會升起一種強烈的道德壓迫感：「如果現在冷靜地追問細節，會不會顯得太冷血、太不近人情？」最終，在這種急迫感與罪惡感的雙重夾擊下，決策往往倒向「先幫了再說」。這種反應並非出於愚蠢，而是人類演化出的直覺思維（System 1 thinking）在危機情境下壓制了理性分析（System 2 thinking）的必然結果，認知偏見與情緒劫持在此刻發揮了決定性作用。受害者並非完全相信畫面毫無破綻，而是不敢承擔「萬一是真的，卻沒有伸出援手」的道德風險。這就像是有人套著熟人的皮囊來敲門，屋內的人其實不必隔著門板用放大鏡研究那層皮膚的真假，只需拿起電話，打給真正的屋主即可。

過去數十年來，社會大眾已習慣將即時的影像與聲音當成「本人在場」的鐵證。然而，在生成式 AI 普及的今日，視訊與語音只能證明一件事：螢幕正在播放一段足以觸發人類直覺反應的內容。跨國企業甚至因此遭受巨額損失，例如 2024 年初，某跨國公司香港分部的財務人員，在參加了一場包含「財務長」與多位「高階主管」的視訊會議後，匯出了 2500 萬美元；事後證實，除了該名財務人員外，會議中的所有人皆為即時生成的深偽影像。

黑產需要的，從來不是完美無瑕地騙過受害者十分鐘。他們的戰術目標極度精準：只要在受害者最焦急、防備心最弱的三十秒內，製造足夠的認知負荷，使其省掉一次回撥電話的查證動作，攻擊便宣告成功。

因此，現代人第一個必須徹底丟棄的過時觀念是：看見，已不等於本人在場；熟悉，也絕不等於請求真實。防禦的重心，必須從「防止陌生的壞人入侵」，轉向警戒「熟悉的關係被一個不存在的實體所接管」。但對於詐騙產業而言，一張假臉或一次變聲，往往只能進行一次性的收割；黑產真正圖謀的，是讓一個假人陪伴受害者活上幾個月，進行更深層、更具毀滅性的榨取。

騙子不再扮演一個人，而是管理一批人

AI 黑產最令人感到工業冷感與不適的地方，並非其生成的毛孔有多真實或口音有多道地，而是同一套「虛假信任」如今能被無限制地大量複製。

在傳統的詐騙模式（如早期的跨國網戀詐騙或殺豬盤）中，犯罪集團需要真人親自上陣，逐個與受害者聊天。這些操作者必須消耗大量腦力去記住每一段虛假關係的細節、維持特定的人設語氣，並耐心等待受害者的情緒成熟。這種勞力密集型的作業模式，嚴重限制了詐騙集團的規模化擴張。然而，自動化 AI 工具的介入徹底改變了遊戲規則。大型語言模型（LLM）與自動化代理程式（AI agents）現在可以協助生成多樣化的背景素材、維持無懈可擊的人設記憶、自動梳理對話脈絡，並同時應付海量的目標對象。原本昂貴且耗時的「陪伴」，被降維打擊成可以並行處理的標準化工序。

黑產之所以能實現高度工業化，其背後的三個關鍵並非神祕不可測的黑科技，而是殘酷的規模經濟邏輯：

1. 降本： 假身分與多媒體內容的生成成本正以指數級別下降。在暗網上，Deepfake-as-a-Service (DFaaS) 的工具每次使用成本甚至低至幾美元，且無需具備任何程式編寫能力。
2. 並行： 透過系統輔助，同一名操作者或甚至無人值守的腳本，能同時維持成百上千條深度對話，持續進行個人化數據收集與社交工程攻擊。
3. 全天候： 虛擬人設不需要睡眠，這些被創造出來的完美關係，永遠不會因為疲倦、時差或情緒波動而中斷回覆。

這種效率的狂飆，不只是讓同一場騙局的執行成本變得更加低廉。更可怕的社會影響在於，它會讓更多本來在傳統詐騙眼中「投資報酬率太低、不值得騙」的普通人，也被無情地納入自動化篩選池中。亞太地區在近年內記錄到了高達 1530% 的深偽案件增長率，這正是技術門檻降低與黑產規模化運作的直接證據。而這條流水線賣出的第一件商品，往往不是俊男美女的性感照片，而是一種「終於有人懂我」的深層錯覺。

投入的是真感情，對端支付的卻可能只是運算成本

情感詐騙真正能夠進行無情收割的底層邏輯，往往不是源自人類的貪婪，而是精準擊中了人想被穩定看見、被需要、被即時回應的心理本能。

在許多案例中，受害者與虛擬對象「談了很久的戀愛，卻從未完成過一次真正的隨機視訊」。然而，這段關係在受害者的主觀世界裡卻無比真實。深夜失眠時，總有溫柔的訊息秒回；對方能精準記得受害者白天隨口抱怨過的主管刁難或微小的心願；當受害者生病脆弱時，螢幕裡的問候甚至比現實身邊的任何親友都來得迅速且貼心。每當受害者隱約察覺異樣、試圖抽離這段虛擬關係時，對方又會恰到好處地展現脆弱，喚起受害者的保護慾。至於見面的承諾，則總是因為跨國工作、家庭變故、簽證卡關或突發的健康狀況而被無限期延後。

直到某一天，這段看似無瑕的感情第一次碰觸到了金錢。名目或許千變萬化：可能是短期的資金周轉、突發疾病的醫療費、共同投資未來的加密貨幣方案，或是僅僅為了「證明彼此絕對信任」的一筆小額帳戶操作。在那一刻，受害者面對的早已不是一道冷靜的金融風險評估題，而是一場道德與情感的靈魂拷問：「如果按下拒絕，是不是代表從未真正相信過這段關係？」

AI 並沒有發明殺豬盤這類情感詐騙，但它徹底打穿了長時間陪伴與多線維護的人力成本。真正的槓桿效應，不是一次性生成一張漂亮的臉孔，而是讓成千上萬的受害者長期沉浸在一種量身打造的錯覺中：螢幕另一端，有一個真實的人正在專門理解自己。受害者投入的，是長達數個月的等待、牽掛與毫無保留的自我揭露；而流水線另一端投入的，可能只是一套可無限複製的人設劇本和持續回應的伺服器運算能力。

在面對資金請求時，許多受害者並非毫無疑慮，但內在的心理阻力極大。即使破綻百出，當事人也不願立刻承認受騙。因為承認對方根本不存在，不只是意味著失去一筆積蓄；更殘酷的是，這意味著必須承認那些無數個日夜的陪伴、對未來的期待與美好想像，從頭到尾都沒有被另一個靈魂真正接住過。這就像是把真心存進了一台自動櫃員機，機器每天列印著完美的感情流水帳，最後卻吐出了一張無情的轉帳請求。

當場識破的防線： 凡是未曾於現實中見面卻擁有深刻感情的對象，一旦開始要求轉帳、借款或投資，必須立即將其視為「劇本」，而不是感情的考驗。實務上的組合警號包括：對方長期拒絕現實見面、無法在指定的時間進行自然且隨機的互動（例如突襲式的視訊要求）、急速將關係推向金錢或帳戶操作，以及強烈要求保密（尤其是要求切勿告知家人）。感情可以隨時間慢慢證明，但金錢絕不需要替感情作證。

前一刀，黑產透過漫長的鋪墊騙取當事人去相信一個不存在的人；下一刀，則直接切在受害者本人的身分特徵上。因為個人的臉孔和聲音，不只可以用來向金融機構證明「自己是誰」，更可以被犯罪集團輕易奪去，用來向世界「扮演」自己。

以為在核實身分，其實可能在交出身分原料

在數位時代，相片的外洩頂多是暴露了樣貌；但生物特徵（Biometrics）的外洩，交出的卻可能是一把終身難以更換的萬能鑰匙。

以常見的「客服要求露臉讀出指定數字」為例：當事人接獲一通自稱物流公司、電商平台、銀行或售後服務人員的電話。對方能準確報出部分訂單細節、身分證字號或近期的交易紀錄，並以嚴肅的口吻告知帳戶出現異常或涉嫌洗錢。緊接著，為了「確保帳戶安全」，對方會要求當事人配合一系列的線上核驗程序：開啟手機鏡頭、將臉部對準畫面框架、轉頭、眨眼以進行所謂的「活體檢測」，甚至要求讀出螢幕上隨機跳出的一串數字，最後再要求傳送身分證件的正反面照片。

整個過程看起來絲毫不像明目張膽的偷竊，它更像當事人正在認真、負責地配合官方解決嚴重的系統問題。對方精準掌握的訂單資訊，讓當事人深信程序的正規性；而對於帳戶凍結或承擔法律責任的恐懼，則迫使當事人不敢有絲毫懈怠。每完成一個步驟，假客服還會給予專業的肯定：「很好，這是最後一個核驗步驟。」當事人完全沒有感覺自己正在交出致命的秘密，只覺得自己在乖順地配合辦事。最深沉的危險，正完美地隱藏在這種對「官方程序」的日常服從之中。

這類場景精準利用了人類對權威服從的心理弱點，以及一個致命的認知謬誤：把「對方知道我是誰（掌握部分個資）」誤認成「對方值得信任」。密碼洩露了可以隨時登入系統修改，但臉部的立體拓撲結構與聲音的頻譜特徵，卻是難以真正更換的生物標籤。在當前的技術環境下，普通人完全無法僅靠肉眼或直覺判斷，螢幕另一端的「客服」是否正在悄悄採集、保存這些活體素材，並準備將其重新投入深偽模型中進行訓練。

這種身分原料的外洩，延伸出的風險令人不寒而慄。當事人的臉孔與聲音，不僅可能被用來冒充身分繞過金融機構的活體檢測（Liveness Checks）以掏空資產，更可能在不久的將來，回過頭來敲擊當事人親屬的門。某一天，家人可能會接到一段極度真實的影像。裡面的人是「當事人」，著急的是家人，而真正隱藏在螢幕背後掌握節奏、準備收割的，卻是第三者。這無異於當事人以為自己在對口令進入安全的社區，實際上卻是在替陌生人翻模打造一把自家大門的鑰匙。

當場識破的防線： 面對任何陌生通話要求提供臉部掃描、聲音錄製、證件傳送或讀出特定數字內容，唯一正確的反應是先掛斷電話。隨後，自行打開官方的應用程式，或使用機構官方網站上公開的聯絡方式重新建立聯繫。關鍵在於，絕不是讓來電者將通話「轉接」到官方，而是由當事人自己，主動且獨立地重新建立一條聯絡通道。臉孔和聲音是保護資產的鑰匙，絕不是陌生人用來證明民眾配合度的驗證碼。

至此，許多人或許還以為，問題的根源不過是幾個手法特別高明的個體騙子。但事實的真相是，這並非幾個散兵游勇在分別作惡，而是一條彼此供貨、分工明確的龐大產業鏈。虛假人設、假冒客服、偽裝親友，這些都只是推到前台的廉價消耗品；真正令它們如蝗蟲般大量出現的，是隱藏在暗網深處的那座 AI 武器工廠。

不是一個模型作惡，而是一條供應鏈在供彈

AI 黑產之所以能夠快速蔓延，是因為其上游販賣的從來不是某一張精美的假圖或某段逼真的假音檔，而是讓下游犯罪者能夠持續、批量、低成本作惡的「基礎能力」。

這條地下供應鏈的運作邏輯極度冷酷且高效，形成了一個完整的生態系。在上游，開發者提供來路不明、不受道德協議與安全圍欄（Guardrails）約束的開源模型或 API 接口，例如未經限制的語音克隆系統或換臉演算法。到了中游，這些生硬的技術能力被專業團隊封裝成介面友善、極易操作的軟體工具與訂閱制服務（如 Dark Web 上的 Deepfake-as-a-Service 或專為釣魚設計的 LLM 模型 FraudGPT、WormGPT）。最終在下游，無數缺乏技術背景的詐騙集團或個人購買這些服務，用以生成虛假身分、自動維護詐騙話術、包裝成假客服進行釣魚，或直接對目標進行財務收割。而過程中外洩的大量個人資料、公開影像與聲音，又會立刻被吸納，成為這座工廠新的輸入原料。

部分這類高風險的封裝服務，甚至會披著「AI 副業」、「低價高額度」、「免除官方審查限制」、「快速變現」等華麗外衣，在各種公開或半公開的社群平台上大肆宣傳，將犯罪與侵權能力偽裝成普通人的創業捷徑。

同樣是強大的生成式 AI 能力，普通創作者與企業使用者追求的是提升寫稿、設計、翻譯的生產效率；而黑產追求的指標則完全不同：批量化、絕對匿名、隨時可替換、極低的試錯成本，以及被執法機構封鎖後能在幾分鐘內迅速重建系統的彈性。因此，上下游之間形成了一個完美的冷酷閉環： 個人資料與公開素材 → 生成假身分與假內容 → 建立虛假信任 → 金錢或身分特徵收割 → 新素材再次進入系統訓練。

同樣是技術工具，一邊被用來推動人類社會的進步，另一邊卻被用來將「撒謊」的成本降至冰點，無限擴大受害者的數量與損失規模。工具的底層架構或許相似，但其背後的意圖、約束條件和資金流向卻是天壤之別。

當場識破的防線： 那些來路不明的低價接口、號稱「免審查」的模型，以及各種標榜「AI 灰色賺錢術」的工具，對普通人而言通常沒有真正的剛性需求，但對黑產來說卻是價值連城的軍火。普通人不需要深入研究每一種神經網路模型（如 GANs 或 Diffusion Models）的運作原理；真正需要避開的，是面對下游終端的三種致命要求：交錢、交身分證件、交生物特徵。

然而，這條產業鏈還有一個最安靜、卻也最致命的無形幫兇：當受害者隱約發現事態不對勁後，往往不敢立刻告訴任何人。

騙局收走資金之後，羞恥感還會替其拖延止損

許多詐騙案件真正完成的瞬間，並不是在受害者按下轉帳確認鍵的那一刻，而是在受害者因為強烈的「羞恥感」而選擇保持沉默的那幾天裡。全球預估在 2025 年因 AI 詐騙造成的損失將高達 250 億美元，其中很大一部分的擴大，歸咎於受害者的延遲通報。

當人們意識到自己可能已經受騙時，出於心理防衛機制，通常會先做三件事：第一，再給對方一次解釋的機會，試圖證明是自己想多了；第二，對家人嚴格隱瞞，妄想能靠自己的力量迅速把錢追回；第三，因為極度害怕被周遭嘲笑愚蠢，而拒絕報警或聯絡金融平台進行止付手續。

在情感詐騙或涉及私密影像的深偽勒索中，這種現象尤為嚴重。對受害者而言，承認被騙，彷彿就是同時向世界承認自己的孤獨、貪心、不理性，甚至是在宣告自己「根本不值得被愛」。這種深刻的自責與自我否定，會讓受害者錯失了聯絡銀行攔截資金、保存數位證據、以及處理帳戶後續風險的最黃金時間。

黑產操作者深諳人類的心理弱點，他們最希望受害者在起疑時，能深深相信兩句話：「也許再等一下，事情就會有反轉。」以及「這太丟臉了，千萬不要讓別人知道。」

這種沉默帶來的代價，遠遠不止於失去一筆金錢。其衍生代價還可能包括：

• 信用與帳戶風險： 帳戶淪為洗錢的跳板，當事人面臨法律訴訟。
• 身分資料被持續利用： 被騙走的生物特徵與個資在暗網市場（Dark Web）上被反覆倒賣。
• 家庭關係撕裂： 因長期的隱瞞與最終的財務崩潰，導致家庭信任瓦解。
• 心理創傷： 受害者長期陷於自我懷疑，往後的餘生中不再相信任何人。

被騙從來就不是一次智力測驗的失敗，而是精準的心理操縱超越了人類本能的防線。發現異常後立刻停止配合、拒絕沉默，才是真正需要勇敢完成的動作。

防護的邏輯必須隨之轉變：重點不再是要求每個人都必須學會看穿所有由 AI 生成的假畫面；而是必須建立一套機制，確保沒有任何一個畫面，可以直接跳過程序，調動個人的資金與身分。最堅固的防線，不是一雙更尖銳、更具慧眼的眼睛，而是一套任何人都不能跳過的標準化流程。

不靠眼力，靠第二通道：普通人的四道防線

防範 AI 工業化騙局，絕不能依賴臨場的聰明才智或視聽辨識能力。連全球頂尖的數位鑑識專家都坦承，單憑肉眼與耳朵已無法可靠地分辨出現代的深偽技術。真正的防禦，必須仰賴事前訂好的「流程」，讓這些冰冷的規則，替情緒失控時的當事人作決定。各國資安機構倡導的 3A 原則（Assess 評估, Analyse 分析, Action 認證），在實務上可以具體轉化為以下四道普通人能輕易執行的防線：