上海男網戀2個月 發現愛上的「小姐姐」竟是AI生成

AI（人工智能）迅速發展，也逐漸成為詐騙集團利用的高科技。上海警方近日破獲一起以「戀愛交友」為名的電信網路詐騙案，搗毀一個10人詐騙團伙，他們利用AI生成「小姐姐」後，在短視頻平台引流，再用同一套話術「劇本」實施「廣撒網式」行騙，對全國各地近千名男性實施「流水化」詐騙，目前查扣涉案涉案金額200餘萬元（人民幣，下同）。

據央視報導，2024年8月，上海閔行的劉先生報案稱，2個月前通過一則短視頻結識了網友「焦女士」，雙方迅速發展為戀人關係。隨後，「焦女士」以開店、進貨、家人做手術等理由向劉先生索要近20萬元，並展示了「身分證」、「家屬病歷」和「進貨單」。然而，劉先生始終未見過「焦女士」本人，察覺被騙後報警。

上海警方通過對聊天紀錄、轉帳紀錄和資金流向調查，逐步鎖定以楊某為首的詐騙團伙。該團伙組織嚴密、分工明確，包括負責在短視頻平台發布交友視頻的引流人員、與被害人聊天的業務員，及偽造聊天內容和資料的「修圖」人員，通過「流水化」作業批量實施詐騙。2025年1月在廣東、福建、山東等地查扣作案手機60餘部及一套話術「劇本」和近千名潛在被害人通訊錄等。

警方發現，該團伙利用AI生成的視頻或網路素材拼貼實施「廣撒網式」行騙，短視頻平台已成為其引流的「重災區」。警方已約談相關短視頻平台方，督促其嚴把「審核關」，加強對虛假生成、拼貼引流內容的識別和下架。犯罪嫌疑人楊某等4人已依涉嫌詐騙罪被檢察機關批准逮捕，其餘6名犯罪嫌疑人被採取刑事強制措施，案件仍在偵辦中。