偽造校長聲 巴爾的摩高中主任藉AI造謠反猶

馬里蘭州檢察官25日表示，巴爾的摩派克斯維爾高中(Pikesville High School)體育主任達連(Dazon Darien)涉嫌利用人工智慧(AI)軟體偽造校長的聲音，音檔內容包括種族歧視與反猶太言論。

巴爾的摩郡州檢察官薛倫伯格(Scott Shellenberger)表示，此案是全美第一宗涉及AI的案件，呼籲當局制定新法規偵測，並修法應對濫用新科技的有心人士。

美聯社引述巴爾的摩郡警方說法報導，派克斯維爾高中體育主任達連偽造該校校長的聲音，回應兩人對於達連工作表現不佳，以及是否續聘的談話內容。

警方表示，達連還假借該校女足教練的名義，支付1900元給室友。

警方在起訴書中寫道，達連還偽造一段音檔，稱校長不滿意非裔學生的考試成績；此外，這段音檔還錄到校長詆毀猶太人和兩名教師。

法院文件指出，這段音檔迅速在社群媒體上流傳，害該名校長被停職及其他「深遠影響」。

當局表示，這段錄音讓校長及其家人面臨「龐大風險」，需要警察在他家站崗維安。

警方表示，這段音檔在社群媒體引發仇恨風波，許多不滿人士打電話到學校，不僅影響校園活動且讓教職員感到不安；起訴書寫道，「教師擔心校園多個角落被裝竊聽器」。

31歲的達連被控盜竊、干擾學校活動、跟蹤和報復一名證人，他25日以5000元交保，不清楚他是否請律師。

薛倫伯格認為，馬州議會需要革新州法，應對新技術帶來的邪惡可能性，例如干擾學校活動「只能判6個月」，「但我們需要廣泛研究AI若遭濫用，可能造成何等傷害。」

巴爾的摩刑事探員已協請專家分析達連的音檔，丹佛科羅拉多大學(CU Denver)教授告訴警方，音檔「包含AI生成內容的痕跡，且經人為編輯增加擬真的背景噪音。」柏克萊加州大學(UC Berkeley)教授則表示，這段音檔「拼湊多段錄音」而成。

法院文件指出，巴爾的摩郡檢方發現達連使用大型語言模型(Large language model)，如OpenAI和Bing Chat，這些模型可指導用戶如何創造合成影音。