AI生成「假裸照」新州女高中生受害

新澤西州威斯特菲德高中(Westfield High School)女學生日前發現網路流傳自己的色情圖片，事後證實是透過人工智慧(AI)生成的假圖片，家長雖已報警處理，但受害女學生目前仍心有餘悸，當地議員也打算立法禁止相關行為。

華爾街日報報導，威斯特菲德高中證實有學生利用AI線上工具，製作女學生的裸照並與同學分享，不過，詳細的受害學生人數以及是否已祭出處罰則未透露。部分家長表示自己女兒事後感到羞辱和無助，並擔心如果圖片進一步曝光，會對女學生造成傷害。目前當地警方已著手調查，議員也要求檢察官介入。

家長表示，10月20日一名男同學跟女同學透露，有同學利用女同學在網路的照片，使用AI網站製造色情圖片並分享給聊天室的其他男生，事情才因此曝光。同日該校校長阿斯芬迪斯(Mary Asfendis)向家長表示，圖片已經刪除並未流傳出去，她說，「這是非常嚴重的事。」

受害學生家長瑪尼(Dorota Mani)則說，「我一想到這件事會如何演變，就非常害怕，沒有人能保證這不會在她的職業、學術或社交方面造成影響。」

負責辨識AI生成假圖片技術的Reality Defender執行長科爾曼(Ben Colman)說，「幾年前，你需要好幾部電腦才能生成圖片，現在只要一支iPhone就行。」即使OpenAI的Dall-E與Adobe的Firefly等知名圖片生成服務都設有防堵生成色情圖片門檻，但網路上「換臉」或「脫衣」工具仍到處可見。

Snap與TikTok等業者則承諾會與政府部門合作防止這些圖片流傳。

目前包括維吉尼亞州、加州、明尼蘇達和紐約州在內少數幾個州已經禁止流傳偽造色情作品或讓受害者有權控告創作者。選區包含威斯特菲德的州參議員布蘭尼克(Jon Bramnick)則表示，正在設法了解是否有現有法律可針對這種行為定罪或推動相關法案。他說，「在新澤西，這必須被視為一項嚴重的犯罪」。