涉非法生成裸照 金山市府告16個AI情色網站 創全美首例

舊金山市府律師邱信福（ David Chiu ）15召開媒體發布會，宣布對由人工智慧（AI）非法生成情色照片的網站，提起全國首例訴訟。因這些網站在未經當事人同意的情況下，就將社交媒體上的私人照片，了裸體或是情色圖像傳播，以謀取營利或用於敲詐勒索。

邱信福辦公室給出的案例表示，針對16個訪問量最大的網站提起訴訟。這些網站被指在用戶未經同意的情況下，自動生成裸體圖像，侵權範圍從巨星泰勒絲（Taylor Swift）、好萊塢明星到高中生和中學生群體，如在2024年2月，人工智慧產生的16名8年級學生的裸照在加州1所中學內流傳。

創建和傳播非法人工智慧生成的色情內容，偽造色情圖像氾濫傳播，均違反了加州和聯邦法律。邱信福辦公室指控網站運營商違反加州和聯邦禁止偽造色情內容、復仇色情內容和兒童色情內容法。

邱信福表示，生成式人工智慧有著巨大的前景。但與所有新技術一樣，也會產生意想不到的後果，並且犯罪分子也會試圖利用新技術。「民眾必須非常清楚，這不是創新，是性虐待。我們辦公室必須嚴厲打擊所有利用人工智慧剝削和侵犯個人權益的行為。」

因AI生成的這些圖像與真實照片幾乎沒有區別，因此生成圖像被用來勒索、霸凌、威脅和羞辱女性。聯邦調查局警告，使用未經同意的人工智慧生成的「色情內容勒索案件」有所增加。更糟糕的是，未經同意的偽造色情內容的受害者，在被偽造的肖像傳播後，幾乎沒有途徑辯解和維權。

被訴訟的16個訪問量最大的網站，只2024年前六個月總造訪量就超過2億次。舊金山市府律師辦公室的訴訟指控他們行為違反了加州的「不正當競爭法」，並永久限制被告從事這一非法行為。訴訟還尋求民事處罰和賠償訴訟費用等。

任何非自願生成圖像受害者或擁有相關資訊者，可透過投訴熱線 (415) 554-3977 與市府律師辦公室取得聯繫，維護自身正當權益。