校園AI科技監控防暴力 卻洩學生隱私

全國有許多學區利用AI人工智慧驅動的軟體科技，全天候監控由校方發給學生的平板或筆記型電腦等設備，藉此追蹤或偵測危險跡象，以預防學生心理健康危機和槍擊威脅，盡管出發點是保護學生安全，但這些AI監控工具和手段，已引發隱私和安全風險的嚴重疑慮。

西雅圖時報(Seattle Times)和美聯社12日報導，由八個新聞編輯室組成的教育報導合作組織正在調查學校AI監控所帶來的意外後果；他們向華盛頓州溫哥華公立學校(Vancouver Public Schools)學區提出取得當地監控技術記錄請求後，竟獲得近3500份未經刪節的學生敏感文件。

這些文件內容顯示，使用這些設備的學生個人生活中存在著各種焦慮，如憂鬱、心碎、自殺、上癮、霸凌和飲食失調等，文件內容還有他們寫的詩歌、論文、與AI聊天機器人交談摘錄等。

任何學區和知道文件連結的人士都可以閱讀所有內容；文件沒有防火牆或密碼保護，學生姓名也未被隱蔽。這項科技也暴露了LGBTQ+學童身分，削弱學生和校方人員之間的信任，似乎也未能全面保證學校安全。網路安全專家警告，這是「巨大安全風險」。

美聯社報導，溫哥華公校追蹤學生線上活動監控軟體由Gaggle安全管理公司開發；全國約1500個學區以Gaggle軟體追蹤約600萬名學生線上活動；其他類似軟體公司還有GoGuardian和Securly等。據聯邦參議院調查，2021年有逾7000所學校或學區使用GoGuardian監控產品。

溫哥華公校為洩漏文件道歉，但仍強調有必要使用Gaggle保護學生健康。Gaggle使用機器學習演算法掃描學生線上搜尋或撰寫的內容；若Gaggle員工確認問題可能很嚴重，公司就會向學校發出警報。

溫哥華Skyview高中校長邁耶(Andy Meyer)表示，「保護學生無價；當我們成功提早干預，就覺得這種作法非常積極。」

該學區家長福斯特(Dacia Foster)讚揚學區努力保障學生安全，她說：「我希望避免發生校園槍擊案或自殺事件。」但在得知學區無意間對外公布這些內容後，她說：「這實在不太好。但我有什麼選擇呢？讓孩子輟學？」