學生「AI冤獄」漸多 偵測軟體誤判？ 教育顧問建議這麼做

自從ChatGPT於2022年問世後，各級學校就開始尋求如何因應學生利用AI協助完成作業的解決方式，但檢測軟體有誤判的可能，錯誤的指控就可能對學生心理產生影響，而愈來愈多的學生認為自己被不當指控使用AI作弊。專家也分享幾項預防和應對AI作弊指控的方法。

普遍使用於偵測AI生成內容的系統Turnitin在AI生成內容低於20%時，發生誤判的機率就會變高，該公司表示，他們的系統不該被當作檢測學生作業的唯一依據。

ChatGPT問世後，許多教師使用如Turnitin的偵測軟體確認學術原創性，但專家說偵測軟體有將原創內容誤判為AI生成的風險。賓州大學去年的一項研究指出，AI偵測軟體很容易被拼字、標點符號和空格欺騙，建議不要使用於學術領域。史丹福大學2023年的一項研究指出，ChatGPT的偵測系統對母語非英語人士有偏見，ChatGPT的母公司OpenAI更因準確度太低，關閉了他們自己的AI偵測平台。

波德科羅拉多大學研究科技道德和網路政策的副教授菲斯勒(Casey Fiesler)說，單靠有系統偏見的AI偵測軟體來判斷學術原創性是不負責任的，風險太高，面對有瑕疵的演算法時很難為自己辯護。

學校的應對措施跟不上AI的快速發展也是一大問題，至今沒有一個通用的標準化規範；非營利教育組織EDUCAUSE去年針對AI的相關調查中，將近一半的教育界高層、員工和教師認為其服務的學校對於學生使用AI沒有適當的準則。

在這樣的情況下，學生能以幾個方式保護自己，避免陷入「AI冤獄」。首先，了解自己修習課程對AI工具的使用規範，若不幸被指控使用AI作弊，撰寫紀錄可以作為證明，紐約的教育顧問瓦格內羅瓦(Lucie Vágnerová)建議學生使用能儲存草稿的寫作軟體，提早開始撰寫、使用教授的課業時間及校內的寫作資源都能協助證明原創性，甚至可以將寫作過程中在網路上搜尋資料的紀錄畫面截圖作為證明。

為學生辯護的律師阿塞爾塔(Richard Asselta)建議學生在回應指控前和信任的長輩或同儕談談，並保持冷靜，因為他看過在相關案件中，被指控者犯的第一個錯誤就是回答前沒有仔細思考，結果說出讓他們被誤解的回應。