Spokeo執行長湯京曄:生成式AI 加劇虛假訊息
Spokeo執行長暨共同創辦人湯京曄(Harrison Tang)在北美台灣科技年會演講時談到生成式AI的風險,包括加劇虛假訊息、製造分裂和壟斷。
湯京曄說,生成式AI讓製造虛假和錯誤訊息更加容易,「只要按幾個鍵」。雖然可以用AI模型偵測虛假和錯誤訊息,但大多數偵測模型不如生成模型優秀。應結合數位簽名的使用,確保內容不被偽造和竄改;追蹤出處,知曉創作內容的人物、地點、時間、內容、方式和原因;實施監管,確認可以信賴的技術、信息源;以及教育民眾相關技術的優點和缺點。
湯京曄指出,AI可以製造更多分裂,因為推薦引擎和個人化系統以用戶參與度為目標,篩選出它們認為用戶想看的內容,導致「人們活在自己的回音室裡,他們相信不同的現實。」
「現實從根本上來說是多維的。所有人都只能看到一個視角、一個側面。」他說,「如何才能更好人們願意看到其他人的觀點,是一個非常棘手的問題。」
另一方面,AI也增強了集權。因為數據市場和數據生態系統本質上是自我強化並形成壟斷,所以用戶越多,數據越多,演算法模型就越強。
最後,對於生成式AI發展帶來的種種問題,湯京曄認為,挑戰總是存在的,人工智慧不會是最後一個。而機會也會伴隨挑戰出現,關鍵在於個人是否準備好迎接挑戰。「成長就是克服挑戰、解決問題的過程。」他說。
留言