Spokeo執行長湯京曄：生成式AI 加劇虛假訊息、壟斷

Spokeo執行長暨共同創辦人湯京曄（Harrison Tang）在北美台灣科技年會演講時談到生成式AI的風險，包括加劇虛假訊息、製造分裂和壟斷。

湯京曄說，生成式AI讓製造虛假和錯誤訊息更加容易，「只要按幾個鍵」。雖然可以用AI模型偵測虛假和錯誤訊息，但大多數偵測模型不如生成模型優秀。應結合數位簽名的使用，確保內容不被偽造和竄改；追蹤出處，知曉創作內容的人物、地點、時間、內容、方式和原因；實施監管，確認可以信賴的技術、信息源；以及教育民眾相關技術的優點和缺點。

湯京曄指出，AI可以製造更多分裂，因為推薦引擎和個人化系統以用戶參與度為目標，篩選出它們認為用戶想看的內容，導致「人們活在自己的回音室裡，他們相信不同的現實。」

「現實從根本上來說是多維的。所有人都只能看到一個視角、一個側面。」他說，「如何才能更好人們願意看到其他人的觀點，是一個非常棘手的問題。」

另一方面，AI也增強了集權。因為數據市場和數據生態系統本質上是自我強化並形成壟斷，所以用戶越多，數據越多，演算法模型就越強。

最後，對於生成式AI發展帶來的種種問題，湯京曄認為，挑戰總是存在的，人工智慧不會是最後一個。而機會也會伴隨挑戰出現，關鍵在於個人是否準備好迎接挑戰。「成長就是克服挑戰、解決問題的過程。」他說。