首位在G7演說的教宗…方濟各談「AI危害」籲禁用致命自主武器

羅馬天主教教宗方濟各（Pope Francis）15日成為首位在七大工業國集團（G7）峰會發表演說的教宗，他針對人工智慧（AI）的危害發表演講時，呼籲禁用「致命自主武器」；並警告，「如果我們剝奪人們對自己與生命做決定的能力，讓他們必須仰賴機器做選擇，那麼我們會讓人類陷入沒有希望的未來。」

中央社引述法新社報導，87歲的方濟各說：「鑑於武裝衝突這一悲劇，我們迫切需要重新考慮所謂『致命自主武器』這類設備的研發與運用，最終禁止使用。」

他在義大利南部普利亞（Puglia）召開的G7峰會上說：「這一切要從有效且具體的承諾開始，即導入更強大且適當的人為控制。本來就不應該讓機器選擇奪走人命。」

方濟各應義大利總理梅洛尼（Giorgia Meloni）之邀對G7峰會發表演說，他一再譴責軍火工業以及他所稱從戰爭與死亡中獲利的行業。

AI技術已應用在戰場上，如今，AI進入現代戰爭的趨勢令人憂心忡忡，對戰爭局勢升級的風險以及人類在決策中的作用感到擔憂。

AI已自我證明是速度更快，但不見得更安全或更有道德的科技；此外，發展無需人類干預就能殺人的武器系統，構成道德與法律挑戰。

方濟各對與會領袖表示：「AI是令人興奮且畏懼的工具。」但他警告：「如果我們剝奪人們對自己與生命做決定的能力，讓他們必須仰賴機器做選擇，那麼我們會讓人類陷入沒有希望的未來。」

教宗方濟各說：「我們需要保證和保護人類對選擇人工智慧程式的過程，進行有意義的控制，人類尊嚴本身就取決於它。」

他還表示，「機器不應奪走人類的生活，人民不應該讓強大的演算法來決定命運」。

方濟各提到，人工智慧可以解決許多勞力密集的任務，或讓學術研究、科學研究大幅加速，但人工智慧仍有可能受到欺詐，並傳播假訊息，教宗說，「它（AI）不會發想出新的分析或概念，而是不斷重複其所發現的內容」，這代表著AI有可能讓假訊息成真，也會讓主流文化更加強勢。

由英國、加拿大、法國、德國、義大利、日本與美國領袖齊聚一堂的G7峰會，15日稱AI「可在促進社會進步與發展上能扮演關鍵角色」。

G7領袖發表聯合聲明說：「我們認知到AI對軍事領域的影響，以及建立負責任發展使用框架的必要性。」