AI醫療缺乏國會監管 患者憂誤診、侵犯隱私

部分醫療領域正在積極使用人工智慧(AI)功能，然而國會尚未針對醫療領域的新AI技術制定法規。

AI產品進入市場，但缺乏政府要求新醫療設備或藥物所需的數據，拜登政府尚未決定如何處理聊天機器人等新興AI工具，這些工具能與病人互動並回醫師的問題；參院多數黨領袖舒默(Chuck Schumer)本周表示，距離立法還有幾個月的時間。

注重患者安全的倡議者警告，在政府實施更嚴格的監管方式之前，醫療專業人員可能使用AI系統，導致他們被誤導，這些AI系統可能誤診疾病、依賴有種族偏見的數據，或是侵犯患者的隱私。

布朗大學(Brown University)計算科學家范卡他蘇巴曼尼安(Suresh Venkatasubramanian)指出，醫師採用的AI系統缺乏良好的檢測，卻被用於病患，「這很糟糕」。

范卡他蘇巴曼尼安幫助拜登政府起草2022年10月發表的「人工智慧權利法案藍圖」(Blueprint for an AI Bill of Rights)，該藍圖呼籲對AI實施強力的人工監督，以確保AI發揮應有的作用。但這份文件仍只是一場空談，拜登尚未要求國會正式批准，也沒有任何議員有下一步動作。

有證據表明范卡他蘇巴曼尼安的擔憂有其道理，紐約市成立「終結臨床演算法種族主義聯盟」(Coalition to End Racism in Clinical Algorithms)，遊說醫療體系停止使用AI，該聯盟稱AI仰賴的資料集低估了非裔個案的肺容量(lung capacity)，以及非裔剖腹產後自然產的能力，且高估非裔的肌肉量。

甚至一些AI開發人員對於醫師如何使用他們的系統感到擔憂，Regard公司共同創辦人暨執行長班喬瑟夫(Eli Ben-Joseph)表示：「有時候當用戶習慣我們的產品後，他們就會開始盲目地相信系統。」

對此Regard實施保障措施，如果醫師動作太快或是沒有讀取系統的所有輸出，該AI系統就會發出警告。

儘管國會9月間曾與科技業領袖舉行一次峰會，但該制定何種做法國會還遠未達成共識。

10名打造這一科技的創新者接受政治新聞網站POLITICO的訪問，幾乎所有人都認可在沒有監督的情況下存在危險。