你的醫療保險給付多少 竟由AI決定？彷彿作業黑箱

新聞周刊(Newsweek)24日報導，隨著人工智慧(AI)技術蓬勃發展，越來越多保險公司使用AI評估醫療保險給付申請，但作業過程彷彿黑箱(black box)，外界無從得知，包括德州在內等州擬推動立法，加強規範。

醫療保險給付申請是否核准交由AI決定，引發爭議之處包括錯誤機率提高、先入為主的偏見更加嚴重。某些倡議人士說，後果可能導致病患申請內容沒有得到公平審查。

賓州大學(University of Pennsylvania)教授巴斯塔尼(Hamsa Bastani)說，保險公司接到民眾申請給付時，AI會透過演算法檢查細節，包括醫療項目請款代碼、患者病歷、過去申請理賠狀況，綜合分析申請是否合理且遵守規定。她說，如果申請內容大致正常，AI可能自動決定同意給付，若有疑慮則可能轉由人工檢查，但審查過程究竟全面採用AI還是仍有某種程度的真人參與，外界很難知道。

顧問機構麥肯錫公司(McKinsey & Company)評估，對於醫療保險業者來說，使用AI快速處理理賠具有降低成本、增加收入的好處；保險公司每100億營利能因此省下1億5000萬到3億之間的行政開銷，還有3億8000萬至9億7000萬之間的醫療費用，AI科技還可以為保險公司創造2億6000萬到12億4000萬之間的額外營收。

喬治城大學(Georgetown University)教授弗萊希爾(Will Fleisher)說，把AI做為工具可以加快保險公司行政處理手續並且減少成本開銷，但主管機關應該對於AI技術的使用具有更多掌握。他指出，醫療保險公司使用AI可能變成黑箱作業，沒有人真正了解AI內部運作，導致主管機關對於AI系統做出的決定缺乏信心，保險公司對於某些AI決定則很難自圓其說。

弗萊希爾指出，如果AI系統變成黑箱，等於為保險公司提供拒絕給付的掩護，把所有原因都推給電腦。

報導指出，包括聯合健保(UnitedHealth)、惠安納(Humana)、信諾(Cigna)在內的知名保險公司，都紛紛面臨演算法導致能夠救命的醫療項目申請遭拒的聯合訴訟。其中一件官司指控信諾保險2個月內拒絕給付案例達30多萬件，平均每個案件僅耗時1.2秒就拍板定案。

共和黨籍德州州眾議員史皮勒(David Spiller)本月稍早提案，要求禁止保險公司透過AI延遲、拒絕或更改消費者的給付申請。