面對AI用在生活的偏差



根據近兩年IBM、微軟系統、亞馬遜與Kairos的人臉辨識率發現,IA智慧因人種膚色而有所差異,也將影響它的應用程度。(圖片/達志影像shutterstock提供)

 

AI的進展已經從科技、商業、製造業、進入了我們的生活,許多事情都是AI替我們決定的,我們並不知情。申請學校、求職、人事考核升遷、貸款、購房、醫療、警力治安,甚至法官對罪犯量刑,原都是需要人的判斷又耗費時間的工作,運用或參考AI運算的結果,提升效率,又可避免人為介入之嫌,促使AI的運用範圍愈來愈廣。

 

我們相信AI,因為有科學的依據,AI是用龐大的資料,藉用一個模擬我們腦子的神經網路訓練的結果,這一程序製作無數的AI實例,告訴我們可以信賴。技術有了,資料更要可靠,所製作出來的AI才可以信賴。但應用在生活上的AI,多是從統計資料中找出相關的模式,而「相關」並不一定等於「因果」,這就會導致AI的偏差,有人可能因此受到不公平的對待。

 

康乃爾大學的Rediet Abebe教授,日前在MIT EmTech Digital的會議上說,AI研究人員必須面對「錯過了的機會」來增進社會福祉,AI務必深層的與社會科學以及弱勢社區合作,來確保AI工具不會製造的問題多過解決的問題。Abebe教授專精AI演算法,以及AI應用的社會福祉。所謂「錯過了的機會」,就是指AI應用的偏差。

 

美國是全球監禁人數最多的國家,據2016年的資料,有220萬人監禁在看守所與監獄,另外有450萬人在懲教機構接受教化,每38個美國人就有一個人的行動被限制或被監督。為了減少囚禁人數,同時又不冒增加犯罪的危險,開始採用自動化工具,希望盡可能的做到迅速又安全,例如用臉孔識別辨認嫌犯。

 

人臉辨識,是近年AI的一大進展,全球各地都相繼採用,作為身份的認證。那人臉辨識可靠嗎?用來辨認嫌疑犯不會認錯人嗎?當然會,亞馬遜的人臉識別系統不是把28位國會議員認成嫌犯嗎?據MIT媒體實驗室的研究,今年比去年改善不少,深膚色男性、深膚色女性、淺膚色男性、淺膚色女性,四大類別辨識率都有提升,唯有深膚色女性的辨識率,各個系統有很大差異。

 

2018年IBM系統的辨識率,淺男99.7%、深女65.3%,相差高達34.4%。Face++系統的辨識率,淺男99.2%、深女65.5%,相差33.8%。微軟的辨識率,淺男100%、深女79.2%,相差20.8%。其餘深男與淺女都在88%~99%之間,唯有深膚色女性的辨識率偏低。

 

2019年新加了兩家系統,亞馬遜、以及Kairos,亞馬遜的淺男與深女的比較為100%比68.6%,相差31.4%,Kaios的淺男與深女的比較為100%比77.5%,相差22.5%。而IBM、Face++、微軟三家的淺男與深女差異,分別下降為16.7%、3.6%、1.5%。至於深膚色女性的臉部辨識為什麼困難,有專家認為所取用的照片樣本太少,或者是照片的角度太少。

 

認臉可能讓警察抓錯人,隨著技術的改善,機會也會愈來愈小,但抓到人以後所用的「風險評估」,就比認錯臉嚴重多了。「風險評估」是一個評估再次犯罪的AI工具,評估結果給予「分數」。會不會成為屢犯,是法官對一個人犯量刑的考量,如果法官為了省事,用風險評估的分數作為量刑的標準,一旦這個分數出了偏差,就可能影響人的一生命運。

 

現代化的犯罪風險,是以歷史資料為基礎,如前所述,歷史資料是統計,從中找出相關的模式,並不代表因果關連。舉例來說,統計資料找出屢犯與低收入相關,如果以這個結果訓練「風險評估」,那低收入的人屢犯的風險分數必高,量刑也因此加重。但問題是,低收入與屢次犯罪並非有確定的因果關係,更嚴重的是,偏差的AI會繼續自我訓練,循環的結果,偏差的程度愈加愈大。

 

以上僅是兩個AI偏差的例子,近年有愈來愈多的學者指出AI用在生活上的偏差,特別在弱勢族群,製造有失公允的結果。Abebe教授呼籲大家要面對事實,結合科技與社會科學,共同來增進AI對社會的福祉,使得不再是「錯過了的機會」。為此Abebe教授發起一個跨領域的研究團體,「社會福祉機制設計」(Mechanism Design for Social Good),寄望成為一個大家合作與參與的典範。

 

記得一位專家說過,有了常識之後才是真正的AI。AI愈來愈打入我們的生活,生活又離不開常識,這一斷層,讓我們對AI疑慮、又得接受。在有常識的AI出現之前,這一窘境,也只能希望設計AI的人能加入一點常識來抒解。

 

 

 

★本文由那福忠「西海岸數位隨筆」授權轉載,與作者聯絡frank.na@gmail.com

 

 

 

點關鍵字看更多相關文章

延伸閱讀

物聯網在紅什麼?今年電腦展5大趨勢,教你秒懂智慧生活

隨著IoT物聯網的落實,全新數位應用服務,將顛覆你我生活和未來的商務模式。在今年的COMPUTEX中,可以看到物聯網在智慧生活等五大應用趨勢,讓人見識到龐大商機!

居家機器人超吸睛!智慧影像辨識功能,網路攝影機可統計人流、偵測身高

全球監控解決方案領導品牌晶睿通訊,在展場陳設了好玩的體驗服務。包含智慧型立體網路攝影機,可統計人流、偵測身高,適合運用在百貨公司或賣場中。保無限+生活誌。

搶先體驗,最聽話的機器人小管家

AI智慧當道,專家預言2020年後服務型機器人大爆發,每個人的家裡都可能出現一位機器人管家。