警惕算法潛藏歧視風險

2019年06月23日06:24  來源:光明日報
 
原標題:警惕算法潛藏歧視風險

當你搜索關鍵詞時,搜索引擎會計算該向你顯示哪些搜索結果﹔當你登錄視頻網站時,某些系統會推薦一些你喜歡的節目﹔新聞類App會利用算法決定向你更新哪些信息。顯然,我們生活在一個算法的時代,算法為人們的日常學習、生活和工作提供了極大便利。但需要警惕的是,算法並非完美無缺——它不僅可能出錯,甚至還會產生嚴重的歧視問題。

算法歧視無處不在

算法就是一系列指令,告訴計算機該做什麼。作為一種數學理性的運用,人們原本期待算法能夠絕對客觀,但算法歧視的現象卻出人意料地頻頻出現。

算法歧視突出表現為以下幾類:其一,價格歧視。例如,早在2000年,某網站就曾經搞過算法“殺熟”,同一款DVD碟片,對老用戶報價26.24美元,對新用戶僅報價22.74美元。近年來,我國一些網購平台利用大數據“殺熟”的現象也是屢見不鮮。其二,性別歧視。例如,某網站研發了一套篩選簡歷的算法系統,結果顯示其對男性求職者有著明顯的偏好,女性求職者的簡歷常常分數不高。其三,種族歧視。例如,某國外著名網站上的高薪工作廣告更多地向白人顯示﹔智能照相機在照相時不停提醒亞裔睜開眼睛等。此外,基於宗教信仰、經濟狀況、外貌等形式的算法歧視也廣泛存在。

相較於人類歧視,算法歧視有其特殊一面。其一,算法歧視更加精准。算法能夠對每個用戶精准畫像,被打上歧視標簽的用戶絕無逃脫可能。其二,算法歧視更加多元。人類歧視通常依據的是性別、學歷等顯形特征,但算法能夠挖掘出更加深層次的隱形特征來作為其歧視處理的依據,包括網頁瀏覽記錄、購物記錄、行車路線等。其三,算法歧視更為片面。人類社會對於個體的判斷通常是綜合和動態的,而算法無法獲取或處理用戶的全部數據。其四,算法歧視更加隱蔽。傳統基於種族、性別、民族等特征的歧視是法律所禁止的,但算法卻可以規避這些規定。

算法歧視的原因剖析

數據是人工智能的養料,歧視性數據必然會產生歧視性結果。例如,2016年,某國外公司的AI聊天機器人上線,但在和網民聊天時卻被灌輸了許多臟話以及各種歧視的思想,結果迅速成為一名“不良少女”,上線不到一天就被迫下線。與此同時,不完整、不正確或不及時的數據也會產生算法歧視。例如,2016年舉行的首屆“AI國際選美比賽”,由於算法訓練的照片沒有包含足夠多的非白人面孔,結果導致絕大多數獲獎者都是白人選手。

算法本身存在缺陷或瑕疵也會引發歧視。算法決策總是需要設定某些變量或指標,而這些都是人為設定的,不排除摻入歧視的可能。例如,很多國際互聯網巨頭的男性雇員佔了2/3,技術崗位的比例更是高達4/5,這使得算法設計的過程中難免會摻入性別歧視的因子。與此同時,盡管算法是應對復雜工作的利器,但在其輸入層與輸出層之間卻存在“黑箱”,這加劇了算法歧視的復雜性。此外,算法本質上是一種分析、預測的數學技術,強調的是相關性,而非因果性,這決定了算法本身存在歧視的基因。

此外,算法作為人類利用的工具,縱使輸入的數據和算法技術本身都沒有問題,仍然存在歧視的可能。例如,算法能夠清晰地區分出消費能力強、忠誠度高的老客戶群體,但企業完全可能將之作為殺熟的依據,而非促銷讓利的參考。

算法歧視的治理之道

首先,完善算法的法律規制。一方面,規范算法利用的范圍、方式和限度。對於算法歧視,既要從公法層面嚴厲制裁濫用算法的企業等主體,也可以考慮在私法層面引入大規模侵權規則和懲罰性賠償規則。與此同時,對於高度敏感的數據應當禁止算法處理,包括種族、民族、宗教信仰等。另一方面,要賦予用戶更多的權利。用戶可以通過被遺忘權來刪除過時的數據,通過更正權來補充或更改錯誤或不完整的數據。還應參照歐盟《一般數據保護法》的規定,賦予用戶拒絕權和解釋權,即如果用戶認為算法的自動化決策存在歧視,那麼其有權拒絕接受處理結果。

其次,重視算法的技術規制。面對日新月異的人工智能技術,依靠單一的法律規則來應對算法歧視是難以奏效的。對此,建議引入算法的倫理設計,從一開始就將算法透明、算法可解釋、算法問責、算法審計等價值需求嵌入算法的設計當中。相較於法律的事后救濟,算法的倫理設計更強調預防的重要性,要求設計者在算法的設計階段遵守禁止歧視的法律和倫理規則,並通過自然語言將法律語言嵌入到算法的全生命運行周期中。

最后,探索算法規制的市場路徑。傳統理論認為,算法公平與企業的營利目標是沖突的,企業沒有動力推動算法公平的實現。然而,隨著用戶對於算法公平的需求越來越強烈,市場將會淘汰那些濫用算法的企業。對此,企業可以通過發布透明度報告等方式來公布算法公平指數,以贏得用戶信任。此外,公權力機關通過投資和採購的方式,也可以引導企業提高算法公平指數,減少算法歧視的發生。

(作者:鄭志峰,系西南政法大學民商法學院講師)

(責編:宋心蕊、趙光霞)

推薦閱讀

“2018新聞傳播學院院長論壇”舉行
  “2018新聞傳播學院院長論壇”11月10日在廈門大學舉行。人民日報社副總編輯盧新寧,福建省委常委、宣傳部部長、秘書長梁建勇,廈門大學黨委書記張彥,教育部高等教育司司長吳岩等與會並致辭。
【詳細】“2018新聞傳播學院院長論壇”舉行   “2018新聞傳播學院院長論壇”11月10日在廈門大學舉行。人民日報社副總編輯盧新寧,福建省委常委、宣傳部部長、秘書長梁建勇,廈門大學黨委書記張彥,教育部高等教育司司長吳岩等與會並致辭。 【詳細】

第五屆世界互聯網大會
  由國家互聯網信息辦公室和浙江省人民政府共同主辦的第五屆世界互聯網大會於11月7日至9日在烏鎮召開。本屆大會以“創造互信共治的數字世界——攜手共建網絡空間命運共同體”為主題。
【詳細】第五屆世界互聯網大會   由國家互聯網信息辦公室和浙江省人民政府共同主辦的第五屆世界互聯網大會於11月7日至9日在烏鎮召開。本屆大會以“創造互信共治的數字世界——攜手共建網絡空間命運共同體”為主題。 【詳細】