當你搜索關鍵詞時，搜索引擎會計算該向你顯示哪些搜索結果﹔當你登錄視頻網站時，某些系統會推薦一些你喜歡的節目﹔新聞類App會利用算法決定向你更新哪些信息。顯然，我們生活在一個算法的時代，算法為人們的日常學習、生活和工作提供了極大便利。但需要警惕的是，算法並非完美無缺——它不僅可能出錯，甚至還會產生嚴重的歧視問題。

算法歧視無處不在

算法就是一系列指令，告訴計算機該做什麼。作為一種數學理性的運用，人們原本期待算法能夠絕對客觀，但算法歧視的現象卻出人意料地頻頻出現。

算法歧視突出表現為以下幾類：其一，價格歧視。例如，早在2000年，某網站就曾經搞過算法“殺熟”，同一款DVD碟片，對老用戶報價26.24美元，對新用戶僅報價22.74美元。近年來，我國一些網購平台利用大數據“殺熟”的現象也是屢見不鮮。其二，性別歧視。例如，某網站研發了一套篩選簡歷的算法系統，結果顯示其對男性求職者有著明顯的偏好，女性求職者的簡歷常常分數不高。其三，種族歧視。例如，某國外著名網站上的高薪工作廣告更多地向白人顯示﹔智能照相機在照相時不停提醒亞裔睜開眼睛等。此外，基於宗教信仰、經濟狀況、外貌等形式的算法歧視也廣泛存在。

相較於人類歧視，算法歧視有其特殊一面。其一，算法歧視更加精准。算法能夠對每個用戶精准畫像，被打上歧視標簽的用戶絕無逃脫可能。其二，算法歧視更加多元。人類歧視通常依據的是性別、學歷等顯形特征，但算法能夠挖掘出更加深層次的隱形特征來作為其歧視處理的依據，包括網頁瀏覽記錄、購物記錄、行車路線等。其三，算法歧視更為片面。人類社會對於個體的判斷通常是綜合和動態的，而算法無法獲取或處理用戶的全部數據。其四，算法歧視更加隱蔽。傳統基於種族、性別、民族等特征的歧視是法律所禁止的，但算法卻可以規避這些規定。

算法歧視的原因剖析

數據是人工智能的養料，歧視性數據必然會產生歧視性結果。例如，2016年，某國外公司的AI聊天機器人上線，但在和網民聊天時卻被灌輸了許多臟話以及各種歧視的思想，結果迅速成為一名“不良少女”，上線不到一天就被迫下線。與此同時，不完整、不正確或不及時的數據也會產生算法歧視。例如，2016年舉行的首屆“AI國際選美比賽”，由於算法訓練的照片沒有包含足夠多的非白人面孔，結果導致絕大多數獲獎者都是白人選手。

算法本身存在缺陷或瑕疵也會引發歧視。算法決策總是需要設定某些變量或指標，而這些都是人為設定的，不排除摻入歧視的可能。例如，很多國際互聯網巨頭的男性雇員佔了2/3，技術崗位的比例更是高達4/5，這使得算法設計的過程中難免會摻入性別歧視的因子。與此同時，盡管算法是應對復雜工作的利器，但在其輸入層與輸出層之間卻存在“黑箱”，這加劇了算法歧視的復雜性。此外，算法本質上是一種分析、預測的數學技術，強調的是相關性，而非因果性，這決定了算法本身存在歧視的基因。

此外，算法作為人類利用的工具，縱使輸入的數據和算法技術本身都沒有問題，仍然存在歧視的可能。例如，算法能夠清晰地區分出消費能力強、忠誠度高的老客戶群體，但企業完全可能將之作為殺熟的依據，而非促銷讓利的參考。

算法歧視的治理之道

首先，完善算法的法律規制。一方面，規范算法利用的范圍、方式和限度。對於算法歧視，既要從公法層面嚴厲制裁濫用算法的企業等主體，也可以考慮在私法層面引入大規模侵權規則和懲罰性賠償規則。與此同時，對於高度敏感的數據應當禁止算法處理，包括種族、民族、宗教信仰等。另一方面，要賦予用戶更多的權利。用戶可以通過被遺忘權來刪除過時的數據，通過更正權來補充或更改錯誤或不完整的數據。還應參照歐盟《一般數據保護法》的規定，賦予用戶拒絕權和解釋權，即如果用戶認為算法的自動化決策存在歧視，那麼其有權拒絕接受處理結果。

其次，重視算法的技術規制。面對日新月異的人工智能技術，依靠單一的法律規則來應對算法歧視是難以奏效的。對此，建議引入算法的倫理設計，從一開始就將算法透明、算法可解釋、算法問責、算法審計等價值需求嵌入算法的設計當中。相較於法律的事后救濟，算法的倫理設計更強調預防的重要性，要求設計者在算法的設計階段遵守禁止歧視的法律和倫理規則，並通過自然語言將法律語言嵌入到算法的全生命運行周期中。

最后，探索算法規制的市場路徑。傳統理論認為，算法公平與企業的營利目標是沖突的，企業沒有動力推動算法公平的實現。然而，隨著用戶對於算法公平的需求越來越強烈，市場將會淘汰那些濫用算法的企業。對此，企業可以通過發布透明度報告等方式來公布算法公平指數，以贏得用戶信任。此外，公權力機關通過投資和採購的方式，也可以引導企業提高算法公平指數，減少算法歧視的發生。

（作者：鄭志峰，系西南政法大學民商法學院講師）

分享讓更多人看到