關(guān)于算法歧視，目前最廣為人知的表現(xiàn)形式為“大數(shù)據(jù)殺熟”。國務(wù)院反壟斷委員會將“大數(shù)據(jù)殺熟”界定為“社會公眾對互聯(lián)網(wǎng)平臺利用大數(shù)據(jù)和算法對用戶進行‘畫像’分析，從而收取不同價格等行為的概括性說法?！盵3]

參考上述界定，算法歧視可理解為平臺等在為用戶提供‘量身定制’的商品、服務(wù)時，基于其所收集的用戶數(shù)據(jù)（大數(shù)據(jù)），利用算法技術(shù)對用戶進行“畫像”分析,并基于該“畫像”結(jié)果有針對性地對不同用戶實施差別待遇或歧視待遇，其中包括價格歧視或交易條件歧視、身份或性別歧視、就業(yè)歧視、教育歧視、信貸歧視等。

關(guān)于平臺實施算法歧視的具體表現(xiàn)形式，結(jié)合《國務(wù)院反壟斷委員會關(guān)于平臺經(jīng)濟領(lǐng)域的反壟斷指南》（國反壟發(fā)〔2021〕1號，以下簡稱“平臺反壟斷指南”）第十七條，具體包括：（一）基于大數(shù)據(jù)和算法，根據(jù)交易相對人的支付能力、消費偏好、使用習慣等，實行差異性交易價格或者其他交易條件；（二）實行差異性標準、規(guī)則、算法；（三）實行差異性付款條件和交易方式等。

算法歧視的產(chǎn)生與互聯(lián)網(wǎng)技術(shù)的興起有著直接關(guān)系。特別是隨著平臺經(jīng)濟、數(shù)字經(jīng)濟的到來，以算法為代表的人工智能與大數(shù)據(jù)相結(jié)合的自動化決策技術(shù)在各個領(lǐng)域得到廣泛使用，算法日益滲透到我們生活的方方面面。平臺廣泛收集各種個人信息，根據(jù)消費者過去對特定商品的瀏覽時間、關(guān)鍵字的使用、搜索頻率及購物歷史等“足跡”、利用算法準確預(yù)測消費者的價格預(yù)期與興趣偏好，為不同消費者推薦不同商品、確定不同價格，從而提升個性化數(shù)字購物體驗、節(jié)省了選購時間。 

同時，對于平臺等經(jīng)營者而言，算法定價也具有相當?shù)膬?yōu)勢，不僅大幅降低了復(fù)雜定價、變更價格的成本，而且顯著提高了定價決策的質(zhì)量，實現(xiàn)商業(yè)利益的最大化。如果沒有算法技術(shù)，經(jīng)營者往往無從判斷買家的支付意愿和心理預(yù)期，而借助大數(shù)據(jù)、算法技術(shù)，經(jīng)營者便可通過海量數(shù)據(jù)分析了解客戶具體需求和預(yù)期，針對性地為客戶提出目標商品與目標定價方案，應(yīng)客戶需求變化優(yōu)化定價策略，實施動態(tài)價格管理，最終促成交易并將定價成本降至最低。

正是由于算法具有上述優(yōu)勢，導(dǎo)致其在各個領(lǐng)域的應(yīng)用日益擴大。但隨著大數(shù)據(jù)、人工智能、算法的結(jié)合，其在產(chǎn)生積極作用的同時，也正在改變著許多市場和行業(yè)的競爭格局，引發(fā)了價格歧視等各種問題。

算法歧視的產(chǎn)生、發(fā)展有其自身的原因和背景。首先，算法具有預(yù)設(shè)的價值取向，算法無法完全擯棄設(shè)計者自身的價值取向、意圖或者局限，難以完全實現(xiàn)中立、客觀。其次，作為算法計算基礎(chǔ)的“數(shù)據(jù)”也可能存在瑕疵，這會從根本上影響算法的計算結(jié)果。最后，技術(shù)本身的發(fā)展也具有不可預(yù)期性，特別是隨著深度學(xué)習技術(shù)的發(fā)展，從輸入數(shù)據(jù)到輸出結(jié)果的全過程都可能形成外界無法獲知的“算法黑箱”，這可能也會加劇算法歧視等問題。

隨著利用算法的自動化決策在金融信貸、投保、招聘篩選、公共服務(wù)等越來越多的場景中得到運用，如果對算法歧視等問題予以放任，除了可能對消費者的知情權(quán)、選擇權(quán)和公平交易權(quán)造成侵害外，還可能導(dǎo)致并加劇其他經(jīng)濟、社會問題，引發(fā)社會結(jié)構(gòu)固化、資源流動受阻、加劇社會不公等。

因此，如何在充分利用算法自動化決策積極作用的同時，降低或消除算法歧視等消極作用，是現(xiàn)今各國加強算法規(guī)制所面臨的共同背景和挑戰(zhàn)。

我國對算法歧視的規(guī)制體系，總體而言，可分為國家戰(zhàn)略規(guī)劃、相關(guān)法律法規(guī)、技術(shù)標準等三個層次。

關(guān)于國家戰(zhàn)略規(guī)劃，如2017年發(fā)布的《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》明確提出“制定促進人工智能發(fā)展的法律法規(guī)和倫理規(guī)范”、“建立健全公開透明的人工智能監(jiān)管體系，實行設(shè)計問責和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)，實現(xiàn)對人工智能算法設(shè)計、產(chǎn)品開發(fā)和成果應(yīng)用等的全流程監(jiān)管。促進人工智能行業(yè)和企業(yè)自律，切實加強管理，加大對數(shù)據(jù)濫用、侵犯個人隱私、違背道德倫理等行為的懲戒力度?！贝送?，國家網(wǎng)信辦等九部門最新發(fā)布的《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》（國信辦發(fā)文〔2021〕7號）進一步提出，利用三年左右時間，逐步建立治理機制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。

在法律法規(guī)層面，除《反壟斷法》相關(guān)規(guī)定外，《電子商務(wù)法》、《個人信息保護法》等多部法規(guī)都對算法規(guī)制作出規(guī)定，具體如下表所示：

除了上述規(guī)定外，我國還頒布了大量的實施細則、政策規(guī)定。2019年12月15日發(fā)布的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第十二條明確要求，網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺采用個性化算法推薦技術(shù)推送信息的，應(yīng)當設(shè)置符合法律要求的推薦模型，建立健全人工干預(yù)和用戶自主選擇機制等。2020年8月20日發(fā)布的《在線旅游經(jīng)營服務(wù)管理暫行規(guī)定》第十五條明確規(guī)定，在線旅游經(jīng)營者不得濫用大數(shù)據(jù)分析等技術(shù)手段，基于旅游者消費記錄、旅游偏好等設(shè)置不公平的交易條件，侵犯旅游者的合法權(quán)益。

在技術(shù)標準體系層面，我國目前已發(fā)布《國家新一代人工智能標準體系建設(shè)指南》、個人信息及信息技術(shù)安全等一系列國家標準體系及認證監(jiān)管體系。以個人信息為例，國家標準《GB/T 35273—2020信息安全技術(shù) 個人信息安全規(guī)范》對個人信息、用戶畫像使用等作出明確限制。按其規(guī)定，個人信息控制者在業(yè)務(wù)運營或?qū)ν鈽I(yè)務(wù)合作中使用用戶畫像，不應(yīng)侵害公民、法人和其他組織的合法權(quán)益……除為實現(xiàn)個人信息主體授權(quán)同意的使用目的所必需外，使用個人信息時應(yīng)消除明確身份指向性，避免精確定位到特定個人。例如，為準確評價個人信用狀況，可使用直接用戶畫像，而用于推送商業(yè)廣告目的時，則宜使用間接用戶畫像。

總體而言，由于算法技術(shù)仍在不斷發(fā)展，因此，相關(guān)法律規(guī)定也處在動態(tài)的變化之中，仍需持續(xù)關(guān)注。下文，我們將主要從反壟斷法角度就我國算法歧視相關(guān)規(guī)制予以說明。

目前，我國關(guān)于算法歧視反壟斷規(guī)制最具體的規(guī)定為平臺反壟斷指南第十七條。該條規(guī)定專門就平臺利用自動化決策機制實施差別待遇作出規(guī)定，并列明了具體的表現(xiàn)形式。

按照平臺反壟斷指南的規(guī)定，具有市場支配地位的平臺經(jīng)濟領(lǐng)域經(jīng)營者通過大數(shù)據(jù)和算法對交易條件相同的交易相對人實行差別待遇，如差異性定價或其他交易條件、實行差異性標準、規(guī)則、算法或?qū)嵭胁町愋愿犊顥l件和交易方式，可能屬于濫用市場支配地位、排除和限制競爭的行為，并受到反壟斷法的規(guī)制。但并非所有的差異性定價、差別待遇均屬于濫用市場支配地位的違法活動。在下列情形下，平臺經(jīng)濟領(lǐng)域經(jīng)營者實施差別待遇行為可能具有一定的正當性：根據(jù)交易相對人實際需求且符合正當?shù)慕灰琢晳T和行業(yè)慣例，實行不同交易條件；針對新用戶在合理期限內(nèi)開展的優(yōu)惠活動；基于平臺公平、合理、無歧視的規(guī)則實施的隨機性交易；能夠證明行為具有正當性的其他理由。

結(jié)合上述規(guī)定來看，合法、正當?shù)乩盟惴ㄟM行用戶畫像、自動化決策并區(qū)別對待仍然為法律所允許、鼓勵。但是，超過合法、正當?shù)姆秶?，則可能會受到反壟斷法的規(guī)制。

截止目前，我國反壟斷執(zhí)法機構(gòu)已對多起涉及網(wǎng)絡(luò)平臺的濫用市場支配地位案件進行了查處，比如在最近國家市場監(jiān)管總局查處的阿里巴巴案、美團案中，都涉及利用算法、大數(shù)據(jù)及技術(shù)優(yōu)勢實施濫用市場支配地位的行為。

同時，在上述案件中，反壟斷執(zhí)法機構(gòu)除作出相應(yīng)的處罰決定外，還發(fā)布了《行政指導(dǎo)書》要求企業(yè)整改，其中特別要求：“不得利用技術(shù)手段、平臺規(guī)則和數(shù)據(jù)、算法等，實施壟斷協(xié)議和濫用市場支配地位行為，排除、限制市場競爭?！薄耙婪橄M者提供全面、真實、準確、及時的交易信息，不得違法收集個人信息和違法實施算法推薦，依法保護消費者個人信息和隱私，維護消費者利益?！?/p>

總體而言，對于網(wǎng)絡(luò)平臺經(jīng)濟領(lǐng)域算法歧視等濫用市場支配地位的查處，和其他類型的濫用市場支配地位一樣，也遵循大體相同的規(guī)制思路，即界定相關(guān)市場并確定當事人具有市場支配地位，然后再分析是否存在市場濫用行為以及是否存在正當理由等抗辯事由。

在大數(shù)據(jù)和算法時代，濫用市場支配地位實施差別待遇行為的形式愈發(fā)多樣、手段愈發(fā)隱蔽，導(dǎo)致今后對其的規(guī)制需要更多地考慮算法規(guī)則、自動化決策過程等技術(shù)性問題，這也加大了反壟斷執(zhí)法機構(gòu)的查處難度。但這些問題并不會從根本上降低相關(guān)違法違規(guī)行為被查處、處罰的風險。

相反，考慮網(wǎng)絡(luò)平臺算法歧視對市場競爭的重大危害，反壟斷執(zhí)法機構(gòu)日益關(guān)注這一領(lǐng)域的壟斷行為。平臺反壟斷指南的頒布以及我國《反壟斷法（征求意見稿）》都體現(xiàn)了這一點。因此，通過建立反壟斷合規(guī)制度、確保算法合規(guī)，有助于平臺企業(yè)在日常經(jīng)營中預(yù)防、減少壟斷行為，最大程度降低壟斷法律風險和成本。                                         

對于算法合規(guī)的原則和方法，國家網(wǎng)信辦于今年8月27日發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》，對應(yīng)用算法推薦技術(shù)[5]提供互聯(lián)網(wǎng)信息服務(wù)的基本原則、基本管理制度作了較為全面而系統(tǒng)的規(guī)定。這也可以作為企業(yè)建立算法合規(guī)的一個重要參考，現(xiàn)將其主要內(nèi)容整理如下：

當然，上述互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》并非最終發(fā)布的正式規(guī)定，對其后續(xù)立法動態(tài)還需關(guān)注。