通過抓取用戶日常的使用數據，分析得出人們的行為、習慣和喜好，進而精準化地提供信息、娛樂、消費等各類服務。近年來，算法推薦技術為人們提供了許多便利，與此同時，“大數據殺熟”、流量造假、誘導沉迷消費等不合理應用也給我們的生活帶來煩惱。

今天起，國家網信辦等四部門聯合發布的《互聯網信息服務算法推薦管理規定》(以下簡稱《規定》)正式施行。

算法無處不在

濫用問題不斷

對于普通用戶而言，算法摸不著也看不懂，卻在廣泛影響著我們通過各種平臺獲取互聯網信息服務。為了打破算法摸不著也看不懂的“黑箱”，《規定》明確要求保障用戶的算法知情權和算法選擇權，應當向用戶提供不針對其個人特征的選項，或者便捷的關閉算法推薦服務的選項。

《規定》要求算法推薦服務提供者應當堅持主流價值導向，積極傳播正能量，建立完善人工干預和用戶自主選擇機制，不得利用算法實施影響網絡輿論、規避監督管理以及壟斷和不正當競爭行為。

不得實施差別待遇

劍指大數據“殺熟”

同樣的送餐時間、地點、訂單、外賣平臺，會員卻比非會員多付錢;同時同地打同類型車到同一目的地，某打車平臺曾被用戶發現熟客反而收費更高……近年來，一些企業利用個人信息搞大數據“殺熟”，對不同群體進行差別定價，實行“價格歧視”，讓消費者十分反感。

對此，《規定》提出，算法推薦服務提供者向消費者銷售商品或者提供服務的，應當保護消費者公平交易的權利，不得根據消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。

專家強調，《規定》還明確保障用戶的選擇權、刪除權等權益。通過向用戶提供不針對其個人特征的選項，或向用戶提供便捷的關閉算法推薦服務的選項，并提供選擇或刪除針對其個人特征的用戶標簽的功能，避免消費者被算法“算計”。

保護勞動者合法權益

避免被算法所“困”

2020年9月，一篇名為《外賣騎手，困在系統里》的文章備受關注。文章稱，在外賣平臺系統的算法與數據驅動下，外賣騎手的配送時間不斷被壓縮。為避免差評、維持收入，外賣員不得不超速、違章，遭遇交通事故的數量急劇上升。

據了解，互聯網平臺優化算法主要通過大數據分析算法模型計算出業務經營的最佳策略，與此同時，與算法相配合的還有一整套嚴格的績效考核機制，一旦違背部分算法規則，則會在考核中失去“優勢”，并可能帶來了一些惡性應對行為。

對此，《規定》專門提出，算法推薦服務提供者向勞動者提供工作調度服務的，應當保護勞動者取得勞動報酬、休息休假等合法權益，建立完善平臺訂單分配、報酬構成及支付、工作時間、獎懲等相關算法。

清華大學人工智能國際治理研究院副院長 梁正：由于機器還在發展階段當中，針對一些勞動工作場景，把決定權力交給機器，有很大的潛藏的公平性、可靠性的風險。

確保算法公開透明

嚴防刷量控評影響輿論

在娛樂行業，部分流量明星動輒可以拿到上億甚至十幾億的商業回報，明星商業平臺無所不用其極地制作話題進行炒作。品牌方也深諳此道，甚至運用手段刻意制造不同粉絲的矛盾，掀起罵戰來博眼球、拉流量。

雇傭網絡“水軍”實施流量造假，鼓動“飯圈”粉絲互撕，刷量控評……在這一過程中，還有一些算法推薦服務提供者干預熱搜，影響網絡輿論。

《規定》要求，算法推薦服務應遵循公開透明的原則，鼓勵算法推薦服務提供者綜合運用內容去重、打散干預等策略，優化規則透明度和可解釋性。建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發布審核等管理制度，不得利用算法操縱榜單、控制熱搜等干預信息呈現。

防止誘導沉迷消費

保護特殊群體利益

如何防止誘導用戶沉迷、過度消費，保護未成年人等特殊群體的權益?《規定》提出，算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，不得設置誘導用戶沉迷、過度消費等違反法律法規或者違背倫理道德的算法模型。

針對未成年人，《規定》提出，算法推薦服務提供者不得向未成年人推送可能引發未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務誘導未成年人沉迷網絡。

監管如何落地落實?《規定》明確，事前監管，確立算法備案、算法評估等制度;區分監管，確立分級分類的思路;系統監管，建立多元共治的局面。

專家認為，《規定》著力完善治理體系，實現事前事中事后全流程、全鏈條監管。算法推薦服務提供者如違反相關規定，會被處以警告、通報批評、罰款等，必要時還將給予治安管理處罰和追究刑事責任。

來源/央視新聞