“殺豬盤”等電信網絡詐騙層出不窮，網絡平臺往往采取算法技術過濾不良信息。如果算法鬧出“烏龍”，平臺需要擔責嗎？近日，北京互聯網法院審結了首例涉及算法風控系統引發人身權益侵權糾紛的案件，認定被告某征婚交友平臺的誤判封號行為不構成對用戶的侵權。
李先生是一家金融公司的員工，他在某征婚交友平臺注冊賬號，并提交了真實照片作為頭像，實名認證了手機號。李先生稱，自己在正常使用平臺期間，賬戶被封了，其他網友還收到了提示，稱李先生的賬號“可能存在異常”“不要與之發生金錢來往”。李先生認為，這種情況導致多位朋友認為他是騙子，自己的名譽遭受損失。他訴至法院稱，平臺實施算法技術造成誤判侵犯其名譽權，請求判令平臺公開向自己道歉澄清，并賠償損失兩萬元。
為何李先生會被封號？被告某征婚交友平臺的運營者說，李先生在與其他用戶聊天過程中，短期內多次被檢測到出現“金融”“基金”“加好友”等“殺豬盤”詐騙案件所涉高頻詞匯，因此自動觸發了平臺風控系統的審核規則。經李先生致電客服反映情況，平臺人工核實后已對其賬戶進行了解封。平臺的行為僅是為公共利益依法履行主體監管責任，不存在侵權行為。
(資料圖片僅供參考)
訴訟過程中，被告平臺向法院提交了《關于涉案軟件風控審核系統的情況說明》及相關證據，說明其“預防性風控系統”算法邏輯機理，盡到了相應的算法披露義務。
北京互聯網法院審理認為，本案爭議焦點為被告采取涉案算法風控行為是否存在主觀過錯。根據涉案“預防性風控系統”針對的詞匯和行為可見，該系統設置目的確系為預防“殺豬盤”等網絡詐騙行為，系為實現法律要求的監管義務和公共利益，具有正當性。同時，根據已查明的事實及被告披露算法邏輯過程，涉案算法設置系基于特定詞匯和用戶行為的自動化反應機制，并不存在對某類用戶的歧視。
法院認為，鑒于涉案平臺為陌生人網絡交友戀愛類平臺，在目前社會背景下加強“殺豬盤”等網絡詐騙犯罪的篩查力度，于被告服務類型來說具有一定合理性。此外，被告公司也使用人工審核方式，在聲明的期限內核查了誤判，并解除了原告的賬戶封禁和風險提示，盡到了與涉案算法風險相匹配的注意義務。
綜上，北京互聯網法院認為，被告基于法律監管要求和公共利益保護的目的，設置“預防性風控系統”算法應用，對用戶行為進行中立、無差別的風險篩查，雖因技術水平所限造成系統誤判，但盡到了與涉案算法風險相匹配的注意義務，并采取了合理的預防侵權措施，并無主觀過錯，不構成侵權。
法院最終判決駁回原告李先生的訴訟請求。一審宣判后，雙方均未上訴，該案判決現已生效。
本案主審法官介紹說，算法應用過程存在技術隱蔽性，考察算法行為是否構成侵權的前提需明確涉案算法運行的機制機理。本案中被告作為涉案軟件的運營者，對算法應用過程具有披露義務，應提供證據證明涉案侵權行為系算法技術的實施所引發，并對算法運用的具體機理予以說明。
主審法官表示，這起案件首次對于算法應用于“風險控制”領域引發的侵權進行了審理。我國相關法律法規規定了網絡服務提供者需履行涉電信網絡詐騙信息監測、識別和處置的義務。因此，網絡服務提供者通過技術手段，強化對高危風險賬戶的監測和預防功能，具有算法技術運用的正當性。
中國社會科學院大學互聯網法治研究中心執行主任劉曉春認為，本案中，法院一方面承認了用戶權益在平臺經濟中應當受到充分保護，另一方面也認定了網絡平臺依據法律要求，履行打擊電信詐騙等治理義務的行為存在合法性基礎。當兩者出現一定程度利益沖突時，本案判決為平臺確立了合理的注意義務標準及具體認定因素，在個體用戶權益保護和實現社會治理功能之間尋求平衡點，為構建網絡空間治理秩序提供法治保障。
