超碰在线播放中文字幕,伊人中文字幕,伊人精品影院,97国产超碰一区二区三区
首頁|新聞中心|電視點播|走進宣城|文房四寶|民主考評|宣城房產|廣電傳媒|印象宣城 設為首頁|收藏本站
打開算法“黑箱”
來源:新華網 作者: 發表時間:03-24 15:49

隨著大數據、人工智能等信息技術的快速發展,我們正在進入“算法經濟時代”。以深度學習為代表的人工智能算法在互聯網信息傳播、數字經濟發展、信息產業服務等諸多方面發揮了重要作用,產生了溢出性極強的經濟效益。

然而,當前人工智能算法通常依賴于數據驅動的方式,其行為不可控、決策機理難解釋,帶來了公平性、隱私性等相關安全問題。更嚴重的是,人工智能算法“黑箱”特性導致了算法治理困難,加劇了算法被資本利用的可能,給算法經濟的發展帶來一定負面影響。事實上,近年來算法“黑箱”特性的負面作用正在凸顯。一些平臺利用算法決策侵犯受眾權益的問題層出不窮,傳統監管手段失效,極易引發監管機構信任危機。

監管信任危機的根源在于企業在數據和算法上的非對稱優勢。當前,基礎數據的所有權和控制權主要集中在互聯網平臺企業,這些企業全程操縱算法設計、運行、測試和分析,由此占據著優勢地位。監管部門在“算法社會”中已經呈現出被邊緣化的趨勢,極易失去對關鍵數據和關鍵算法的監督權和控制權。這意味著,算法“黑箱”的存在勢必導致私人利益主觀上俘獲公共利益,以及資本主觀上規避公權力約束等風險的產生。同時,算法“黑箱”客觀上隱藏了算法自身存在的缺陷,并可能觸發安全風險,讓監管機構難以審查算法信息。監管機構規制算法的內容與手段均受到限制,難以及時針對算法問題進行問責和糾偏。

例如,一些平臺基于用戶信息,對用戶進行“大數據殺熟”,即對于同樣的商品或服務,新用戶的價格比老用戶便宜許多,暗中形成市場歧視,踐踏市場公平,侵害消費者權益和政府公信力。而互聯網平臺企業使用的動態定價算法存在的潛在缺陷,則可能造成算法共謀,即在多個動態定價算法同時被使用時,在人們不知情的情況下通過算法對市場進行壟斷,從而提高市場價格,產生寡頭。除了商業領域,“黑箱”讓諸多算法流程處于出不透明的狀態,公民的知情權在相當程度上失去保障。

我國“十四五”國家信息化規劃提出,應建立健全規范有序的數字化發展治理體系。2022年1月份發布的《互聯網信息服務算法推薦管理規定》,明確反對算法歧視、大數據殺熟、誘導沉迷等算法的不合理應用。而算法治理法律法規、監管標準規范、監管技術及平臺的缺失缺位,是建立健全算法治理體系中的三大挑戰。

應對挑戰,尤其需要從法律責任、行政責任、道德責任三方面構建算法治理法律法規體系,推動社會各方之間的合作互信。在法律責任層面,國家應制定、完善相關法律法規,在多元主體之間建立起監管算法“黑箱”的共同準則。在行政責任層面,著眼于行政審查、行政監管與行政問責,制定技術標準和操作守則,要求平臺企業使用的算法符合法律法規要求、符合公共利益,削弱或消除算法“黑箱”造成的負面影響;在道德責任層面,著眼于算法倫理的嵌入,監管部門應該要求平臺在算法設計上符合社會一般道德觀念、價值與規范。

針對算法設計、應用、監管等全流程治理問題,需要構建算法基礎標準、風險評估標準、安全等級標準以及監管標準等完整的標準規范體系,分級分類,設立全面、清晰、可操作的技術指標體系,做到實時可控可監管。算法企業應積極主動配合國家算法治理過程,依據相關標準要求,制定和公開算法相關信息,提升算法透明度。與此同時,發揮社會組織監督作用,加強第三方監督,平衡算法信息的不對稱。

針對算法“黑箱”風險難定義、難監管、難預防、難取證、難追責等問題,需要推動研究院所、企業、高校和政府的技術合作,突破度量評估、行為監測、風險防護、博弈演化、突變溯因等原創理論與核心技術,創建并豐富監管技術手段,確保算法在各個階段中的安全風險可控。為實現算法治理自動化、標準化,還應當開展算法全周期、立體化智能評測和監測技術的研發,構建可解釋性、隱私保護、公平性、魯棒性兼顧的安全可信的算法監管平臺。(劉祥龍 作者系北京航空航天大學軟件開發環境國家重點實驗室副主任,計算機學院教授、博士生導師)

(刊于《半月談內部版》2022年第3期)

【責任編輯:admin】

用戶評論

已有0人評論
    新聞快報 閱讀全部
    社會萬象 閱讀全部