综合精品一区_超碰激情在线_a在线播放不卡_暖暖在线中文免费日本_成人免费毛片app_精品三级久久_欧美天堂在线观看_blacked蜜桃精品一区_涩涩视频免费网站_在线亚洲伦理

歐盟算法治理又有新動態(tài)。

近日，歐盟委員會通過了《數(shù)字服務(wù)法》（Digital Services Act，以下簡稱“DSA”）下的第一批確定決議，劃定總計19個超大型平臺，這些平臺將履行歐盟規(guī)定的一系列義務(wù)。4月底，歐盟宣布成立算法透明度中心（European Centre for Algorithmic Transparency，以下簡稱“ECAT”），為DSA監(jiān)管大型平臺提供技術(shù)支持。

受訪專家指出，DSA對超大型平臺和搜索引擎提出了更加全面的監(jiān)管要求，在算法治理方面的要求也更為直接和明確。DSA的落地施行、算法透明度中心以及劃定超大型平臺體現(xiàn)了歐盟打造人工智能領(lǐng)域規(guī)范性力量的野心。當前，人工智能革命的浪涌給算法透明帶來了新的影響和挑戰(zhàn)，未來，監(jiān)管、企業(yè)側(cè)均應(yīng)發(fā)力實現(xiàn)算法綜合治理。

(資料圖)

劃定監(jiān)管范圍、審查算法透明

根據(jù)《數(shù)字服務(wù)法》， 在2023 年 2 月 17 日每月活躍用戶達到4500萬及以上的平臺將被認為是大型平臺。此次劃定了17個超大型在線平臺(Very Large Online Platforms，以下簡稱“VLOP”)和2個超大型在線搜索引擎(Very Large Online Search Engines，以下簡稱“VLOSE”)。其中VLOP包括：阿里巴巴全球速賣通、亞馬遜商店、蘋果應(yīng)用商店、谷歌地圖、TikTok、推特、維基百科等，而VLOSE則是必應(yīng)、谷歌搜索。

據(jù)悉，在接下來四個月內(nèi)，這些平臺需要履行DSA規(guī)定的多項義務(wù)。包括發(fā)布關(guān)于內(nèi)容審核決策和風(fēng)險管理的透明度報告；識別、分析和緩解平臺的系統(tǒng)性風(fēng)險等。

4月底，歐盟還宣布成立算法透明度中心（ECAT），以期“為人們和企業(yè)創(chuàng)造一個更安全、更可預(yù)測和更值得信賴的在線環(huán)境”。

ECAT隸屬于歐盟委員會聯(lián)合研究中心( Joint Research Center，以下簡稱“JRC”)，JRC則屬于歐盟委員會，承擔(dān)歐盟專項計劃研究項目，為制定和執(zhí)行歐盟政策提供科技支持。JRC發(fā)布的2023-2024年的工作計劃中，打造值得信賴的人工智能，主持歐洲算法透明度中心工作是任務(wù)之一。

“對算法的監(jiān)管是一個復(fù)雜和技術(shù)要求極高的工作。”復(fù)旦大學(xué)國際問題研究院副研究員嚴少華解釋道，要對算法進行有效的監(jiān)管，首先要對算法的運行有深入的了解，將算法透明度中心設(shè)置在歐盟聯(lián)合研究中心下，可以借助聯(lián)合研究中心已有的研究力量開展工作。

北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括則指出，對于專門的問題設(shè)立專門設(shè)立的機構(gòu)解決，是歐盟在執(zhí)法方面一貫的思維和立場。ECAT體現(xiàn)了算法的透明度、算法的可解釋性在算法治理、平臺治理和數(shù)字服務(wù)治理方面的地位。

官網(wǎng)顯示，ECAT由數(shù)據(jù)科學(xué)家、人工智能專家、社會科學(xué)家和法律專家等多領(lǐng)域?qū)I(yè)人員組成。ECAT將利用技術(shù)、倫理、經(jīng)濟、法律、環(huán)境等多領(lǐng)域的專業(yè)知識，集中開展以算法透明度為重點的研究，確保數(shù)字服務(wù)的算法決策透明、可解釋，并符合DSA中平臺風(fēng)險管理義務(wù)。

ECAT的具體工作包括開展平臺評估和調(diào)查、科學(xué)研究與前瞻、交流和社群建構(gòu)三個方面的工作。

平臺評估和調(diào)查方面，ECAT將支持歐盟相關(guān)的調(diào)查、檢查；對算法系統(tǒng)進行技術(shù)測試；對VLOP和VLOSE提交的透明度報告、風(fēng)險評估和獨立審計進行分析；定義相關(guān)程序，確保監(jiān)管機構(gòu)和研究人員的數(shù)據(jù)訪問。

科學(xué)研究與前瞻的具體工作則包括識別和衡量與VLOP和VLOSE相關(guān)的系統(tǒng)性風(fēng)險和可能產(chǎn)生的新風(fēng)險，評估平臺的風(fēng)險緩解措施；研究算法的長期社會影響以及識別可能產(chǎn)生的新風(fēng)險；研究算法的長期社會影響。

ECAT還被賦予了促進交流和社群建構(gòu)的職責(zé)，未來將分享相關(guān)領(lǐng)域的科學(xué)發(fā)現(xiàn)和實踐案例。

數(shù)字服務(wù)法與歐盟的算法治理之路

在嚴少華看來，ECAT的建立以及對算法可信度和透明度的重視是歐盟在人工智能領(lǐng)域打造自身名片的嘗試。“歐盟在人工智能領(lǐng)域的技術(shù)和產(chǎn)業(yè)發(fā)展相對滯后，因此會尋求在制度和標準上發(fā)力，強化對人工智能相關(guān)規(guī)則的監(jiān)管，打造人工智能領(lǐng)域規(guī)范性力量的形象。”他還提到，歐盟正在醞釀的《人工智能法案》（AI Act）也是這種努力的一部分。

事實上，作為數(shù)字立法大國，歐盟近年來針對算法治理推出了多個規(guī)則、框架。早在2018年，歐盟就通過并施行了《通用數(shù)據(jù)保護條例》（General Data Protection Regulation，GDPR），對算法針對個人數(shù)據(jù)收集、檢索、使用等處理行為進行嚴格規(guī)制；首次在立法中提出和創(chuàng)設(shè)了“算法解釋權(quán)”，當數(shù)據(jù)主體認為算法決策得出的結(jié)果與自己預(yù)期不相符合時，有權(quán)要求獲得算法設(shè)計以及運行（即數(shù)據(jù)的分析處理過程）的解釋。

2019年，歐洲議會研究服務(wù)機構(gòu)發(fā)布《算法問責(zé)及透明治理框架》（A Governance Framework for Algorithmic Accountability and Transparency）則在算法相關(guān)權(quán)利確立的基礎(chǔ)上提出了全面的監(jiān)管框架。其中提到，算法及其在自動化決策系統(tǒng)中的應(yīng)用應(yīng)受到全面監(jiān)管，并就歐盟人工智能戰(zhàn)略中的“建立適當?shù)膫惱砗头煽蚣堋币筇岢稣呓ㄗh與規(guī)制路徑。

2020年12月，歐盟以“為所有人提供一個更安全、更公平的數(shù)字空間”為宗旨，公布《數(shù)字服務(wù)法》（Digital Services Act，DSA）和《數(shù)字市場法》（Digital Markets Act，DMA）兩份法律的草案。這兩份法案已分別于2022 年 11 月 16 日和2023年5月2日正式施行。

其中，DSA要求平臺，尤其是VLOP和VLOSE識別、分析和減輕其平臺上的一系列系統(tǒng)性風(fēng)險。其中就包括算法治理方面的義務(wù)，包括但不限于保證算法的透明度，評估推薦系統(tǒng)和其他相關(guān)算法機制的設(shè)計。

嚴少華指出，GDPR只要求對用戶產(chǎn)生重大影響的算法決策機制做出解釋，注重的是用戶的隱私保護和知情權(quán)，而DSA則對超大型平臺和搜索引擎提出了更加全面的監(jiān)管要求。

吳沈括則表示，新法案在數(shù)據(jù)保護領(lǐng)域是繼承和延續(xù)了GDPR的規(guī)定的核心要點，更加突出了算法治理和內(nèi)容治理方面的更為直接和明確的要求。

如何打破“黑箱”，踐行算法透明？

為何算法透明和算法治理如此重要？

“算法透明是技術(shù)性正當程序中的重要節(jié)點。”對外經(jīng)濟貿(mào)易大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心執(zhí)行主任張欣告訴南方財經(jīng)全媒體記者，所謂技術(shù)性正當程序，是指通過代碼公開、開發(fā)公眾參與程序、系統(tǒng)軟件測試等手段優(yōu)化計算機程序設(shè)計以提高自動化決策系統(tǒng)的透明性和可問責(zé)性。

作為技術(shù)性正當程序中的關(guān)鍵一步，算法透明它決定著人的知情權(quán)和參與權(quán)，沒有它，人們將無從知曉自動化決策做出來的邏輯和預(yù)期產(chǎn)生的后果；另一方面，如果算法運行不具有可解釋性，一旦產(chǎn)生相應(yīng)的侵害和危害，我們無從了解誰需為此負責(zé)，自然也難以獲得救濟。

以自動駕駛汽車為例，人工智能系統(tǒng)的運行涉及多個組件和節(jié)點，如果算法不具備解釋性、透明度，那么事故中的責(zé)任分配將會成為不可破解的難題。

從震蕩藝術(shù)界的AI作畫到影響全人類的GPT-4，AIGC可能引發(fā)的革命性變化受到越來越多的關(guān)注。

在張欣看來，ChatGPT及類似大型語言模型的研究和投入使用給算法治理帶來了新的影響。作為一種基于神經(jīng)網(wǎng)絡(luò)的自然語言處理技術(shù)，可解釋性差是大型語言模型天然的缺點。隨著應(yīng)用范圍的擴大，算法的研發(fā)者和設(shè)計者更應(yīng)履行好相應(yīng)的算法透明義務(wù)。使用了何種數(shù)據(jù)、數(shù)據(jù)的處理規(guī)則、如何做好數(shù)據(jù)的糾偏、如何保證算法公平性和多元性等問題都需要被關(guān)注和解決。

進入數(shù)字化時代，人類的日常生活與算法緊密交織。事實上，如何打開算法系統(tǒng)的“黑匣子”，使系統(tǒng)變得透明、可解釋是一個受到多方關(guān)注的問題。

2022年3月，美國國家標準與技術(shù)研究院（National Institute of Standards and Technology，NIST）發(fā)布《邁向識別和管理人工智能偏見的標準》，其中指出，人工智能系統(tǒng)需要更易理解和解釋，由于不同人對相同輸出結(jié)果的解釋也可能會存在明顯差異，因此需要一致的透明工具指南。

2020年英國信息專員辦公室(Information Commissioner"s Office，ICO)和艾倫·圖靈研究所共同編制的《人工智能決策解釋指南》發(fā)布，為算法提供服務(wù)者提供了一個框架，以便向用戶解釋使用AI系統(tǒng)做出的決策。

近年來，我國也出臺了一系列針對算法的規(guī)則，如《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等，“算法透明”的概念在其中也屢次被提及。

吳沈括從監(jiān)管、企業(yè)側(cè)給出了建議。他認為，監(jiān)管側(cè)需要提升專業(yè)的技術(shù)配備，提高技術(shù)能力，尤其是技術(shù)監(jiān)測方面的水平；在企業(yè)側(cè)，公司一方面需要積極履行主體責(zé)任，主動地提高算法的透明度和可解釋性。另一方面，也應(yīng)當積極引入第三方監(jiān)督，運用社會監(jiān)督的力量來提高各方的信任水平。

（文章來源：21世紀經(jīng)濟報道）