歐洲議會3月13日以523票贊成、46票反對、49票棄權(quán)通過了具有里程碑意義的《人工智能法案》。歐洲議會表示，該法案旨在保護(hù)基本權(quán)利、民主、法治和環(huán)境可持續(xù)性免受高風(fēng)險(xiǎn)人工智能的影響，同時(shí)促進(jìn)創(chuàng)新，以將歐洲“打造成為該領(lǐng)域的領(lǐng)導(dǎo)者”。該法案將禁止某些“威脅公民權(quán)利”的人工智能應(yīng)用，包括基于敏感特征的生物識別分類系統(tǒng)，以及從互聯(lián)網(wǎng)或閉路電視錄像中無目標(biāo)地抓取面部圖像以創(chuàng)建面部識別數(shù)據(jù)庫。操縱人類行為或利用人類弱點(diǎn)的人工智能也將被禁止。

　　歐洲議會表示，《人工智能法》旨在保護(hù)基本權(quán)利、民主、法治和環(huán)境可持續(xù)性不受高風(fēng)險(xiǎn)人工智能的影響，同時(shí)促進(jìn)創(chuàng)新，使歐洲成為該領(lǐng)域的領(lǐng)導(dǎo)者。該法規(guī)根據(jù)人工智能的潛在風(fēng)險(xiǎn)和影響程度為人工智能規(guī)定了義務(wù)。

　　歐盟內(nèi)部市場專員蒂埃里·布雷頓表示，《人工智能法》獲得了壓倒性支持，這是世界上第一個(gè)全面、有約束力的可信賴AI框架，歐洲現(xiàn)在是值得信賴的AI標(biāo)準(zhǔn)制定者。

　　微軟、OpenAI等生產(chǎn)強(qiáng)大、復(fù)雜和廣泛使用的AI模型的公司也將受到披露要求的約束。它還要求所有AI生成的內(nèi)容(圖像、音頻或視頻等)都要有明確的標(biāo)簽，以解決人們對虛假信息和干預(yù)選舉的擔(dān)憂。

　　接下來，該法案還需要得到歐盟理事會的正式批準(zhǔn)，使之成為法律。不過，最艱難的立法階段已經(jīng)過去，距離最終出臺僅剩一步之遙了。

　　預(yù)計(jì)《人工智能法》將于明年初生效，并于2026年正式實(shí)施，不過其中一些條款將提前生效。

　　前哨（公眾號cyberlawing）梳理了立法中備受關(guān)注的規(guī)定，簡要概述如下：

　　禁止的應(yīng)用

　　該法禁止某些威脅公民權(quán)利的人工智能應(yīng)用，包括基于敏感特征的生物識別分類系統(tǒng)，以及從互聯(lián)網(wǎng)或閉路電視錄像中無針對性地抓取面部圖像以創(chuàng)建面部識別數(shù)據(jù)庫。工作場所和學(xué)校的情感識別、社會評分、預(yù)測性警務(wù)（僅基于對一個(gè)人的畫像或評估其特征）以及操縱人類行為或利用人們?nèi)觞c(diǎn)的人工智能也將被禁止。

　　執(zhí)法豁免

　　原則上禁止執(zhí)法部門使用生物特征識別系統(tǒng)，除非符合詳盡列舉和狹義界定的情形?！皩?shí)時(shí)”遠(yuǎn)程生物特征識別只有在滿足嚴(yán)格保障的情況下才能使用，例如，其使用在時(shí)間和地理范圍上受到限制，并事先獲得具體的司法或行政授權(quán)。這種用途可包括，例如，對失蹤人員進(jìn)行有針對性的搜索或防止恐怖襲擊。事后使用此類系統(tǒng)（“事后遠(yuǎn)程RBI”）被認(rèn)為是一種高風(fēng)險(xiǎn)用例，需要與刑事犯罪有關(guān)的司法授權(quán)。

　　高風(fēng)險(xiǎn)系統(tǒng)的義務(wù)

　　對于其他高風(fēng)險(xiǎn)人工智能系統(tǒng)（由于其對健康、安全、基本權(quán)利、環(huán)境、民主和法治的重大潛在危害），也規(guī)定了明確的義務(wù)。高風(fēng)險(xiǎn)人工智能應(yīng)用的例子包括關(guān)鍵基礎(chǔ)設(shè)施、教育和職業(yè)培訓(xùn)、就業(yè)、基本的私人和公共服務(wù)（例如，醫(yī)療保健、銀行業(yè)）、執(zhí)法、移民和邊境管理、司法和民主程序（例如，影響選舉）中的某些系統(tǒng)。這種系統(tǒng)必須評估和減少風(fēng)險(xiǎn)，保持使用日志，透明和準(zhǔn)確，并確保人為監(jiān)督。公民將有權(quán)提交對人工智能系統(tǒng)的投訴，并獲得對基于高風(fēng)險(xiǎn)人工智能系統(tǒng)做出的影響其權(quán)利的決定的解釋。

　　透明度要求

　　通用人工智能（GPAI）系統(tǒng)及其所基于的GPAI模型必須滿足一定的透明度要求，包括遵守歐盟版權(quán)法和發(fā)布用于訓(xùn)練的內(nèi)容的詳細(xì)摘要。更強(qiáng)大的GPAI模型可能會帶來系統(tǒng)性風(fēng)險(xiǎn)，將面臨額外的要求，包括進(jìn)行模型評估，評估和減輕系統(tǒng)性風(fēng)險(xiǎn)，并報(bào)告事件。

　　此外，人造或人工處理的圖像、音頻或視頻內(nèi)容（"深度偽造"）需要明確標(biāo)注。

　　支持創(chuàng)新和中小企業(yè)的措施

　　必須在國家層面建立監(jiān)管沙盒和真實(shí)世界測試，并向中小企業(yè)和初創(chuàng)企業(yè)開放，以便在創(chuàng)新性人工智能投放市場之前對其進(jìn)行開發(fā)和訓(xùn)練。

更多精彩，請關(guān)注“官方微信”