2023年12月8日，歐盟成員國(guó)及歐洲議會(huì)議員就《人工智能法案》（以下稱“法案”）達(dá)成初步協(xié)議。當(dāng)前，歐盟僅公布了法案的提案，尚未公布最終的法案版本，下一步，歐盟將就法案的更多技術(shù)細(xì)節(jié)進(jìn)行最終討論確定后公布。法案為不同風(fēng)險(xiǎn)程度的人工智能系統(tǒng)施加不同的要求和義務(wù)，其提出的風(fēng)險(xiǎn)分類、價(jià)值鏈責(zé)任、負(fù)責(zé)任創(chuàng)新和實(shí)驗(yàn)主義治理等思路對(duì)我國(guó)人工智能立法具有一定的借鑒意義。

一、出臺(tái)背景

法案是歐盟實(shí)現(xiàn)整體戰(zhàn)略的關(guān)鍵舉措。自2018年以來(lái)，歐盟先后出臺(tái)《歐洲人工智能戰(zhàn)略》《人工智能協(xié)調(diào)計(jì)劃》兩個(gè)重要政策文件，初步勾勒出歐盟人工智能的發(fā)展戰(zhàn)略框架。2020年，歐洲委員會(huì)發(fā)布了兩份有關(guān)“塑造歐洲數(shù)字未來(lái)戰(zhàn)略”的政策文件，其中，《人工智能白皮書(shū)》關(guān)注交通、醫(yī)療等公共領(lǐng)域的人工智能發(fā)展及風(fēng)險(xiǎn)化解；《歐洲數(shù)據(jù)戰(zhàn)略》提出推動(dòng)歐盟成為世界上最具競(jìng)爭(zhēng)力的數(shù)字敏捷型經(jīng)濟(jì)體，建立歐盟數(shù)字單一市場(chǎng)。在此背景下，2021年4月，歐盟出臺(tái)法案，從而在法律層面強(qiáng)化落實(shí)歐盟戰(zhàn)略，以期實(shí)現(xiàn)引領(lǐng)全球人工智能治理的目標(biāo)。

法案是促進(jìn)可信賴人工智能發(fā)展的現(xiàn)實(shí)基礎(chǔ)。人工智能系統(tǒng)可以部署在經(jīng)濟(jì)和社會(huì)的多個(gè)部門(mén)，并可以通過(guò)跨境部署實(shí)現(xiàn)在整個(gè)歐盟內(nèi)流通。已經(jīng)有成員國(guó)探索通過(guò)制定國(guó)家規(guī)則，確保人工智能在遵守基本權(quán)利義務(wù)的情況下開(kāi)發(fā)和使用，然而，不同的國(guó)家規(guī)則可能導(dǎo)致內(nèi)部市場(chǎng)的分裂，并減損法律確定性。因此，為了實(shí)現(xiàn)可信賴的人工智能，歐盟通過(guò)制定法案為運(yùn)營(yíng)商規(guī)定統(tǒng)一的義務(wù)，確保在整個(gè)歐盟范圍內(nèi)提供一致的高水平保護(hù)，同時(shí)防止出現(xiàn)阻礙人工智能系統(tǒng)及相關(guān)產(chǎn)品和服務(wù)在內(nèi)部市場(chǎng)自由流通、創(chuàng)新、部署和采用的分歧。

法案是應(yīng)對(duì)人工智能技術(shù)潛在風(fēng)險(xiǎn)的重要方式。ChatGPT等通用人工智能技術(shù)的發(fā)展，迅速改變?nèi)斯ぶ悄芟到y(tǒng)的構(gòu)建和部署方式，其顛覆性特質(zhì)也帶來(lái)了侵犯?jìng)€(gè)人隱私、泄露商業(yè)秘密、傳播虛假信息、造成信息繭房等安全隱患。ChatGPT等人工智能領(lǐng)域近期進(jìn)展使得立法需求愈發(fā)重要、緊迫，因此，歐盟立法者就相關(guān)問(wèn)題展開(kāi)了廣泛且激烈的討論，歐盟理事會(huì)主席國(guó)也多次發(fā)布法案妥協(xié)文本，不斷增刪、澄清法案內(nèi)容。

二、主要內(nèi)容

法案圍繞人工智能系統(tǒng)的開(kāi)發(fā)、投放市場(chǎng)及使用制定了監(jiān)管框架，采用基于風(fēng)險(xiǎn)的規(guī)制思路，為不同風(fēng)險(xiǎn)程度的人工智能系統(tǒng)施加不同的要求和義務(wù)。其中，禁止對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)，為高風(fēng)險(xiǎn)人工智能系統(tǒng)規(guī)定具體要求和相關(guān)主體義務(wù)，并為某些人工智能系統(tǒng)規(guī)定透明度度義務(wù)。法案提案的具體內(nèi)容如下：

（一）一般性原則與禁止性規(guī)定

法案明確了適用于所有人工智能系統(tǒng)的一般原則以及禁止的人工智能行為。

一是明確了開(kāi)發(fā)和使用人工智能系統(tǒng)或基礎(chǔ)模型需遵守的六項(xiàng)一般原則，包括：第一，人類主體和監(jiān)督，即人工智能系統(tǒng)應(yīng)作為服務(wù)于人、尊重人類尊嚴(yán)和個(gè)人自主權(quán)的工具來(lái)進(jìn)行開(kāi)發(fā)和使用，其運(yùn)作方式可以由人類適當(dāng)?shù)乜刂坪捅O(jiān)督。第二，技術(shù)穩(wěn)健性和安全性，即人工智能系統(tǒng)的開(kāi)發(fā)和使用方式應(yīng)盡量減少意外傷害，并在出現(xiàn)問(wèn)題時(shí)保持穩(wěn)健。第三，隱私和數(shù)據(jù)治理，即人工智能系統(tǒng)的開(kāi)發(fā)和使用應(yīng)符合現(xiàn)有的隱私和數(shù)據(jù)保護(hù)規(guī)則，同時(shí)，其處理的數(shù)據(jù)在質(zhì)量和完整性方面也要符合高標(biāo)準(zhǔn)。第四，透明度，即人工智能系統(tǒng)的開(kāi)發(fā)和使用方式應(yīng)允許適當(dāng)?shù)目勺匪菪院涂山忉屝?，同時(shí)應(yīng)使用戶意識(shí)到他們與人工智能系統(tǒng)的交流或互動(dòng)，以及適當(dāng)告知用戶該人工智能系統(tǒng)的能力、限制以及對(duì)其權(quán)利的可能影響。第五，多樣性、非歧視和公平，即人工智能系統(tǒng)的開(kāi)發(fā)和使用方式應(yīng)考慮不同類別的用戶，并促進(jìn)機(jī)會(huì)平等、性別平等和文化多樣性，同時(shí)避免歐盟或國(guó)家法律禁止的歧視性影響和不公平的偏見(jiàn)。第六，社會(huì)和環(huán)境福祉，即人工智能系統(tǒng)應(yīng)以可持續(xù)和環(huán)境友好方式進(jìn)行開(kāi)發(fā)和使用，并使所有人類受益，同時(shí)監(jiān)測(cè)和評(píng)估對(duì)個(gè)人、社會(huì)和民主的長(zhǎng)期影響。

二是明確了禁止開(kāi)發(fā)和使用的特定人工智能系統(tǒng)。法案禁止“侵入性”和“歧視性”等人工智能系統(tǒng)的使用，包括：第一，采用超越人類意識(shí)的潛意識(shí)技術(shù)或有目的的操縱、欺騙技術(shù)，實(shí)質(zhì)性扭曲人類行為，并可能對(duì)人類帶來(lái)身體或心理傷害。第二，利用個(gè)人或特定群體的弱點(diǎn)，包括人格特征、社會(huì)經(jīng)濟(jì)狀況、年齡、身體或精神能力，實(shí)質(zhì)性扭曲人的行為，對(duì)人類造成或可能造成重大傷害。第三，為一般目的提供自然人社會(huì)評(píng)分，可能導(dǎo)致歧視性結(jié)果或?qū)δ愁惾后w進(jìn)行排除、限制使用。第四，在公眾可進(jìn)入的空間使用實(shí)時(shí)、遠(yuǎn)程生物識(shí)別系統(tǒng)。

（二）高風(fēng)險(xiǎn)人工智能系統(tǒng)相關(guān)要求

高風(fēng)險(xiǎn)人工智能系統(tǒng)可能對(duì)人類的安全及基本權(quán)利產(chǎn)生負(fù)面影響，是歐盟法案的監(jiān)管重點(diǎn)。法案通過(guò)附件三列舉了高風(fēng)險(xiǎn)人工智能系統(tǒng)的范圍，包括應(yīng)用于生物識(shí)別和基于生物識(shí)別進(jìn)行推斷，關(guān)鍵基礎(chǔ)設(shè)施的管理和運(yùn)作，教育和職業(yè)培訓(xùn)，就業(yè)、工人管理和獲得自營(yíng)職業(yè)，獲得和享受基本的私人服務(wù)和公共服務(wù)及福利，執(zhí)法工作，移民、庇護(hù)和邊境管制管理，司法行政和民主進(jìn)程等領(lǐng)域的人工智能系統(tǒng)。同時(shí)，法案通過(guò)專章對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)進(jìn)行規(guī)范，明確了高風(fēng)險(xiǎn)人工智能系統(tǒng)的具體要求以及產(chǎn)業(yè)鏈相關(guān)主體的義務(wù)。

一方面，對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)規(guī)定了具體要求：第一，建立風(fēng)險(xiǎn)管理制度。在人工智能系統(tǒng)的整個(gè)生命周期中，應(yīng)建立、實(shí)施、記錄和維護(hù)與高風(fēng)險(xiǎn)人工智能系統(tǒng)有關(guān)的風(fēng)險(xiǎn)管理系統(tǒng)。第二，建立數(shù)據(jù)管理制度。高風(fēng)險(xiǎn)人工智能系統(tǒng)的訓(xùn)練、驗(yàn)證和測(cè)試數(shù)據(jù)集應(yīng)滿足適合系統(tǒng)預(yù)期目的的數(shù)據(jù)管理要求。第三，制定技術(shù)文件。應(yīng)在該系統(tǒng)投放市場(chǎng)或投入使用之前制定高風(fēng)險(xiǎn)人工智能系統(tǒng)的技術(shù)文件，并保持更新。第四，留存相關(guān)記錄。高風(fēng)險(xiǎn)人工智能系統(tǒng)的設(shè)計(jì)和開(kāi)發(fā)應(yīng)具有在系統(tǒng)運(yùn)行時(shí)能夠自動(dòng)記錄事件的能力。第五，保障系統(tǒng)的準(zhǔn)確性、穩(wěn)健性和網(wǎng)絡(luò)安全。

另一方面，針對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)產(chǎn)業(yè)鏈的不同參與者明確了細(xì)化的義務(wù)性要求：

高風(fēng)險(xiǎn)人工智能系統(tǒng)的提供者是指開(kāi)發(fā)人工智能系統(tǒng)的自然人、法人、公共當(dāng)局或其他機(jī)構(gòu)。相關(guān)義務(wù)主要包括：第一，保障系統(tǒng)安全，提供者應(yīng)確保高風(fēng)險(xiǎn)人工智能系統(tǒng)滿足上述高風(fēng)險(xiǎn)人工智能系統(tǒng)相關(guān)要求；建立質(zhì)量管理系統(tǒng)；確保進(jìn)行人為監(jiān)督的自然人了解自動(dòng)化相關(guān)風(fēng)險(xiǎn)；遵守備案義務(wù)，在歐盟數(shù)據(jù)庫(kù)中備案該系統(tǒng)；發(fā)現(xiàn)高風(fēng)險(xiǎn)人工智能系統(tǒng)不符合法案規(guī)定時(shí)，立刻采取糾正措施并通知分發(fā)者、進(jìn)口者、主管部門(mén)以及部署者等；確保高風(fēng)險(xiǎn)人工智能系統(tǒng)符合無(wú)障礙要求。第二，標(biāo)明相關(guān)信息，在高風(fēng)險(xiǎn)人工智能系統(tǒng)上標(biāo)明提供者的名稱、商標(biāo)、地址、聯(lián)系方式等信息；在高風(fēng)險(xiǎn)人工智能系統(tǒng)上以明顯、清晰的方式加貼永久性CE標(biāo)志。第三，留存相關(guān)資料，制定并保存高風(fēng)險(xiǎn)人工智能系統(tǒng)技術(shù)文件；保留高風(fēng)險(xiǎn)人工智能系統(tǒng)自動(dòng)生成的日志；應(yīng)國(guó)家監(jiān)督機(jī)構(gòu)的合理要求，提供所有必要的信息和文件，以證明高風(fēng)險(xiǎn)人工智能系統(tǒng)符合相關(guān)要求。

高風(fēng)險(xiǎn)人工智能系統(tǒng)的進(jìn)口者是指將帶有在歐盟外自然人或法人名稱、商標(biāo)的人工智能系統(tǒng)，投放市場(chǎng)或投入使用的歐盟內(nèi)自然人或法人。主要義務(wù)包括：確保提供者實(shí)施了相關(guān)合格評(píng)估程序；確保提供者起草了技術(shù)文件；確保人工智能系統(tǒng)帶有所需的合格標(biāo)志，并附有所需的文件和使用說(shuō)明。此外，進(jìn)口者也應(yīng)按規(guī)定履行信息披露的義務(wù)以及與主管部門(mén)合作的義務(wù)。

基礎(chǔ)模型提供者是指在海量數(shù)據(jù)集上進(jìn)行規(guī)?；?xùn)練的人工智能模型提供者?；A(chǔ)模型提供者在向市場(chǎng)提供模型前，均應(yīng)確保該模型符合以下要求：第一，確保系統(tǒng)滿足使用要求，進(jìn)行適當(dāng)?shù)南到y(tǒng)設(shè)計(jì)、測(cè)試和分析；通過(guò)評(píng)估，確?；A(chǔ)模型在整個(gè)生命周期內(nèi)滿足性能、可預(yù)測(cè)性、可解釋性、可糾正性、安全性和網(wǎng)絡(luò)安全等方面要求；制定廣泛的技術(shù)文件和可理解的使用說(shuō)明；建立質(zhì)量管理系統(tǒng)。第二，滿足數(shù)據(jù)處理、效率要求，只處理和使用滿足基礎(chǔ)模型數(shù)據(jù)處理目的的數(shù)據(jù)集；提高系統(tǒng)的整體效率。第三，進(jìn)行備案，提供者應(yīng)在歐盟數(shù)據(jù)庫(kù)中對(duì)該基礎(chǔ)模型進(jìn)行備案。此外，將基礎(chǔ)模型專門(mén)用于生成式人工智能時(shí)，基礎(chǔ)模型提供者還應(yīng)當(dāng)：遵守透明度義務(wù)，采取足夠的保障措施防止產(chǎn)生違反歐盟法律的內(nèi)容；在不影響國(guó)家或歐盟版權(quán)立法的情況下，記錄并公開(kāi)提供受版權(quán)法保護(hù)的訓(xùn)練數(shù)據(jù)使用情況的詳細(xì)摘要。

高風(fēng)險(xiǎn)人工智能系統(tǒng)部署者是指在授權(quán)情況下使用人工智能系統(tǒng)的自然人或法人、公共當(dāng)局、或其他機(jī)構(gòu)。相關(guān)義務(wù)包括：第一，適當(dāng)使用，部署者應(yīng)采取適當(dāng)?shù)募夹g(shù)和組織措施，以確保按照系統(tǒng)所附的使用說(shuō)明使用這些系統(tǒng)。第二，開(kāi)展人為監(jiān)督，在部署者對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)進(jìn)行控制的情況下，應(yīng)按照法案要求實(shí)施人為監(jiān)督；確保進(jìn)行監(jiān)督的自然人有能力、有適當(dāng)?shù)馁Y格和培訓(xùn)，并擁有必要的權(quán)力；確保定期監(jiān)測(cè)系統(tǒng)穩(wěn)健性和網(wǎng)絡(luò)安全措施的有效性。第三，開(kāi)展評(píng)估，在高風(fēng)險(xiǎn)人工智能系統(tǒng)投入使用前，部署者應(yīng)進(jìn)行基本權(quán)利影響評(píng)估，評(píng)估因素包括系統(tǒng)的預(yù)期目的、預(yù)期使用的地理與時(shí)間范圍、可預(yù)見(jiàn)的影響與風(fēng)險(xiǎn)、降低負(fù)面影響的方案等內(nèi)容。

（三）人工智能治理機(jī)制

為實(shí)現(xiàn)對(duì)于人工智能系統(tǒng)的有效治理，歐盟引入了人工智能辦公室和成員國(guó)監(jiān)督機(jī)構(gòu)。一方面，設(shè)立歐盟人工智能辦公室。人工智能辦公室由管理委員會(huì)、秘書(shū)處、咨詢論壇組成，負(fù)責(zé)促進(jìn)法案的實(shí)施并協(xié)調(diào)各成員國(guó)監(jiān)督機(jī)構(gòu)之間的合作，從而避免成員國(guó)各自為政，確保單一市場(chǎng)的最佳運(yùn)作。另一方面，各成員國(guó)應(yīng)指定一個(gè)國(guó)家監(jiān)督機(jī)構(gòu)。國(guó)家監(jiān)督機(jī)構(gòu)應(yīng)根據(jù)法案監(jiān)測(cè)各項(xiàng)規(guī)定的適用情況，并通過(guò)與其他成員國(guó)的監(jiān)督機(jī)構(gòu)、相關(guān)的國(guó)家主管部門(mén)、歐盟委員會(huì)、人工智能辦公室之間的合作，促進(jìn)法案在整個(gè)歐盟的一致適用。

關(guān)注“廣東技術(shù)性貿(mào)易措施”，獲取更多服務(wù)。