為了確保人工智能系統(tǒng)的發(fā)展和應(yīng)用符合人權(quán)、民主和法治的原則，歐洲委員會于2024年9月5日在維爾紐斯開放《人工智能與人權(quán)、民主和法治框架公約》（Artificial Intelligence and Human Rights,Democracy and the Rule of Law，以下簡稱《公約》）供簽署，當(dāng)日已有美國、英國、歐盟、挪威、以色列等國家和國際組織簽署?！豆s》于2022年開始起草，于2024年3月敲定最終草案，于5月在歐洲委員會部長委員會年度部長級會議上通過，于9月5日開放簽署。歐洲委員會稱這是全球第一份具有法律約束力的人工智能國際公約，旨在確保人工智能系統(tǒng)的使用符合人權(quán)、民主和法治要求。該《公約》的制定旨在建立一個全球適用的法律框架，以規(guī)范人工智能系統(tǒng)在生命周期內(nèi)的活動，促進(jìn)人工智能技術(shù)的可持續(xù)發(fā)展，保護(hù)人類的基本權(quán)利和自由。以下對《公約》主要內(nèi)容進(jìn)行介紹，以供各方參考。

隨著科學(xué)技術(shù)的加速發(fā)展，人工智能系統(tǒng)在醫(yī)療、交通、金融、教育等各個領(lǐng)域得到了廣泛的應(yīng)用，為人們的生活帶來了便利，提高了生產(chǎn)效率，推動了經(jīng)濟的發(fā)展。然而，人工智能系統(tǒng)的生命周期內(nèi)活動也帶來了一些潛在的風(fēng)險和挑戰(zhàn)，如算法偏見、數(shù)據(jù)隱私泄露、自動化決策導(dǎo)致的不公平等，可能會對人權(quán)、民主和法治造成負(fù)面影響，需要制定相應(yīng)的法律框架來加以規(guī)范。該《公約》的目的是在確保人工智能系統(tǒng)生命周期內(nèi)的活動完全符合人權(quán)、民主和法治的原則，保護(hù)個人的尊嚴(yán)、自主權(quán)、隱私權(quán)和其他基本權(quán)利，維護(hù)民主制度的完整性和有效性，促進(jìn)法治的實施與監(jiān)督。

（一）范圍與定義

《公約》明確了“人工智能系統(tǒng)”的定義，指基于機器的能從輸入推斷如何生成影響環(huán)境的輸出（如預(yù)測、內(nèi)容、推薦或決策）的系統(tǒng)?！豆s》的范圍涵蓋了有可能干擾人權(quán)、民主和法治的人工智能系統(tǒng)生命周期內(nèi)的活動。此外，《公約》規(guī)定締約方無需將該《公約》應(yīng)用于與保護(hù)其國家安全利益相關(guān)的人工智能系統(tǒng)生命周期內(nèi)的活動。在不影響特定條款的情況下，《公約》不適用于尚未投入使用的人工智能系統(tǒng)的研發(fā)，并且與國防有關(guān)的事項也不屬于《公約》的規(guī)范范圍。

（二）一般義務(wù)

一是保護(hù)人權(quán)。締約方應(yīng)采取或維持措施，確保人工智能系統(tǒng)生命周期內(nèi)的活動符合適用國際法和其國內(nèi)法規(guī)定的保護(hù)人權(quán)義務(wù)，包括尊重個人的生命權(quán)、自由權(quán)、平等權(quán)、尊嚴(yán)權(quán)等基本權(quán)利，以及確保人工智能系統(tǒng)的應(yīng)用不會導(dǎo)致歧視、侵犯隱私、限制言論自由等問題。

二是尊重法治。締約方應(yīng)采取或維持措施，確保人工智能系統(tǒng)不被用于破壞民主機構(gòu)和進(jìn)程的完整性、獨立性和有效性，包括權(quán)力分立原則、尊重司法獨立和保障訴諸司法的權(quán)利等。

（三）相關(guān)原則

一是個人自主權(quán)原則。各締約方應(yīng)采取或維持措施，在人工智能系統(tǒng)生命周期內(nèi)的活動中尊重人的尊嚴(yán)和個人自主權(quán)。人工智能系統(tǒng)的設(shè)計和應(yīng)用應(yīng)充分考慮到人的尊嚴(yán)和自主權(quán)，避免對人的身體、精神和社會造成傷害。

二是確保透明度原則。各締約方應(yīng)采取或維持措施，確保針對人工智能系統(tǒng)生命周期內(nèi)的活動制定適合具體情況和風(fēng)險的充分透明度和監(jiān)督要求，包括識別由人工智能系統(tǒng)生成的內(nèi)容，提高公眾對人工智能系統(tǒng)的信任，促進(jìn)其合理應(yīng)用。

三是落實問責(zé)制原則。各締約方應(yīng)采取或維持措施，確保對人工智能系統(tǒng)生命周期內(nèi)的活動對人權(quán)、民主和法治造成的不利影響負(fù)責(zé)，包括明確責(zé)任主體，建立相應(yīng)的問責(zé)機制，確保在出現(xiàn)問題時能夠及時追究責(zé)任。

四是保障平等和非歧視原則。各締約方應(yīng)采取或維持措施，確保人工智能系統(tǒng)生命周期內(nèi)的活動尊重平等，包括性別平等以及適用國際法和國內(nèi)法規(guī)定的禁止歧視，克服不平等，實現(xiàn)公平、公正和公平的結(jié)果。

五是保護(hù)隱私原則。各締約方應(yīng)采取或維持措施，確保在人工智能系統(tǒng)生命周期內(nèi)的活動中，個人的隱私權(quán)和個人數(shù)據(jù)得到保護(hù)，包括通過適用的國內(nèi)和國際法、標(biāo)準(zhǔn)和框架，并為個人根據(jù)適用的國內(nèi)國際法律義務(wù)建立有效保障措施。

六是可靠性原則。各締約方應(yīng)酌情采取措施，促進(jìn)人工智能系統(tǒng)的可靠性和對其輸出的信任，包括與人工智能系統(tǒng)生命周期內(nèi)的適當(dāng)質(zhì)量和安全相關(guān)要求。

七是促進(jìn)安全創(chuàng)新原則。為了促進(jìn)創(chuàng)新同時避免對人權(quán)、民主和法治產(chǎn)生不利影響，各締約方應(yīng)酌情促使在其主管的監(jiān)督下為開發(fā)、實驗和測試人工智能系統(tǒng)過程中建立可控實驗環(huán)境。

（四）補救措施

一是提供有效補救。締約方應(yīng)根據(jù)其國際義務(wù)并與其國內(nèi)法律制度一致，采取或維持措施，確保對人工智能系統(tǒng)生命周期內(nèi)的活動導(dǎo)致的人權(quán)侵犯提供可訪問和有效的補救措施，包括建立相應(yīng)的法律程序和機制，確保受影響的人能夠獲得公正的賠償和救濟。

二是信息記錄共享。締約方應(yīng)確保記錄有關(guān)可能對人權(quán)產(chǎn)生重大影響的人工智能系統(tǒng)及其相關(guān)使用的相關(guān)信息，提供給有權(quán)訪問該信息的機構(gòu)，并在適當(dāng)和適用的情況下，向受影響的人提供或傳達(dá)該信息，提高透明度，促進(jìn)公眾對人工智能系統(tǒng)的監(jiān)督。

三是保障知情權(quán)、申訴權(quán)。締約方應(yīng)確保信息足以讓受影響的人對由該系統(tǒng)做出或?qū)嵸|(zhì)上由該系統(tǒng)使用所告知的決定提出質(zhì)疑，并在相關(guān)和適當(dāng)?shù)那闆r下，對系統(tǒng)本身的使用提出質(zhì)疑。同時，《公約》規(guī)定，有關(guān)人員有權(quán)向主管當(dāng)局提出投訴。

（五）風(fēng)險評估與緩解

一是建立管理框架。締約方應(yīng)考慮到相關(guān)原則，采取或維持措施，通過考慮對人權(quán)、民主和法治的實際和潛在影響，識別、評估、預(yù)防和緩解人工智能系統(tǒng)帶來的風(fēng)險。

二是具體措施要求。相關(guān)措施應(yīng)酌情分級和區(qū)分，并適當(dāng)考慮人工智能系統(tǒng)的背景和預(yù)期用途，特別是涉及人權(quán)、民主和法治的風(fēng)險；適當(dāng)考慮潛在影響的嚴(yán)重性和可能性；在適當(dāng)情況下，考慮相關(guān)利益攸關(guān)方的觀點，特別是其權(quán)利可能受到影響的人；在人工智能系統(tǒng)生命周期內(nèi)的活動中反復(fù)應(yīng)用；包括對人權(quán)、民主和法治的風(fēng)險和不利影響的監(jiān)測；包括記錄風(fēng)險、實際和潛在影響以及風(fēng)險管理方法；并在適當(dāng)情況下，要求在首次使用人工智能系統(tǒng)之前和對其進(jìn)行重大修改時對其進(jìn)行測試。

三是應(yīng)對不利影響方面。締約方應(yīng)采取或維持措施，確保人工智能系統(tǒng)對人權(quán)、民主和法治的不利影響得到充分解決。并且，這些不利影響和解決這些影響的措施應(yīng)記錄在案，并為相關(guān)風(fēng)險管理措施提供信息。此外，締約方應(yīng)評估是否需要暫停、禁止或采取其他適當(dāng)措施，對于其認(rèn)為與尊重人權(quán)、民主運作或法治不相容的某些人工智能系統(tǒng)的使用。

歐洲委員會46個成員國、歐盟和11個非成員國（美國、加拿大、日本等）參與了《公約》起草和談判。只有上述參與者有權(quán)“簽署”，而其余國家須在歐洲委員會部長委員會在與締約方磋商并獲得一致同意后，才能被邀請“加入”。

締約方會議由公約締約方的代表組成，負(fù)責(zé)定期磋商，以促進(jìn)《公約》的有效應(yīng)用和實施，包括識別問題、考慮公約的補充或修改、對公約的解釋和應(yīng)用提出建議、促進(jìn)信息交流、解決爭端以及加強與相關(guān)利益攸關(guān)方的合作。每個締約方應(yīng)在成為締約方后的前兩年內(nèi)向締約方會議提供報告，此后定期提供有關(guān)為實施公約相關(guān)條款所采取活動的詳細(xì)信息。每個締約方應(yīng)建立或指定一個或多個有效機制來監(jiān)督公約義務(wù)的遵守情況。這些機制應(yīng)獨立和公正地行使職責(zé)，并擁有必要的權(quán)力、專業(yè)知識和資源，以有效地履行監(jiān)督公約義務(wù)遵守情況的任務(wù)。

在解釋或應(yīng)用《公約》出現(xiàn)爭議時，締約方應(yīng)首先尋求通過談判或其他和平方式解決爭端，包括通過締約方會議進(jìn)行協(xié)商。締約方可以通過多種途徑解決爭議，如友好協(xié)商、調(diào)解、仲裁等，以確保公約的解釋和應(yīng)用符合各方的利益和公約的宗旨。

在有必要進(jìn)行條款變更時，《公約》修正案可由締約方、歐洲委員會部長委員會或締約方會議提出。任何提案應(yīng)由歐洲委員會秘書長傳達(dá)給締約方。締約方或部長委員會提出的修正案應(yīng)傳達(dá)給締約方會議，締約方會議應(yīng)向部長委員會提交對該修正案的意見。部長委員會應(yīng)考慮提案和締約方會議的意見，并可批準(zhǔn)修正案。批準(zhǔn)的修正案文本應(yīng)轉(zhuǎn)發(fā)給締約方接受，自所有締約方通知秘書長接受之日起第三十天生效。

《公約》對歐洲委員會成員國、參與制定的非成員國和歐盟開放簽署，簽署后需經(jīng)批準(zhǔn)、接受或核準(zhǔn)，文書應(yīng)交存歐洲委員會秘書長。公約應(yīng)在五個簽署方（其中至少包括三個歐洲委員會成員國）表示同意受公約約束之日起三個月后生效。對于隨后表示同意受《公約》約束的簽署方，《公約》應(yīng)在其交存批準(zhǔn)、接受或核準(zhǔn)文書之日起三個月后生效。

在《公約》生效后，歐洲委員會部長委員會可在咨詢締約方并獲得一致同意后，邀請未參與《公約》制定的非成員國加入《公約》，但需經(jīng)歐洲委員會章程規(guī)定的多數(shù)投票和締約方代表在部長委員會的一致投票決定。

《歐洲委員會人工智能框架公約》為規(guī)范人工智能系統(tǒng)的活動提供了全面的法律框架，強調(diào)了人權(quán)、民主和法治的重要性，并通過一系列措施確保其有效實施和監(jiān)督。該《公約》的制定是應(yīng)對人工智能挑戰(zhàn)的重要舉措，有助于引導(dǎo)人工智能技術(shù)的健康發(fā)展，保護(hù)人類的基本權(quán)利和自由，促進(jìn)社會的可持續(xù)發(fā)展。

關(guān)注“廣東技術(shù)性貿(mào)易措施”，獲取更多服務(wù)。