國家新一代人工智能治理專業(yè)委員會發(fā)布《倫理規(guī)范》

       9月25日，國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能倫理規(guī)范》（以下簡稱《倫理規(guī)范》），旨在將倫理融入人工智能的整個生命周期，為從事人工智能相關活動的自然人、法人等相關機構(gòu)提供倫理指導。

       《倫理規(guī)范》通過專題研究、集中起草、咨詢等環(huán)節(jié)，充分考慮了隱私、偏見、歧視、公平等倫理關切，包括總則、具體活動倫理規(guī)范和組織實施。《倫理規(guī)范》提出了六項基本倫理要求:改善人類福祉、促進公平公正、保護隱私安全、確保可控可信、強化責任、提高倫理素質(zhì)。同時，提出了人工智能管理、研發(fā)、供應、使用等18項具體活動的具體倫理要求。《倫理規(guī)范》全文如下:

       新一代人工智能倫理工智能發(fā)展規(guī)劃，細化貫徹新一代人工智能治理原則，增強全社會人工智能倫理意識和行為意識，積極引導負責任的人工智能研發(fā)應用活動，促進人工智能健康發(fā)展，制定本規(guī)范。

       第一章總則

       第一條本規(guī)范旨在將倫理融入人工智能的整個生命周期，促進公平、公正、和諧、安全，避免偏見、歧視、隱私和信息泄露。

       第二條本規(guī)范適用于從事人工智能管理、研發(fā)、供應、使用等相關活動的自然人、法人等相關機構(gòu)。（1）管理活動主要是指制定和實施與人工智能相關的戰(zhàn)略規(guī)劃、政策、法規(guī)和技術標準、資源配置和監(jiān)督審查。（2）研發(fā)活動主要是指與人工智能相關的科學研究、技術開發(fā)、產(chǎn)品開發(fā)等。（3）供應活動主要是指與人工智能產(chǎn)品和服務相關的生產(chǎn)、運營和銷售。（4）使用活動主要是指與人工智能產(chǎn)品和服務相關的采購、消費和運營。

       第三條各種人工智能活動應當遵循下列基本倫理規(guī)范。(一)改善人類福祉。堅持以人為本，遵循人類共同價值觀，尊重人權和人類根本利益訴求，遵守國家或地區(qū)倫理道德。堅持公共利益優(yōu)先，促進人機和諧友好，改善民生，增強獲得感幸福感，促進經(jīng)濟、社會、生態(tài)可持續(xù)發(fā)展，建設人類命運共同體。(二)促進公平正義。堅持包容性和包容性，切實保護各相關主體的合法權益，促進全社會公平共享人工智能帶來的好處，促進社會公平正義和機遇平等。在提供人工智能產(chǎn)品和服務時，應充分尊重和幫助弱勢群體和特殊群體，并根據(jù)需要提供相應的替代方案。(三)保護隱私安全。充分尊重個人信息知情、同意等權利，按照合法、合法、必要、誠信的原則處理個人信息，保護個人隱私和數(shù)據(jù)安全，不損害個人合法數(shù)據(jù)權益，竊取、篡改、泄露個人隱私。(四)確保人隱私的可控性。確保人類是否充分自主決策的權利。有權隨時退出與人工智能的互動，隨時停止人工智能系統(tǒng)的運行，確保人工智能始終處于人類控制之下（5）加強責任。堅持人類是最終責任主體，明確利益相關者的責任，全面增強責任感，在人工智能整個生命周期的各個環(huán)節(jié)自律，建立人工智能問責機制，不回避責任審查，不逃避責任（6）提高倫理素質(zhì)。積極學習和普及人工智能倫理知識，客觀理解倫理問題，不低估或夸大倫理風險。積極開展或參與人工智能倫理討論，進一步推進人工智能倫理治理實踐，提高應對能力。

       第四條人工智能特定活動應當遵守的倫理規(guī)范包括管理規(guī)范、研發(fā)規(guī)范、供應規(guī)范和使用規(guī)范。

       第二章管理規(guī)范

       第五條促進敏捷治理。尊重人工智能發(fā)展規(guī)律，充分認識人工智能的潛力和局限性，不斷優(yōu)化治理機制和方法。在戰(zhàn)略決策、制度建設和資源配置過程中，不脫離現(xiàn)實，不急功近利，有序促進人工智能健康可持續(xù)發(fā)展。

       第六條積極實踐示范。遵守人工智能相關法律法規(guī)、政策標準，積極將人工智能倫理融入管理全過程，率先成為人工智能倫理治理的實踐者和推動者，及時總結(jié)推廣人工智能治理的經(jīng)驗，積極響應社會對人工智能的倫理關切。

       第七條正確行使權利。明確人工智能相關管理活動的職責和權力邊界，規(guī)范權力運行條件和程序。充分尊重和保護相關主體的隱私、自由、尊嚴、安全等合法權益，禁止權力不當行使侵犯自然人、法人和其他組織的合法權益。

       第八條加強風險防范。增強底線思維和風險意識，加強人工智能發(fā)展?jié)撛陲L險研究判斷，及時開展系統(tǒng)風險監(jiān)測評估，建立有效的風險預警機制，提高人工智能倫理風險控制和處置能力。

       第九條促進包容性和開放性。充分重視人工智能利益相關者的權益和需求，鼓勵應用多元化人工智能技術解決經(jīng)濟社會發(fā)展的實際問題，鼓勵跨學科、跨領域、跨區(qū)域、跨國界的交流與合作，促進人工智能治理框架和標準規(guī)范的形成。

       第三章研發(fā)規(guī)范

       第十條加強自律意識。加強人工智能研發(fā)相關活動的自律，積極將人工智能倫理融入技術研發(fā)的各個環(huán)節(jié)，自覺開展自我審查，加強自我管理，不從事違反倫理的人工智能研發(fā)。

       第十一條提高數(shù)據(jù)質(zhì)量。在數(shù)據(jù)收集、存儲、使用、使用、加工、傳輸、提供和披露的相關法律、標準和規(guī)范，提高數(shù)據(jù)的完整性、及時性、一致性、規(guī)范性和準確性。

       第十二條增強安全性和透明度。在算法設計、實現(xiàn)和應用中，提高透明度、可解釋性、可理解性、可靠性和可控性，提高人工智能系統(tǒng)的韌性、自適應性和抗干擾能力，逐步實現(xiàn)可驗證、可審計、可監(jiān)督、可追溯性、可預測性和可信度。

       第十三條避免偏見歧視。在數(shù)據(jù)采集和算法開發(fā)中，加強倫理審查，充分考慮差異化需求，避免可能的數(shù)據(jù)和算法偏見，努力實現(xiàn)人工智能系統(tǒng)的包容性、公平性和非歧視性。

       第四章供應規(guī)范

       第十四條尊重市場規(guī)則。嚴格遵守市場準入、競爭、交易等活動的規(guī)章制度，積極維護市場秩序，創(chuàng)造有利于人工智能發(fā)展的市場環(huán)境，不得破壞數(shù)據(jù)壟斷、平臺壟斷等有序競爭，禁止以任何手段侵犯其他主體的知識產(chǎn)權。

       第十五條加強質(zhì)量控制。加強對人工智能產(chǎn)品和服務的質(zhì)量監(jiān)測和使用評價，避免因設計和產(chǎn)品缺陷而侵犯人身安全、財產(chǎn)安全和用戶隱私，不得經(jīng)營、銷售或提供不符合質(zhì)量標準的產(chǎn)品和服務。

       第十六條保護用戶權益。人工智能技術在產(chǎn)品和服務中的使用應當明確告知用戶，應當識別人工智能產(chǎn)品和服務的功能和局限性，保護用戶的知情權和同意權。為用戶選擇使用或退出人工智能模式提供簡單易懂的解決方案，不得為用戶平等使用人工智能設置障礙。

       第十七條加強應急保障。研究制定應急機制和損失補償計劃或措施，及時監(jiān)控人工智能系統(tǒng)，及時響應和處理用戶反饋信息，及時預防系統(tǒng)故障，準備協(xié)助相關主體依法干預人工智能系統(tǒng)，減少損失，規(guī)避風險。

       第五章使用規(guī)范

       第十八條提倡善意使用。加強人工智能產(chǎn)品和服務使用前的論證和評價，充分了解人工智能產(chǎn)品和服務的好處，充分考慮各利益相關者的合法權益，更好地促進經(jīng)濟繁榮、社會進步和可持續(xù)發(fā)展。

       第十九條避免濫用。充分了解人工智能產(chǎn)品和服務的適用范圍和負面影響，有效尊重相關主體不使用人工智能產(chǎn)品或服務的權利，避免人工智能產(chǎn)品和服務的不當使用和濫用，避免非故意損害他人的合法權益。

       第二十條禁止非法使用。禁止使用不符合法律、法規(guī)、道德和標準的人工智能產(chǎn)品和服務，禁止使用人工智能產(chǎn)品和服務從事非法活動，嚴禁危害國家安全、公共安全和生產(chǎn)安全，嚴禁損害社會公共利益。

       第二十一條及時積極反饋。積極參與人工智能倫理治理實踐，及時反饋相關主體，協(xié)助解決人工智能產(chǎn)品和服務使用中發(fā)現(xiàn)的技術安全漏洞、政策法規(guī)真空、監(jiān)管滯后等問題。

       第二十二條提高使用能力。積極學習人工智能相關知識，積極掌握人工智能產(chǎn)品和服務運營、維護、應急響應所需的技能，確保人工智能產(chǎn)品和服務的安全高效使用。

       組織實施第六章

       第二十三條本規(guī)范由國家新一代人工智能治理專業(yè)委員會發(fā)布，并負責解釋和指導實施。

       第二十四條各級管理部門、企業(yè)、高校、科研機構(gòu)、協(xié)會等有關機構(gòu)可以根據(jù)本規(guī)范和實際需要，制定更具體的倫理規(guī)范和有關措施。

       第二十五條本規(guī)范自公布之日起實施，并根據(jù)經(jīng)濟社會發(fā)展需要和人工智能發(fā)展情況及時修訂。

   新一代人工智能治理專業(yè)委員會
   2021年9月25日