近日，工業(yè)和信息化部等十部門聯(lián)合印發(fā)《人工智能科技倫理審查與服務辦法（試行）》（以下簡稱《辦法》）。為更好理解和實施《辦法》，現(xiàn)就有關(guān)內(nèi)容解讀如下。

　　《辦法》出臺的背景是什么？

　　黨和國家高度重視科技倫理工作，2022年3月，中共中央辦公廳、國務院辦公廳印發(fā)《關(guān)于加強科技倫理治理的意見》，對科技倫理治理作出頂層設(shè)計和系統(tǒng)部署；2023年9月，科技部等十部門聯(lián)合印發(fā)《科技倫理審查辦法（試行）》，對科技倫理審查主體、審查程序作出具體規(guī)定；2024年7月，黨的二十屆三中全會再次強調(diào)“加強科技倫理治理”。人工智能技術(shù)快速發(fā)展，深度賦能千行百業(yè)，由此帶來的算法歧視、深度偽造等倫理風險也愈加凸顯。人工智能科技倫理治理是人工智能治理的重要組成部分，主要包括增進人類福祉、公平公正、可控可信、透明可解釋、責任可追溯、隱私保護等內(nèi)涵。加強人工智能科技倫理治理，是堅守科技向善、筑牢科技安全底線、保障產(chǎn)業(yè)高質(zhì)量發(fā)展的必然要求。在此背景下，出臺《辦法》，既是對科技倫理治理要求的具體落地，也是推動人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展、促進負責任創(chuàng)新的現(xiàn)實需要。

　　《辦法》與現(xiàn)有人工智能治理政策法規(guī)如何銜接？

　　《辦法》與現(xiàn)有人工智能治理相關(guān)政策法規(guī)實現(xiàn)有效協(xié)同。

　　《辦法》與《科技倫理審查辦法（試行）》緊密銜接。《科技倫理審查辦法（試行）》是覆蓋各領(lǐng)域科技倫理審查的綜合性、通用性規(guī)定，明確了審查基本程序、審查內(nèi)容與標準等統(tǒng)一要求，為《辦法》提供了基礎(chǔ)遵循?！掇k法》在遵循通用規(guī)定的前提下，立足人工智能技術(shù)特征與倫理原則，在適用范圍、申請材料、審查重點、簡易程序適用等方面作了針對性完善與細化，更貼合人工智能科技倫理審查實際需要。

　　《辦法》第二十六條規(guī)定，人工智能科技活動在深度合成、算法推薦、生成式人工智能服務管理等方面實行登記、備案、行政審批等監(jiān)管措施且將符合科技倫理要求作為審批條件、監(jiān)管內(nèi)容的，可不再開展專家復核，有效減輕企業(yè)合規(guī)負擔。

　　同時，《辦法》第三十二條規(guī)定，明確違反本辦法規(guī)定的，將依照《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》《中華人民共和國科學技術(shù)進步法》等法律法規(guī)和相關(guān)規(guī)定進行調(diào)查處理并給予相應處罰。

　　《辦法》中規(guī)定的人工智能科技倫理審查流程主要包括哪些環(huán)節(jié)？審查重點關(guān)注哪些方面？

　　《辦法》規(guī)定的人工智能科技倫理審查程序主要包括：

　　申請：人工智能科技活動負責人向本單位人工智能科技倫理委員會（以下簡稱“委員會”）或人工智能科技倫理審查與服務中心（以下簡稱“服務中心”）提交申請材料；

　　受理：委員會或服務中心應根據(jù)申請材料決定是否受理申請，確定適用的審查程序，并通知申請人；

　　開展審查：委員會或服務中心采用一般、簡易或應急程序，開展科技倫理審查；

　　專家復核：納入“需要開展科技倫理專家復核的人工智能科技活動清單”（以下簡稱“復核清單”）管理的科技活動，通過委員會或服務中心的初步審查后，由單位申請專家復核，所在地方或相關(guān)主管部門組織開展專家復核；

　　作出審查決定：委員會或服務中心開展審查后作出批準，修改后再審或不予批準等決定，納入復核清單的科技活動，根據(jù)專家復核意見作出科技倫理審查決定；

　　審查申訴：申請人對審查決定有異議的，可向委員會或服務中心提出申訴；

　　跟蹤審查：委員會或服務中心對審查批準的人工智能科技活動開展跟蹤審查，跟蹤審查間隔一般不超過12個月，納入復核清單的活動，跟蹤審查間隔一般不超過6個月。

　　委員會或服務中心重點圍繞人類福祉、公平公正、可控可信、透明可解釋、責任可追溯、隱私保護等方面開展倫理審查。同時，還需要關(guān)注參與科技活動的科技人員資質(zhì)等是否符合相關(guān)要求，擬開展的科技活動是否具有科學價值和社會價值，科技活動的風險受益是否合理，倫理風險控制方案及應急預案是否科學恰當、具有可操作性等。

　　哪些人工智能科技活動需要開展專家復核，具體如何開展？

　　《辦法》第三節(jié)及附件規(guī)定，需要開展專家復核的人工智能科技活動主要包括以下三類：

　　一是對人類主觀行為、心理情緒和生命健康等具有較強影響的人機融合系統(tǒng)的研發(fā)；

　　二是具有輿論社會動員能力和社會意識引導能力的算法模型、應用程序及系統(tǒng)的研發(fā)；

　　三是面向存在安全、人身健康風險等場景的具有高度自主能力的自動化決策系統(tǒng)的研發(fā)。

　　開展專家復核的人工智能科技活動，需先通過本單位人工智能科技倫理委員會或委托的服務中心完成初步審查；再由本單位申請專家復核。其中，中央企業(yè)、中央和國家機關(guān)直屬單位直接報請相關(guān)主管部門，其他單位報請地方。地方或相關(guān)主管部門按規(guī)定成立復核專家組，對初步審查意見的合規(guī)性、合理性開展復核，并在收到復核申請后30日內(nèi)反饋復核意見。委員會或服務中心依據(jù)復核意見作出最終審查決定，同時對納入復核清單的活動加強跟蹤審查，跟蹤審查間隔一般不超過6個月。若倫理風險發(fā)生重大變化，應重新開展審查并申請專家復核。

　　《辦法》在人工智能科技倫理服務與促進方面提出了哪些具體舉措？

　　《辦法》專門設(shè)立第二章“服務與促進”，圍繞標準建設(shè)、促進服務、鼓勵創(chuàng)新、宣傳教育、人才培養(yǎng)五個方面制定務實舉措，精準破解當前人工智能企業(yè)倫理治理中存在的技術(shù)手段不足、標準規(guī)范不完善、治理工具匱乏等問題。

　　一是鼓勵高等學校、科研機構(gòu)、醫(yī)療衛(wèi)生機構(gòu)、企業(yè)和科技類社會團體等參與人工智能科技倫理標準制定，凝聚行業(yè)共識，完善標準體系。

　　二是推進人工智能科技倫理服務體系建設(shè)，強化風險監(jiān)測預警、檢測評估、認證、咨詢等服務供給，加大對中小微企業(yè)人工智能科技倫理審查的支持和服務力度，降低企業(yè)合規(guī)成本。

　　三是支持人工智能科技倫理審查技術(shù)創(chuàng)新，鼓勵企業(yè)運用技術(shù)手段防范倫理風險。

　　四是加強人工智能科技倫理宣傳教育，提升公眾倫理意識和素養(yǎng)。

　　五是推動職業(yè)體系和課程體系建設(shè)，采取多種方式培養(yǎng)人工智能科技倫理人才。（工業(yè)和信息化部科技司）

　　轉(zhuǎn)自：中國電子報

　　【版權(quán)及免責聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系：010-65363056。

延伸閱讀