近日，工業(yè)和信息化部等十部門聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法（試行）》（以下簡稱《辦法》），提出建立和完善人工智能科技倫理標(biāo)準(zhǔn)體系，支持人工智能科技倫理審查技術(shù)創(chuàng)新，強化以技術(shù)手段防范人工智能科技倫理風(fēng)險。這為我國人工智能科技倫理審查與服務(wù)工作提供了明確指引。

　　專家表示，《辦法》的出臺，標(biāo)志著我國人工智能倫理治理從原則倡導(dǎo)邁向制度化、規(guī)范化、可操作的新階段，為推動人工智能健康發(fā)展提供了重要制度遵循。

　　據(jù)悉，《辦法》對人工智能科技倫理審查的適用范圍、服務(wù)促進(jìn)、實施主體、工作程序、監(jiān)督管理等作出規(guī)定，并結(jié)合人工智能科技活動特點，明確了申請與受理、一般程序、簡易程序、專家復(fù)核程序、應(yīng)急程序等不同程序要求，有效規(guī)范人工智能科技活動倫理治理。

　　《辦法》提出，開展人工智能科技倫理審查，重點關(guān)注人類福祉、公平公正、可控可信、透明可解釋、責(zé)任可追溯、隱私保護(hù)6個方面，包括訓(xùn)練數(shù)據(jù)的選擇標(biāo)準(zhǔn)，算法、模型、系統(tǒng)的設(shè)計是否合理；是否采取措施防止偏見歧視、算法壓榨，保障資源分配、機會獲取、決策過程的客觀性與包容性；是否合理披露算法、模型、系統(tǒng)的用途、運行邏輯、交互方式說明、潛在風(fēng)險等信息等。

　　事實上，近年來，我國堅持“倫理先行”的治理要求，在統(tǒng)籌發(fā)展和安全基礎(chǔ)上，持續(xù)推進(jìn)人工智能科技倫理治理工作。例如，在倫理規(guī)范層面，國家新一代人工智能治理專業(yè)委員會發(fā)布的《新一代人工智能倫理規(guī)范》，明確了人工智能科技倫理的基本倫理規(guī)范，涵蓋人工智能管理、研發(fā)、供應(yīng)、使用全鏈條。在制度體系層面，中共中央辦公廳、國務(wù)院辦公廳印發(fā)的《關(guān)于加強科技倫理治理的意見》對科技倫理治理作出頂層設(shè)計和系統(tǒng)部署，構(gòu)建了我國科技倫理治理的基本模式、監(jiān)管框架、制度體系。

　　“此次《辦法》是國家科技倫理治理體系在人工智能領(lǐng)域的落地，是我國科技倫理制度鏈條的重要延伸與細(xì)化完善?！惫I(yè)和信息化領(lǐng)域科技倫理專家委員會主任委員魏一鳴說，《辦法》立足人工智能技術(shù)迭代快、跨界融合深等特點，在通用審查規(guī)則基礎(chǔ)上實現(xiàn)領(lǐng)域化、精細(xì)化適配，填補了人工智能科技倫理審查的制度空白。

　　為推進(jìn)人工智能科技倫理服務(wù)體系建設(shè)，《辦法》從標(biāo)準(zhǔn)建設(shè)、服務(wù)體系、鼓勵創(chuàng)新、宣傳教育、人才培養(yǎng)五個方面制定支持舉措，幫助企業(yè)切實提升科技倫理風(fēng)險防控能力。其中提出，強化人工智能科技倫理風(fēng)險監(jiān)測預(yù)警、檢測評估、認(rèn)證、咨詢等服務(wù)供給；促進(jìn)人工智能科技倫理審查高質(zhì)量數(shù)據(jù)集有序開源開放，加強通用性風(fēng)險管理、評估審計工具研發(fā)，探索基于應(yīng)用場景的科技倫理風(fēng)險評估評測等。

　　“倫理治理不僅需要制度規(guī)范，更需要技術(shù)支撐?！蔽阂圾Q認(rèn)為，具有深厚技術(shù)實力的企業(yè)、高校和科研機構(gòu)，應(yīng)主動承擔(dān)起研發(fā)科技倫理治理“硬科技”的使命，加強人工智能倫理治理技術(shù)研發(fā)與工具創(chuàng)新。聚焦可解釋人工智能、算法公平性監(jiān)測、深度偽造鑒別等關(guān)鍵技術(shù)開展專項攻關(guān)，為倫理審查提供技術(shù)工具。通過研發(fā)實用的倫理評估工具、風(fēng)險模擬平臺和算法審計系統(tǒng)，將抽象的倫理原則轉(zhuǎn)化為可量化、可操作、可嵌入工程流程的技術(shù)指標(biāo)與解決方案，推動倫理治理技術(shù)化、工程化。（記者 郭倩）

　　轉(zhuǎn)自：經(jīng)濟參考報

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系：010-65363056。

延伸閱讀