作者：高文（國(guó)家科技倫理委員會(huì)委員、中國(guó)工程院院士）

　　前不久，科技部、教育部、工業(yè)和信息化部等十部門(mén)印發(fā)《科技倫理審查辦法（試行）》（以下簡(jiǎn)稱(chēng)《審查辦法》），這是我國(guó)構(gòu)建科技倫理治理體系的里程碑文件，也是我國(guó)推進(jìn)科技倫理治理制度體系建設(shè)的重要開(kāi)篇。

　　自1956年達(dá)特茅斯會(huì)議提出“人工智能”這一概念以來(lái)，人工智能已歷經(jīng)了3次變革，逐步從系統(tǒng)級(jí)的知識(shí)推理向深度學(xué)習(xí)發(fā)展。當(dāng)前，以ChatGPT為代表的自然語(yǔ)言處理，助推了通用人工智能（AGI）的演進(jìn)，也再一次將人工智能技術(shù)推向了飛速發(fā)展的黃金期，使其迅速成為新的重要使能技術(shù)，被廣泛應(yīng)用于經(jīng)濟(jì)社會(huì)的各個(gè)領(lǐng)域，帶來(lái)新的產(chǎn)品和服務(wù)。然而，隨著人工智能技術(shù)的廣泛應(yīng)用，由此可能引發(fā)的AI技術(shù)濫用、個(gè)人隱私侵犯、算法歧視、倫理道德沖擊等諸多科技倫理問(wèn)題已成為國(guó)際社會(huì)關(guān)注的焦點(diǎn)，亟待認(rèn)真應(yīng)對(duì)、規(guī)范治理。

　　在通用人工智能掀起全球熱潮的同時(shí)，《審查辦法》恰逢其時(shí)地為我國(guó)人工智能的健康發(fā)展系上了“安全帶”，也將有力促進(jìn)我國(guó)加快構(gòu)建良性健康的數(shù)字經(jīng)濟(jì)社會(huì)秩序。

　　《審查辦法》以“促進(jìn)負(fù)責(zé)任創(chuàng)新”為核心理念，以強(qiáng)化科技倫理管理主體責(zé)任為抓手，指導(dǎo)開(kāi)展問(wèn)題導(dǎo)向的科技倫理治理，推動(dòng)構(gòu)建一套發(fā)展與安全并重、創(chuàng)新與倫理并行的科技監(jiān)管與治理機(jī)制。在推進(jìn)這套機(jī)制落地的過(guò)程中，要兼顧技術(shù)的創(chuàng)新發(fā)展與安全監(jiān)管，我認(rèn)為，有幾點(diǎn)工作值得高度重視。

　　一是創(chuàng)新主體要自覺(jué)壓實(shí)科技倫理管理主體責(zé)任，將科技倫理要求貫穿科技活動(dòng)全過(guò)程?？萍紓惱碇卫硎强萍紕?chuàng)新能力和水平的重要體現(xiàn)，直接影響科技創(chuàng)新的質(zhì)量和效率。隨著人工智能等新興數(shù)字技術(shù)的廣泛應(yīng)用，其帶來(lái)的倫理風(fēng)險(xiǎn)也愈發(fā)復(fù)雜多變。創(chuàng)新主體應(yīng)結(jié)合《審查辦法》要求，加快優(yōu)化組織架構(gòu)和管理流程，構(gòu)建權(quán)責(zé)明晰的科技倫理管理體系，建立倫理風(fēng)險(xiǎn)預(yù)判機(jī)制，在設(shè)計(jì)、研發(fā)和應(yīng)用等科技活動(dòng)的各個(gè)階段，要持續(xù)地識(shí)別、分析與管理倫理風(fēng)險(xiǎn)。同時(shí)，壓實(shí)科技創(chuàng)新管理責(zé)任，責(zé)任主體既要對(duì)科研目標(biāo)負(fù)責(zé)，也要對(duì)科技倫理負(fù)責(zé)，提高科研人員的倫理意識(shí)，大力宣貫科技倫理道德教育，確保責(zé)任主體始終秉持科技向善理念，踐行負(fù)責(zé)任創(chuàng)新。

　　二是面向科技倫理治理持續(xù)開(kāi)展研究，以技術(shù)創(chuàng)新應(yīng)對(duì)科技倫理治理的問(wèn)題與挑戰(zhàn)?？萍紓惱碇卫響?yīng)始終與科研技術(shù)的創(chuàng)新發(fā)展緊密結(jié)合、同頻共振，用技術(shù)創(chuàng)新解決技術(shù)發(fā)展中的問(wèn)題。創(chuàng)新主體應(yīng)借助技術(shù)手段輔助開(kāi)展科技倫理審查與監(jiān)管，通過(guò)研發(fā)或使用新的技術(shù)工具、創(chuàng)新技術(shù)方法，重點(diǎn)解決技術(shù)在公平性、安全性、可解釋性、隱私保護(hù)等方面面臨的挑戰(zhàn)。目前，人工智能大模型相關(guān)應(yīng)用加速落地，然而，在人工智能大模型的數(shù)據(jù)清洗、敏感詞判別、合規(guī)使用以及基于國(guó)外企業(yè)和機(jī)構(gòu)提供的大模型底座熱啟動(dòng)等方面仍存在不少漏洞和風(fēng)險(xiǎn)，如不加以規(guī)范治理，將可能對(duì)人類(lèi)行為、人身健康、社會(huì)意識(shí)形態(tài)等方面造成危害，更有甚者，將嚴(yán)重威脅我國(guó)科技創(chuàng)新生態(tài)的有序發(fā)展。

　　三是加強(qiáng)國(guó)際科技治理合作，把握全球科技治理研究動(dòng)態(tài)，謀劃中國(guó)科技治理合理路徑?？萍純r(jià)值觀始終是國(guó)際科技治理的核心議題，由于政治體制和民族文化等各不相同，各國(guó)科技倫理治理的理念與路線也不盡相同。我們既要積極擁抱國(guó)際科技創(chuàng)新網(wǎng)絡(luò)，在科技治理手段上與國(guó)際規(guī)范相銜接，推動(dòng)科技更好地增進(jìn)人類(lèi)福祉、為人類(lèi)社會(huì)發(fā)展服務(wù)。同時(shí)，也要立足我國(guó)國(guó)情，探索形成具有中國(guó)特色的治理方案，靈活運(yùn)用清單動(dòng)態(tài)調(diào)整機(jī)制，隨時(shí)準(zhǔn)備應(yīng)對(duì)新問(wèn)題、新挑戰(zhàn)。此外，要積極發(fā)起全球科技倫理治理交流與對(duì)話，大力宣傳中國(guó)科技倫理治理的創(chuàng)新實(shí)踐，進(jìn)一步增強(qiáng)我國(guó)科技創(chuàng)新的傳播力和影響力。

　　在可預(yù)見(jiàn)的未來(lái)，智能技術(shù)向“強(qiáng)人工智能”逐步演進(jìn)，科學(xué)智能（AI for Science）、具身智能等新方向也不斷涌現(xiàn)，智能技術(shù)、數(shù)字技術(shù)對(duì)經(jīng)濟(jì)社會(huì)的作用與影響將會(huì)越來(lái)越突出，這一過(guò)程必將伴隨著成倍增長(zhǎng)的技術(shù)挑戰(zhàn)，科技倫理治理問(wèn)題也將變得更加突出、更加緊迫?？傊?，科技倫理治理是一項(xiàng)復(fù)雜的系統(tǒng)性工程，既需要政府、學(xué)界、產(chǎn)業(yè)界等多方通力合作，也需要科技工作者的潛心研究和不懈努力，相信在不久的將來(lái)我們會(huì)在科技倫理治理方面取得更豐碩的成果。