【聚焦科技倫理】

　　◎陳小平

　　當(dāng)前，加強(qiáng)人工智能領(lǐng)域科技倫理建設(shè)的必要性、緊迫性和原則規(guī)范已成共識。前不久，《科技倫理審查辦法(試行)》(以下簡稱《審查辦法》)的正式發(fā)布，標(biāo)志著我國科技倫理建設(shè)全面進(jìn)入治理階段，對于推動我國人工智能等領(lǐng)域的健康發(fā)展和負(fù)責(zé)任創(chuàng)新具有重要的現(xiàn)實(shí)意義。

　　現(xiàn)階段人工智能倫理審查面臨諸多挑戰(zhàn)

　　現(xiàn)階段人工智能科技活動倫理審查工作重點(diǎn)和突出難點(diǎn)可歸納為以下幾個方面。

　　一是正確判斷科技活動是否屬于倫理審查范圍。《審查辦法》第二條明確規(guī)定了科技活動的審查范圍，從內(nèi)容上看主要考慮的是受試者的合法權(quán)益以及科技活動可能對生命、生態(tài)、公共秩序、社會發(fā)展等造成的倫理風(fēng)險(xiǎn)。該文件是科技倫理審查的通用性規(guī)定，尚未對每一項(xiàng)具體科技活動是否屬于審查范圍作出規(guī)定。因此，科技活動承擔(dān)單位的科技倫理審查委員會(可能還有承擔(dān)專家復(fù)核的機(jī)構(gòu))需要結(jié)合實(shí)際情況，細(xì)化本單位的科技倫理審查范圍，同時根據(jù)《審查辦法》第九條制定科技倫理風(fēng)險(xiǎn)評估辦法，指導(dǎo)科研人員開展科技倫理風(fēng)險(xiǎn)評估，按要求申請倫理審查。目前，雖然我國人工智能學(xué)界、業(yè)界和管理機(jī)構(gòu)對倫理風(fēng)險(xiǎn)的認(rèn)識正在提升，但風(fēng)險(xiǎn)判斷能力和水平滯后于認(rèn)識程度的提升，如何作出正確判斷將是一項(xiàng)新挑戰(zhàn)。

　　二是恰當(dāng)把握審查內(nèi)容和審查尺度?！秾彶檗k法》第十五條對科技倫理審查內(nèi)容作出了明確的規(guī)定，特別對涉及個人隱私數(shù)據(jù)等的科技活動提出了要求，與個人信息保護(hù)法、數(shù)據(jù)安全法等進(jìn)行了很好的銜接。但在實(shí)際工作中，還需要制定可操作的審查細(xì)則。此外，《審查辦法》提出，地方、相關(guān)行業(yè)主管部門或科技類社會團(tuán)體可以制定或修訂本地方、本系統(tǒng)、本領(lǐng)域的科技倫理審查細(xì)則、具體規(guī)范和指南。今年2月，國家衛(wèi)健委、教育部、科技部等制定了《涉及人的生命科學(xué)和醫(yī)學(xué)研究倫理審查辦法》，對生命科學(xué)和醫(yī)學(xué)領(lǐng)域的研究作了更詳細(xì)的規(guī)定，而人工智能領(lǐng)域尚缺少更具體的規(guī)定，因此人工智能倫理審查實(shí)施細(xì)則的制定應(yīng)是下一步重點(diǎn)工作之一，并且要在審查實(shí)踐中逐步完善。在實(shí)施細(xì)則的設(shè)置中，如何恰當(dāng)把握審查尺度將面臨挑戰(zhàn)，容易出現(xiàn)尺度過松或過嚴(yán)的現(xiàn)象，進(jìn)而對后續(xù)的倫理審查產(chǎn)生系統(tǒng)性影響。如果尺度過松，有可能導(dǎo)致一些存在倫理風(fēng)險(xiǎn)的科技活動倫理審查不全面，從而留下倫理風(fēng)險(xiǎn)隱患；如果尺度過嚴(yán)，可能妨礙科技活動的正常推進(jìn)，降低國家科技進(jìn)步和經(jīng)濟(jì)、社會發(fā)展的速度。

　　三是加強(qiáng)科技倫理風(fēng)險(xiǎn)預(yù)警與跟蹤研判?！秾彶檗k法》規(guī)定，對可能產(chǎn)生較大倫理風(fēng)險(xiǎn)挑戰(zhàn)的新興科技活動實(shí)施清單管理。清單的制定涉及對倫理風(fēng)險(xiǎn)的預(yù)測，這種預(yù)測往往是非常困難的，對人工智能長期社會效應(yīng)的分析、預(yù)測尤其困難。因此，清單的滯后性將持續(xù)存在。尤其需要警覺的是，某些倫理后果無法通過事后治理加以消除，或事后治理的代價(jià)過大。因此，清單的動態(tài)調(diào)整機(jī)制尤為重要。在對較高風(fēng)險(xiǎn)的科技活動的倫理風(fēng)險(xiǎn)防控上，要堅(jiān)持《關(guān)于加強(qiáng)科技倫理治理的意見》提出的敏捷治理要求，加強(qiáng)科技倫理風(fēng)險(xiǎn)預(yù)警與跟蹤研判，及時動態(tài)調(diào)整治理方式和倫理規(guī)范，快速靈活應(yīng)對科技創(chuàng)新帶來的倫理挑戰(zhàn)。

　　多措并舉推動人工智能倫理審查落到實(shí)處

　　人工智能領(lǐng)域的倫理審查是一項(xiàng)新事物，要求科技活動的承擔(dān)者、倫理委員會委員和工作人員、參與復(fù)核的專家和其他工作人員等參與《審查辦法》實(shí)施的人員認(rèn)真學(xué)習(xí)、深刻理解《審查辦法》及其他相關(guān)政策規(guī)定，掌握背景知識，不斷在實(shí)踐中提高倫理審查的能力。

　　首先，要提高參與《審查辦法》實(shí)施的人員對人工智能的認(rèn)識水平。當(dāng)前，人們對于人工智能的認(rèn)識仍存在不少誤區(qū)，不少人錯誤地認(rèn)為人工智能與人類智能是本質(zhì)相同的，只是程度不同而已，為此認(rèn)為對人的管理、教育方法也適用于人工智能。這種誤解、誤判會嚴(yán)重地干擾人工智能治理?！叭斯ぶ悄苤浮丙溈ㄥa等人首次使用了“人工智能”一詞，并明確指出，“AI的大部分工作是研究世界對智能提出的問題，而不是研究人或動物。AI研究者可以使用人沒有或人不能使用的方法，即使這些方法主要涉及計(jì)算”。由此可見，在人工智能倫理審查中務(wù)必根據(jù)數(shù)據(jù)、模型、算法、平臺等AI技術(shù)要素的實(shí)際特性，作出客觀的判斷，而不能混淆人工智能與人類智能。

　　其次，根據(jù)倫理審查的人才現(xiàn)狀和工作需要，亟須加強(qiáng)科技倫理審查人才隊(duì)伍的培養(yǎng)，以滿足現(xiàn)階段的迫切需要。要從更長期的需要出發(fā)，加大力度，通過學(xué)校教育、進(jìn)修培訓(xùn)等方式，培養(yǎng)一大批科技倫理治理的專業(yè)人才。

　　再次，落實(shí)《審查辦法》必須從全局觀點(diǎn)出發(fā)，清單管理是重中之重，應(yīng)根據(jù)人工智能研究和應(yīng)用的發(fā)展情況和治理需要，對清單進(jìn)行及時調(diào)整，并就調(diào)整內(nèi)容及時發(fā)布相關(guān)說明和實(shí)施指導(dǎo)。另外，有條件的地區(qū)、行業(yè)和單位，應(yīng)加快啟動倫理審查工作，及時總結(jié)經(jīng)驗(yàn)教訓(xùn)，發(fā)揮示范和引領(lǐng)作用。還需加強(qiáng)《審查辦法》實(shí)施過程中相關(guān)經(jīng)驗(yàn)的信息共享，以提高全國范圍內(nèi)倫理審查的效率和效能。

　　最后，針對滯后性挑戰(zhàn)和人工智能的特點(diǎn)，建議開設(shè)一個新的研究方向——人工智能可控性研究。以往的研究主要針對工程可靠性，而對人工智能來說，這是遠(yuǎn)遠(yuǎn)不夠的，有必要從基礎(chǔ)理論、模型、算法、數(shù)據(jù)、平臺等各個角度，對人工智能的可控性展開全面研究。同時，需要積極探索人工智能在相關(guān)領(lǐng)域的倫理效應(yīng)和潛在風(fēng)險(xiǎn)，增強(qiáng)我國對人工智能等科技活動的風(fēng)險(xiǎn)預(yù)測和防范能力。

　　(作者系中國人工智能學(xué)會人工智能倫理與治理工委會主任)

　　來源：科技日報(bào)