11月9日，2023年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)前沿?cái)?shù)字技術(shù)創(chuàng)新與安全論壇在浙江烏鎮(zhèn)舉行。論壇以“技術(shù)引領(lǐng)變革 數(shù)字開創(chuàng)未來”為主題，依托前沿?cái)?shù)字技術(shù)發(fā)展浪潮，共議數(shù)字技術(shù)創(chuàng)新與安全。

　　技術(shù)的發(fā)展必然帶來新的風(fēng)險(xiǎn)，如何發(fā)現(xiàn)、甄別、處理、預(yù)防風(fēng)險(xiǎn)成為了一項(xiàng)重要課題。在論壇上，與會(huì)專家與嘉賓都談到了前沿科技發(fā)展可能帶來的風(fēng)險(xiǎn)，也探討了一些相應(yīng)的應(yīng)對(duì)之法。

　　“區(qū)別于一般的產(chǎn)業(yè)技術(shù)，網(wǎng)絡(luò)空間安全有明顯的對(duì)抗性的特點(diǎn)，也就是說一方的勝利代表另一方的失敗?！敝嘘P(guān)村實(shí)驗(yàn)室主任助理、首席科學(xué)家卿昱在主旨演講中談到，作為2015年正式設(shè)立的一級(jí)學(xué)科，“網(wǎng)絡(luò)空間安全是一門年輕但不簡單的學(xué)科?！?/p>

　　在網(wǎng)絡(luò)安全領(lǐng)域，新技術(shù)的發(fā)展會(huì)使已有的技術(shù)面臨安全風(fēng)險(xiǎn)，比如說量子計(jì)算，它很可能會(huì)給經(jīng)典密碼帶來嚴(yán)重的挑戰(zhàn)，“各種新技術(shù)的出現(xiàn)同時(shí)也帶來了安全威脅?！?/p>

　　哪些新技術(shù)需要我們重點(diǎn)關(guān)注？

　　卿昱分享了從2019年到2023年整個(gè)頂級(jí)會(huì)議期刊的一些熱詞分析：這5年來，研究者從對(duì)隱私計(jì)算、惡意軟件、數(shù)字取證、異常檢測技術(shù)的關(guān)注，到最近3年又?jǐn)U展到了人工智能、深度學(xué)習(xí)和隱私保護(hù)的相關(guān)的技術(shù)上。

　　“隨著人工智能的發(fā)展，我們已經(jīng)很重視相關(guān)的安全問題，比如像人工智能算法可能會(huì)在對(duì)抗攻擊的情況下被誤導(dǎo)?！鼻迦A大學(xué)人工智能研究院副院長、計(jì)算機(jī)系教授朱軍在論壇的主旨演講中舉例，監(jiān)控?cái)z像頭的人臉識(shí)別驗(yàn)證的安全，其實(shí)在之前應(yīng)用之前，就已經(jīng)開始做很多的學(xué)術(shù)研究和應(yīng)用，“一方面去發(fā)現(xiàn)漏洞，另一方面就是去做保密?！?/p>

　　倫理風(fēng)險(xiǎn)、算法風(fēng)險(xiǎn)、數(shù)據(jù)風(fēng)險(xiǎn)、技術(shù)濫用，在朱軍看來，生成式人工智能的新型安全風(fēng)險(xiǎn)正在顯現(xiàn)。

　　如何去應(yīng)對(duì)這些風(fēng)險(xiǎn)？

　　“在清華大學(xué)人工智能研究院成立的時(shí)候，我們當(dāng)時(shí)討論就設(shè)定叫發(fā)展第三代人工智能的公司，我們實(shí)際上是想將大數(shù)據(jù)驅(qū)動(dòng)和知識(shí)相融合地去發(fā)展新型的人工智能的方法和理論?！闭搲F(xiàn)場，朱軍演示了人工智能安全評(píng)測平臺(tái)、人臉人工智能安全防火墻、數(shù)據(jù)安全產(chǎn)品及人工智能內(nèi)容檢測平臺(tái)等人工智能治理的有效工具。

　　“關(guān)于大模型的一些最新的結(jié)果，我們可以從各個(gè)維度去評(píng)測我們的模型算法；針對(duì)人臉驗(yàn)證這種最廣泛的應(yīng)用場景，我們專門做了稱之為人臉識(shí)別的自動(dòng)防火墻；關(guān)于數(shù)據(jù)安全，我們發(fā)展的分布式機(jī)器學(xué)習(xí)，或者用加密數(shù)據(jù)下的機(jī)器學(xué)習(xí)的技術(shù)來綜合來去解決這個(gè)問題。而對(duì)于人工智能發(fā)展之后創(chuàng)造的內(nèi)容，“我們最基本的就是想判斷哪些是人生成，哪些是人工智能生成的，這背后就需要算法模型來去幫我們自動(dòng)去檢測識(shí)別”。

　　本次論壇由國家互聯(lián)網(wǎng)信息辦公室發(fā)起，工業(yè)和信息化部、中國科學(xué)院、世界知識(shí)產(chǎn)權(quán)組織、中關(guān)村實(shí)驗(yàn)室主辦，國家工業(yè)信息安全發(fā)展研究中心、中國科學(xué)院計(jì)算技術(shù)研究所、百度公司協(xié)辦，來自中央和國家機(jī)關(guān)、中央新聞網(wǎng)站、國內(nèi)外知名專家及互聯(lián)網(wǎng)企業(yè)等各界代表共120余位嘉賓參加論壇。