中國(guó)發(fā)展高層論壇2024年年會(huì)于3月24日在京召開。在人工智能發(fā)展與治理專題研討會(huì)上，十幾位中外嘉賓共同研討如何利用好人工智能的機(jī)遇，應(yīng)對(duì)好人工智能的挑戰(zhàn)。國(guó)務(wù)院發(fā)展研究中心副主任張順喜主持專題研討會(huì)。

　　科學(xué)技術(shù)部副部長(zhǎng)吳朝暉在作主題發(fā)言時(shí)表示，人工智能將成為第四次工業(yè)革命的標(biāo)配，中國(guó)政府高度重視人工智能發(fā)展，通過加強(qiáng)人工智能領(lǐng)域科技創(chuàng)新、推動(dòng)人工智能深度賦能實(shí)體經(jīng)濟(jì)、推進(jìn)人工智能倫理治理等方面發(fā)展。

　　對(duì)于人工智能的發(fā)展趨勢(shì)，吳朝暉認(rèn)為，一是人工智能正在邁向多智能融合新階段，以ChatGPT為代表的技術(shù)突破，打開了邁向通用人工智能的序幕，大模型已成為主流技術(shù)路線，并加快迭代演進(jìn)。二是人工智能將成為第四次工業(yè)革命的標(biāo)配，它將推動(dòng)傳統(tǒng)實(shí)體經(jīng)濟(jì)實(shí)現(xiàn)革命性升級(jí)與發(fā)展，從而催生智能經(jīng)濟(jì)新形態(tài)，成為發(fā)展新質(zhì)生產(chǎn)力的重要引擎。三是人工智能將引發(fā)社會(huì)發(fā)展的深遠(yuǎn)變革，它將廣泛地應(yīng)用于教育、醫(yī)療、家政等行業(yè)，充分滿足消費(fèi)者對(duì)于自動(dòng)化、實(shí)時(shí)化、個(gè)性化的要求。

　　“我們希望與世界各國(guó)攜手合作，共同探索人工智能邊界，共享創(chuàng)新成果，共管風(fēng)險(xiǎn)與挑戰(zhàn)，從而共贏美好未來?！眳浅瘯熣f。

　　北京智源研究院創(chuàng)始人、創(chuàng)始理事長(zhǎng)張宏江在作主題發(fā)言時(shí)表示，當(dāng)前，AI進(jìn)入了一個(gè)新的發(fā)展階段，以大模型為代表的階段，它代表了第四次技術(shù)革命，帶來了效率的提高，為我們的生活帶來了諸多方便，將會(huì)創(chuàng)造大量的價(jià)值以及一個(gè)又一個(gè)新的產(chǎn)業(yè)。但同時(shí)，人工智能可能導(dǎo)致全球性的災(zāi)難性后果。為了避免這樣的危險(xiǎn)發(fā)生，我們需要?jiǎng)澇黾t線，改進(jìn)治理機(jī)制，同時(shí)需要研發(fā)更多安全的技術(shù)，控制人工智能不去跨越這些紅線。要想做到這一點(diǎn)，最重要的一條是堅(jiān)持和加強(qiáng)國(guó)際科學(xué)界和政府間在安全方面的合作。

　　在小組討論中，Verimag實(shí)驗(yàn)室創(chuàng)始人、2007年圖靈獎(jiǎng)得主約瑟夫·希發(fā)基思表示，人工智能本身既不是好的，也不是壞的，關(guān)鍵的挑戰(zhàn)是要明智地使用它，通過規(guī)范來預(yù)防風(fēng)險(xiǎn)。他認(rèn)為，有兩種主要風(fēng)險(xiǎn)，一種是技術(shù)風(fēng)險(xiǎn)，另一種是人為的風(fēng)險(xiǎn)，這可能是來自于對(duì)AI的誤用或者無(wú)意中的使用而產(chǎn)生的影響，可以通過監(jiān)管或者法律的框架來控制。由于AI所帶來的自動(dòng)化導(dǎo)致的失業(yè)問題，也可以通過適當(dāng)?shù)纳鐣?huì)政策來應(yīng)對(duì)。此外，還有兩種風(fēng)險(xiǎn)，一個(gè)是怎么在選擇和性能之間取得平衡，如果我們不能確保系統(tǒng)是以公正、中立的方式使用可靠信息，則不要將決策權(quán)交給系統(tǒng)。另一個(gè)是性能的提升是否與人類控制的缺失相平衡。

　　香港中文大學(xué)（深圳）前海國(guó)際事務(wù)研究院院長(zhǎng)、廣州粵港澳大灣區(qū)研究院理事長(zhǎng)鄭永年表示，人工智能的發(fā)展與治理必須要同時(shí)發(fā)展、同時(shí)進(jìn)步。美國(guó)跟中國(guó)在AI領(lǐng)域?qū)嶋H上是互補(bǔ)的，各有自己的比較優(yōu)勢(shì)，可以互相學(xué)習(xí)。在治理方面，在國(guó)際社會(huì)上，更需要中美兩個(gè)國(guó)家在AI治理領(lǐng)域進(jìn)行合作。互聯(lián)網(wǎng)AI最重要的還是要開放，中國(guó)要通過開放向美國(guó)學(xué)習(xí)，把發(fā)展做起來；美國(guó)應(yīng)當(dāng)向中國(guó)的監(jiān)管、治理方面學(xué)習(xí)，互相進(jìn)步。

　　清華大學(xué)蘇世民書院院長(zhǎng)薛瀾表示，人工智能的發(fā)展面臨一系列風(fēng)險(xiǎn)需要防范。從人工智能治理的角度來看，面臨五大挑戰(zhàn)。一是人工智能的技術(shù)發(fā)展是非常快的，但是我們治理體系的構(gòu)建相對(duì)慢一些。二是信息不對(duì)稱的問題。比如，企業(yè)不知道政府規(guī)制最關(guān)心的問題在哪兒；對(duì)技術(shù)發(fā)展可能會(huì)帶來什么風(fēng)險(xiǎn)，政府不清楚。三是防范風(fēng)險(xiǎn)的成本要遠(yuǎn)遠(yuǎn)高于它有可能造成危害的成本，所以風(fēng)險(xiǎn)治理的成本較高。四是在全球治理方面，互相之間有重疊甚至也有矛盾的機(jī)構(gòu)，都對(duì)某個(gè)問題有相關(guān)的利益，都希望來參與治理，使得全球治理體系的形成有很大的困難。五是人工智能領(lǐng)域的治理，一定要有美國(guó)和中國(guó)的合作，但是目前這種地緣政治也會(huì)帶來相應(yīng)的一些問題。

　　怎么去解決上述這些問題？薛瀾建議，第一，要加強(qiáng)安全和技術(shù)。目前，在安全領(lǐng)域的研發(fā)是不夠的，今后在這方面需要加強(qiáng)研究，尤其是需要加強(qiáng)國(guó)際合作。第二，通過敏捷治理的方式解決治理方面的問題。第三，鼓勵(lì)企業(yè)的自我規(guī)制。第四，加強(qiáng)國(guó)際治理。在全球治理方面，聯(lián)合國(guó)剛剛通過了協(xié)議，并且召開高級(jí)別專家的討論。第五，在人工智能領(lǐng)域，中美雙方一定要加強(qiáng)合作，這樣才能真正解決人類面臨的各種問題。

　　清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng)、中國(guó)工程院院士張亞勤表示，目前，Sora的能量很大，但是剛剛開始，未來5年，我們會(huì)看到其在各領(lǐng)域的大規(guī)模應(yīng)用，所以會(huì)帶來很多風(fēng)險(xiǎn)。他認(rèn)為有三大風(fēng)險(xiǎn)：一是信息世界的風(fēng)險(xiǎn)。比如，有錯(cuò)誤的信息、虛假的信息。二是在大模型領(lǐng)域獨(dú)有的幻覺，但這個(gè)風(fēng)險(xiǎn)本身是可控的。而比較大的風(fēng)險(xiǎn)是，當(dāng)把信息智能延伸到物理智能、延伸到生物智能，在大規(guī)模使用的時(shí)候，會(huì)出現(xiàn)風(fēng)險(xiǎn)的規(guī)?；?。三是大模型連接到經(jīng)濟(jì)體系、金融體系、電站、電力網(wǎng)絡(luò)等的風(fēng)險(xiǎn)是相當(dāng)大的。

　　怎樣防備這些風(fēng)險(xiǎn)？張亞勤提出以下五個(gè)建議。第一，標(biāo)識(shí)我們所產(chǎn)生的數(shù)字人或者智能體。第二，要有映射和注冊(cè)機(jī)制。未來會(huì)有很多機(jī)器人，但機(jī)器人本身是一個(gè)從屬體，不是主體，必須要映射到主體。第三，建立分級(jí)體制。對(duì)于一般規(guī)模的模型監(jiān)管可以少一點(diǎn)，對(duì)于前沿大模型、萬(wàn)億級(jí)參數(shù)用到物理世界無(wú)人車的、用到金融系統(tǒng)的、用到生物系統(tǒng)監(jiān)管的要多一些，要分級(jí)。第四，呼吁把10%的經(jīng)費(fèi)投入到大模型風(fēng)險(xiǎn)的研究中，這不僅是政策研究，還有很多算法、技術(shù)的研究。第五，人工智能大模型一定不要跨越紅線。紅線可能在不同的時(shí)間并不一樣，但是需要有這個(gè)紅線。中國(guó)需要和全球不同人工智能領(lǐng)域一起合作，否則就會(huì)有生存風(fēng)險(xiǎn)。

更多精彩，請(qǐng)關(guān)注“官方微信”