為推動(dòng)人工智能技術(shù)的良性發(fā)展和應(yīng)用！8月4日，由美亞柏科聯(lián)合中國信息通信研究院、廈門安勝網(wǎng)絡(luò)科技有限公司以及廈門人工智能安全研究院舉辦的“智能安全”主題活動(dòng)圓滿成功。

會(huì)議現(xiàn)場

中國信息通信研究院云計(jì)算與大數(shù)據(jù)研究所副所長魏凱，美亞柏科常務(wù)副總經(jīng)理欒江霞，廈門市公安局網(wǎng)安支隊(duì)原政委田耕，廈門人工智能研究院院長劉兵出席會(huì)議。

魏凱 致辭

魏凱在開場致辭中提到開展人工智能安全研究，防范人工智能相關(guān)新技術(shù)新應(yīng)用的風(fēng)險(xiǎn)，是保障技術(shù)產(chǎn)業(yè)健康發(fā)展的重要議題。中國信通院云計(jì)算與大數(shù)據(jù)研究所自2017年開始研究人工智能安全問題，推動(dòng)開展三個(gè)方面的工作，包括開展可信人工智能研究，發(fā)布《可信人工智能白皮書》；聯(lián)合政產(chǎn)學(xué)研各界構(gòu)建人工智能、大模型安全、內(nèi)容科技的標(biāo)準(zhǔn)體系；搭建產(chǎn)業(yè)交流的平臺。

 欒江霞 致辭

欒江霞在致辭中表示，美亞柏科作為國投集團(tuán)參與國家數(shù)字經(jīng)濟(jì)安全穩(wěn)定發(fā)展平臺，肩負(fù)推進(jìn)技術(shù)創(chuàng)新、推動(dòng)產(chǎn)業(yè)發(fā)展的重要責(zé)任，堅(jiān)決維護(hù)國家網(wǎng)絡(luò)安全，積極開展網(wǎng)絡(luò)空間安全治理。在人工智能安全領(lǐng)域，美亞柏科針對深度合成技術(shù)特別成立專項(xiàng)研究團(tuán)隊(duì)，打造“AI-3300慧眼視頻圖像鑒真工作站”、AIGC內(nèi)容檢測平臺等一系列視頻圖像檢測鑒定的一體化智能裝備。今年，更是研發(fā)推出國內(nèi)首個(gè)公共安全大模型“天擎”，致力打造公共安全智能化基座，重構(gòu)公共安全業(yè)務(wù)、產(chǎn)品和生態(tài)新模式。

同時(shí)，會(huì)議還邀請了獲獎(jiǎng)選手阿里巴巴集團(tuán)媒體安全研究負(fù)責(zé)人楊銳作《資質(zhì)圖像篡改檢測及應(yīng)用》參賽分享，廈門安勝網(wǎng)絡(luò)科技有限公司王文燁作《復(fù)雜場景下OCR》參賽分享。

大咖分享 精彩紛呈

關(guān)于智能安全，大咖有何洞見？

本次會(huì)議還特邀

多名行業(yè)領(lǐng) 軍人物

分享交流研究成果

研討技術(shù)創(chuàng)新與安全發(fā)展平衡之道

畢馬寧

公安部信息安全等級保護(hù)評估中心原副主任、研究員畢馬寧作《深化制度落實(shí)，護(hù)航數(shù)智發(fā)展》主題演講，從國家數(shù)字經(jīng)濟(jì)戰(zhàn)略出發(fā)，闡釋等級保護(hù)制度，提出“有數(shù)據(jù)才有模型”，人工智能安全首先關(guān)注數(shù)據(jù)安全，重點(diǎn)在于數(shù)據(jù)應(yīng)用賦能全生命周期的安全有序共享。

 劉利釗

如何增強(qiáng)AI算法的安全性和可信度？中國科協(xié)教授級高工、中科院正高級工程師劉利釗教授給出了一些答案。他在作《人工智能算法安全分析與機(jī)制》主題分享時(shí)，通過分析當(dāng)前算法安全的細(xì)分實(shí)例與具體方法，從算法和領(lǐng)域創(chuàng)新的角度出發(fā)，深入剖析適合中國人工智能算法安全的前進(jìn)路線和開放架構(gòu)。

趙建強(qiáng)

以ChatGPT為代表的生成式AI技術(shù)已成為信息領(lǐng)域最具革命性的技術(shù)之一，深刻影響人們的生產(chǎn)生活。但同時(shí)，此類技術(shù)的不合理應(yīng)用催生諸多復(fù)雜問題，風(fēng)險(xiǎn)持續(xù)加劇。國家開發(fā)投資集團(tuán)特級專家、美亞柏科AI研發(fā)中心總經(jīng)理趙建強(qiáng)博士就此展開《生成式人工智能安全風(fēng)險(xiǎn)及治理》主題分享，他從核心技術(shù)原理出發(fā)，結(jié)合案例分析，闡述生成式人工智能存在的模型安全、侵犯和泄露個(gè)人隱私、涉網(wǎng)犯罪風(fēng)險(xiǎn)等問題，并從完善法律法規(guī)、加強(qiáng)行業(yè)自律，以“魔法”打敗“魔法”三個(gè)方面提出保障生成式人工智能健康發(fā)展的建議。

 鐘力

大數(shù)據(jù)協(xié)同安全技術(shù)國家工程研究中心副主任，360集團(tuán)數(shù)據(jù)安全研究院院長鐘力博士作《人工智能系統(tǒng)安全研究與實(shí)踐》主題演講，他從系統(tǒng)化視角分析大模型面臨的安全風(fēng)險(xiǎn)，并分享大模型軟件漏洞、提示注入攻擊等方面行業(yè)領(lǐng) 先研究和實(shí)踐成果。

 包沉浮

北京百度網(wǎng)訊科技有限公司安全副總經(jīng)理，安全技術(shù)委員會(huì)主 席包沉浮作《大模型應(yīng)用安全挑戰(zhàn)及應(yīng)對思路》主題分享，從大模型的多種角色出發(fā)，在技術(shù)、網(wǎng)絡(luò)、數(shù)據(jù)、內(nèi)容等多個(gè)衍生層面歸納大模型面臨的安全挑戰(zhàn)，并提出基于風(fēng)險(xiǎn)控制的多層次安全體系。

 金輝

AI改變了世界，那么誰來改變AI？美亞柏科AI安全首席科學(xué)家金輝博士作《人工智能安全布局與市域社會(huì)治理大模型》主題演講，她從深度偽造視頻換臉、AIGC生成式人工智能制造虛jia新聞等豐富的實(shí)際場景切入，帶領(lǐng)人們感知人工智能時(shí)代下的新“威脅”，進(jìn)而分享美亞柏科在人工智能安全的戰(zhàn)略布局，彰顯企業(yè)的能力與使命以及開拓創(chuàng)新的堅(jiān)定決心?！白屛覀償y手共創(chuàng)安全、可信、自主可控的未來AI元宇宙。”她說。

以高水平安全護(hù)航高質(zhì)量發(fā)展

統(tǒng)籌發(fā)展和安全，規(guī)范科技創(chuàng)新行為，讓科技向上向善。在數(shù)據(jù)推動(dòng)經(jīng)濟(jì)的大潮中，人工智能安全應(yīng)最先關(guān)注數(shù)據(jù)安全。

作為網(wǎng)絡(luò)空間安全和大數(shù)據(jù)智能化綜合解決方案提供商，安勝以維護(hù)國家安全為己任，深耕網(wǎng)絡(luò)安全領(lǐng)域，在母公司美亞柏科的帶領(lǐng)下，通過多年行業(yè)深耕，聚焦數(shù)據(jù)安全，推出了數(shù)據(jù)安全解決方案，以“服務(wù)+產(chǎn)品”的模式，為客戶提供全方位的數(shù)據(jù)安全咨詢、安全建設(shè)和運(yùn)營服務(wù)解決方案。

融新匯智，競促發(fā)展。近日，第四屆中國人工智能大賽獲獎(jiǎng)名單公布，最終共有12個(gè)團(tuán)隊(duì)獲得A級證書，17個(gè)團(tuán)隊(duì)獲得B級證書。其中，安勝榮獲了復(fù)雜場景圖片文字識別的A級證書、深度合成視頻檢測的B級證書與視頻生成方法識別的B級證書。

安全才能安心，技勝推動(dòng)業(yè)勝。安勝將繼續(xù)以創(chuàng)新驅(qū)動(dòng)核心技術(shù)能力的提升，攜手各方積極推進(jìn)智能安全領(lǐng)域的研究和實(shí)踐，共同打造促經(jīng)濟(jì)、促發(fā)展，“正能量”、“負(fù)責(zé)任”的人工智能產(chǎn)業(yè)，共同建設(shè)安全可靠、可信賴的人工智能環(huán)境。