中國計算機用戶協(xié)會信息安全分會理事長李技主持本次大會,強調(diào)了人工智能技術(shù)的創(chuàng)新與安全防護需協(xié)同并重、雙向驅(qū)動,并呼吁各方將研討成果轉(zhuǎn)化為實際行動,共同構(gòu)筑大模型安全發(fā)展的堅實屏障,推動人工智能技術(shù)在安全、可控的軌道上賦能社會。
中國計算機用戶協(xié)會理事長宋顯珠、工業(yè)和信息化部電子第一研究所(電子一所)代表于盟、中國長城互聯(lián)網(wǎng)信息中心總工程師賈利濱、北信源公司董事長林皓為大會致辭。
北信源董事長林皓在致辭中表示:“北信源作為中國網(wǎng)絡(luò)安全行業(yè)的一份子,要通過自身技術(shù)積累和不斷創(chuàng)新,為中國數(shù)字化發(fā)展發(fā)揮出更大作用和價值。”他談到:“人工智能、大數(shù)據(jù)、云計算等新興技術(shù)的廣泛應(yīng)用,為信息安全帶來了新的風險和威脅。 我們深刻認識到,實現(xiàn)信息技術(shù)領(lǐng)域的自主可控,是保障國家信息安全的重要前提,北信源始終堅持技術(shù)創(chuàng)新和國產(chǎn)化替代。我們也積極參與了行業(yè)標準的制定和推廣,加強與各界的合作交流,一起推動信息安全與自主可控戰(zhàn)略的實施,為數(shù)字中國建設(shè)和國家網(wǎng)絡(luò)安全保障體系建設(shè)貢獻更大的力量。”
中科院信息安全國家密碼重點實驗室主任、中科院大學(xué)教授呂述望發(fā)表了《AI浪潮下的網(wǎng)絡(luò)安全問題》專家主題報告,從基礎(chǔ)概念切入,強調(diào)計算機信息系統(tǒng)的“人機屬性”不應(yīng)被技術(shù)發(fā)展所忽略,他指出,智能時代的網(wǎng)絡(luò)安全研究需回歸系統(tǒng)本質(zhì),厘清技術(shù)邊界與安全責任,才能構(gòu)建起真正可靠的防護體系。
中國工程院院士沈昌祥作了《用自主可信計算打造人工智能安全產(chǎn)業(yè)新生態(tài)》主題演講。他指出,安全可信是人工智能發(fā)展的前提,無安全可信保障的人工智能存在重大風險;人工智能的算力、算法、數(shù)據(jù)三大核心要素若缺乏安全可信支撐,可能導(dǎo)致系統(tǒng)功能清零甚至產(chǎn)生破壞性后果,傳統(tǒng)打補丁模式僅能應(yīng)對表面問題,無法解決根本安全隱患。人工智能時代更需依托“安全管理中心支持下的三重防御架構(gòu)”,實現(xiàn)感知計算域、應(yīng)用計算域的全流程可信保障。
北信源副總裁楊華發(fā)表了《基于信源密信AI能力基座的多智能體安全應(yīng)急指揮體系》主題演講,展示了北信源在安全通信和AI集成方面的創(chuàng)新成果。楊華介紹,信源密信是北信源自主研發(fā)的高安全、多模態(tài)融合的AI集成平臺,融合多種AI能力,集成主流大模型,提供統(tǒng)一標準化接口,降低第三方應(yīng)用的AI接入門檻,為用戶業(yè)務(wù)系統(tǒng)提供私有化、安全的AI服務(wù)。
實驗室將充分整合信息安全分會與北信源公司等各方資源優(yōu)勢,凝聚各方在信息安全領(lǐng)域和人工智能領(lǐng)域的專業(yè)力量,形成協(xié)同創(chuàng)新的工作機制,共同開展相關(guān)研究與實踐。實驗室圍繞著核心目標開展AI應(yīng)用安全風險研究,為制定針對性的解決方案提供理論支持。實現(xiàn)對AI應(yīng)用的安全監(jiān)測、評估與防護,提升AI系統(tǒng)的安全性能。未來將吸納更多單位積極加入實驗室團隊,共同分享研究成果和經(jīng)驗,推動AI在安全領(lǐng)域的做深做實。
本次論壇召開之際,正值全國網(wǎng)絡(luò)安全宣傳周剛剛落幕。當前,云計算、人工智能等技術(shù)加速融入智慧城市、工業(yè)互聯(lián)網(wǎng)、數(shù)字政務(wù)等核心場景,網(wǎng)絡(luò)安全邊界不斷泛化,傳統(tǒng)防火墻、堡壘機等邊界防護手段逐漸失效,“事后打補丁” 的防護模式更難應(yīng)對 AI 驅(qū)動的新型攻擊與數(shù)據(jù)泄漏風險。
面對智能時代的安全挑戰(zhàn),論壇專家明確,筑牢安全屏障需從 “戰(zhàn)略” 走向 “實踐”:一方面要依托本次啟動的聯(lián)合實驗室,深化產(chǎn)學(xué)研用協(xié)同,加快自主可信計算、AI 安全基座等核心技術(shù)的成果轉(zhuǎn)化,破解關(guān)鍵領(lǐng)域技術(shù) “卡脖子” 難題;另一方面,企業(yè)需結(jié)合業(yè)務(wù)需求落地私有化安全方案,如推廣信源密信等平臺在政務(wù)、軍工等場景的應(yīng)用,政府部門則應(yīng)加快完善智能時代安全標準體系,推動數(shù)據(jù)分級分類、AI 安全評估等規(guī)則落地。唯有將論壇共識轉(zhuǎn)化為 “技術(shù)研發(fā)-場景應(yīng)用-產(chǎn)業(yè)協(xié)同”的具體行動,才能為數(shù)字經(jīng)濟高質(zhì)量發(fā)展筑起堅實的安全防線。