第17屆政府/行業(yè)信息化安全年會：李舟軍教授深度剖析大模型與網(wǎng)絡安全
2025-02-18 17:13:24

   12月20日，北京成功舉辦了由公安部第三研究所承辦的“第17屆政府/行業(yè)信息化安全年會”。會議聚焦于“人工智能時代的網(wǎng)絡安全技術”，吸引了眾多專家和學者參與。他們圍繞等級保護的核心技術、關鍵信息基礎設施的安全防護、數(shù)據(jù)安全、大型模型安全、軟件供應鏈安全等領域的最新技術、應用趨勢和發(fā)展狀況進行了深入探討，旨在為我國網(wǎng)絡安全事業(yè)的進步提供策略和建議。

   出席本次會議的有公安部網(wǎng)絡安全保衛(wèi)局副局長石鈾、公安部第三研究所總工程師陸臻、國家統(tǒng)計局數(shù)據(jù)管理中心副主任谷晨陽等領導，以及中國華電數(shù)字化中心副主任羅建東、中國網(wǎng)絡安全審查技術與認證中心原黨委書記王連印等專家。此外，浙江大學、中國石油、北京大學、北京航空航天大學、中科院計算所等研究機構和企業(yè)的信息安全負責人也參加了會議。中國計算機學會計算機安全專委會主任嚴明擔任了會議主持。

   在會上，石鈾副局長發(fā)表致辭，強調(diào)在人工智能時代，數(shù)據(jù)安全的保護工作需要在制度、體系和技術三個層面進一步深化、細化、落實。他期望與會專家能夠深入交流，共同為國家數(shù)據(jù)安全的穩(wěn)定和長遠發(fā)展貢獻力量。
   本屆年會特設“人工智能時代下的數(shù)據(jù)安全”圓桌論壇，由王連印研究員主持。中國人民銀行安全專家指出，人工智能在金融領域應用廣泛，但其“雙刃劍”特性要求國家和行業(yè)通過多種途徑最大化其積極作用，并控制負面影響。徐克付研究員提出，大模型訓練中的隱私保護需政策與技術并重，技術手段包括隱私計算和聯(lián)邦學習。尹芷儀高級工程師強調(diào)算法安全的重要性，并呼吁擴大算法治理范圍。新華三安全公司研發(fā)總裁王其勇介紹了大模型技術在安全行業(yè)的應用，同時指出安全領域數(shù)據(jù)量少是存在的風險，呼吁建立數(shù)據(jù)交換機制。


   智能思創(chuàng)首席科學家、北京航空航天大學計算機學院信息安全系主任、教授李舟軍，在會上深入分析了“垂直領域大模型”賦能網(wǎng)絡與信息安全的三大關鍵要點：微調(diào)、測評基準構建與指令數(shù)據(jù)集構建。他提出大模型可在威脅情報分析、代碼安全、漏洞挖掘、運維安全等方面為網(wǎng)絡與信息安全提供助力。同時，要在行業(yè)領域中進行大模型的創(chuàng)新應用落地，基礎和前提是文檔智能技術，關鍵和核心是檢索增強生成技術，前沿和未來則在于多模態(tài)多智能體技術。他所在團隊已建構了一個基于文檔智能、大模型和多智能體的技術框架與開發(fā)平臺，實現(xiàn)了大模型在多個行業(yè)領域的落地應用。

   會議還圍繞“大模型安全探索”和“守護軟件安全，筑牢軟件供應鏈安全”兩個專題進行了深入討論。來自國家石油天然氣管網(wǎng)集團、中國石油網(wǎng)絡安全專家中心等單位的專家們分享了大型模型在網(wǎng)絡安全和軟件供應鏈生態(tài)構建方面的實踐經(jīng)驗。
本次年會不僅是一次學術交流的盛會，也是一次行業(yè)智慧的碰撞。與會者圍繞網(wǎng)絡安全新技術、新應用和發(fā)展趨勢進行了深入研討，產(chǎn)生了豐富的見解和創(chuàng)新觀點，達成了廣泛共識。

   在本屆政府/行業(yè)信息化安全年會上，我們見證了網(wǎng)絡安全領域的深度交流與合作。在這個飛速發(fā)展的時代，我們相信，垂直領域大模型技術將為網(wǎng)絡與信息安全帶來前所未有的機遇與挑戰(zhàn)。智能思創(chuàng)始終致力于為大家提供最前沿的網(wǎng)絡安全研究和技術解析，讓我們共同期待李舟軍教授及其團隊的研究成果在未來的廣泛應用，為我國的網(wǎng)絡安全事業(yè)貢獻力量！