電話
028-6313-8188
郵箱
joyouai@joyouai.com
TOP
證券代碼：301172
國內首次AI大模型眾測結果揭曉——2025年人工智能大模型產品漏洞眾測結果發布
2025-09-16新聞資訊
9月16日，國內首次針對AI大模型的實網眾測檢驗結果在第22屆中國網絡安全年會（暨國家網絡安全宣傳周網絡安全協同防御分論壇）重磅揭曉。活動共動員559名白帽子，對國內15款大模型及應用產品進行了漏洞測試。
結果發布（一）：優秀測試產品
在參與測試的主流大模型產品中，騰訊公司混元大模型、百度公司文心一言、阿里巴巴通義APP、智譜華章公司智譜清言等發現的漏洞風險較少，體現了較高的安全防護水平。
本次活動共對10家AI廠商的15款大模型及應用產品進行測試。測試產品中既有基礎大模型產品，也有垂域大模型產品，還有智能體、模型開發平臺等相關應用產品，其中既包含單模態大模型，也涵蓋多模態大模型，具有較廣泛的代表性。
結果發布（二）：優秀白帽子
本次活動涌現出梁宏宇、馬寶新、劉銘等一批表現突出的優秀白帽子。本次活動測試對象主要是實時在線運行的AI大模型及應用產品，在產品廠商的防護下，各位白帽子能夠挖掘出高危甚至嚴重等級的漏洞，說明他們有著出眾的能力并付出了艱辛的努力。
本次活動通過多種渠道動員了559名白帽子參與測試，涵蓋網安企業專業人才、科研院校師生以及社會白帽子。他們從外部攻擊者的視角，對大模型進行了多維度實戰化測試，取得了豐富的測試成果，體現了廣大白帽子對人工智能等新興技術領域安全的熱情和為產業發展貢獻力量的情懷。
結果發布（三）：典型漏洞風險
本次活動累計發現各類安全漏洞281個，其中大模型特有漏洞177個，占比超過60%。這一數據充分表明，當前AI大模型產品面臨著大量傳統安全領域之外的新興安全風險。
活動中發現的典型漏洞風險包括：一是部分產品存在不當輸出類漏洞且危害嚴重；二是信息泄露類漏洞多發，存在較大安全隱患；三是提示注入類漏洞普遍，是大模型最常見漏洞風險；四是部分大模型產品針對無限制消耗類攻擊的防護措施有待加強；五是傳統安全漏洞依然普遍存在，危害不容忽視。鑒于AI大模型產品普遍用戶量大、使用率高，若上述漏洞被惡意攻擊者利用，將對國內AI大模型產品生態造成較嚴重的影響。
任重道遠：以高質量安全護航“人工智能+”高質量發展
本次活動由中央網信辦網絡安全協調局指導，國家計算機網絡應急技術處理協調中心主辦，網絡安全眾測平臺、國家網絡安全人才與創新基地提供技術和環境支持，旨在以高質量安全護航人工智能在經濟社會各領域的高質量發展。
隨著AI應用場景的不斷擴展，新的漏洞和攻擊手法將不斷涌現，AI大模型安全治理工作任重道遠，亟需各方共同努力。一是針對大模型面臨的各類漏洞風險，需持續加強安全防護措施。二是加快制定AI漏洞分類分級標準，并按應用場景劃分風險等級。三是通過眾測模式廣泛匯聚社會白帽力量，構筑AI共治生態。四是加強內生安全治理，將安全融入到AI系統全生命周期，從源頭筑牢安全基石。
