中新網(wǎng)北京9月29日電 (陶思閱)今年9月，第22屆國家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全協(xié)同防御分論壇活動中，國內(nèi)首次針對AI大模型的實網(wǎng)眾測檢驗結(jié)果發(fā)布。測試?yán)塾嫲l(fā)現(xiàn)281個安全漏洞，其中大模型特有漏洞占比超60%，涵蓋提示注入、信息泄露等典型風(fēng)險。
同時，攻擊者研究AI的學(xué)習(xí)偏好，有針對性地“投喂”信息，更有甚者，有組織地進行“數(shù)據(jù)投毒”，即通過偽造專家身份、虛構(gòu)研究報告等方式，向AI輸入虛假信息，以達到操縱AI輸出結(jié)果的目的。
同盾科技安全研究院院長董紀(jì)偉認為，隨著生成式AI技術(shù)的廣泛運用，未來的攻防戰(zhàn)將邁入“以技術(shù)對抗技術(shù)，以AI對抗AI”的階段。
面對挑戰(zhàn)，監(jiān)管體系率先升級。9月15日，《人工智能安全治理框架》2.0版在國家網(wǎng)絡(luò)安全宣傳周發(fā)布。
AI安全行業(yè)也正構(gòu)建“AI對抗AI”的技術(shù)防線。9月，華為發(fā)布全新升級的星河AI網(wǎng)絡(luò)安全解決方案，據(jù)介紹，該方案威脅自動化處置率達99%，未知威脅檢出率達95%。
螞蟻消金通過多模態(tài)感知與大小模型協(xié)同，系統(tǒng)可精準(zhǔn)識別假章假證、合成語音等造假行為。螞蟻消金首席信息官劉義介紹，目前，虛假證件識別準(zhǔn)確率達98%，語音偽造檢測覆蓋50余種合成方式，2024年以來，螞蟻消金已聯(lián)合司法機關(guān)查處12家非法金融中介，涉案人員超過200人，實現(xiàn)了技術(shù)治理與司法聯(lián)動的有效結(jié)合。
近日，綠盟科技發(fā)布新的大模型安全評估系統(tǒng)，實現(xiàn)對140余款主流模型的自動化深度掃描，精準(zhǔn)發(fā)現(xiàn)內(nèi)容安全、對抗攻擊、數(shù)據(jù)泄露及組件漏洞等風(fēng)險，并能夠出具符合國家《生成式人工智能服務(wù)安全基本要求》的評估報告。
今年9月發(fā)布的《AI時代網(wǎng)絡(luò)安全產(chǎn)業(yè)人才發(fā)展報告(2025)》顯示，2025年全球網(wǎng)絡(luò)安全人才缺口升至480萬，同比增長19%；其中美國需求51.4萬個在線崗位，實際填補率不足三分之二。
中國方面，截至2024年底全國持證在崗人員約32萬，已有792所普通高校開設(shè)網(wǎng)絡(luò)安全專業(yè)，占高?？倲?shù)27.1%；其中65.9%已在2025年新增AI安全課程，較去年躍升15個百分點。(完)