中新網北京3月6日電(記者 吳濤)隨著人工智能大模型的發(fā)展，大模型數(shù)據安全和自身安全問題越來越受到重視。全國政協(xié)委員、全國工商聯(lián)副主席、奇安信科技集團董事長齊向東建議，開展體系化的大模型安全防護，落實《生成式人工智能服務安全基本要求》，筑牢人工智能安全防線。
齊向東表示，以大模型為核心的人工智能技術是創(chuàng)新范式變革與產業(yè)升級的關鍵引擎，然而技術躍升與安全風險始終伴生演進。人工智能大模型面臨四大安全挑戰(zhàn)，包括數(shù)據安全挑戰(zhàn)、應用安全挑戰(zhàn)、基礎環(huán)境安全挑戰(zhàn)和大模型自身安全挑戰(zhàn)。
“以數(shù)據安全挑戰(zhàn)為例，大模型在訓練、推理、使用過程中涉及海量數(shù)據，通過數(shù)據投毒、數(shù)據污染等手段，會使大模型輸出背離主流價值觀或包含事實性錯誤的內容。一些不法分子還會借助提示詞注入、劫持、爬蟲等手段，竊取大模型用戶重要信息、敏感數(shù)據?！饼R向東稱。
齊向東建議，從技術層面全面排查加固人工智能大模型基礎設施，構建大模型紅域，打造適用于人工智能的縱深防御體系，形成覆蓋終端、應用、數(shù)據、大模型、算力與基礎設施的多維度核心防護能力。同時，給予威脅情報、大網數(shù)據監(jiān)測等情報賦能，有效抵御針對大模型的新型攻擊和惡意訪問，實現(xiàn)“對外防攻擊、對內防內鬼”。
齊向東還建議重點打造大模型數(shù)據安全“雙控機制”，保障大模型穩(wěn)定運行。對大模型數(shù)據輸入側及輸出側開展有效管控，確保大模型數(shù)據安全、內容安全、應用安全。要求部署大模型的關鍵信息基礎設施運營單位在網絡和數(shù)據安全建設上的投入比例不低于信息化建設的15%。(完)