兩會論“見”丨周鴻祎：用安全大模型防范智能大模型風險

5個月前來源：觀看：60

　　海報新聞記者辛振東北京報道

　　國產推理大模型DeepSeek-R1的誕生，標志著我國AI技術實現從“追趕者”向“領跑者”的歷史性跨越，其開源、透明、免費等特質，尤其適合在政府與企業(yè)開展私有化部署。但是，隨之而來的安全問題也日益凸顯。

　　今年全國兩會期間，360集團創(chuàng)始人周鴻祎委員再度聚焦大模型安全。他認為，DeepSeek-R1等先進模型帶來了前所未有的機遇，也同樣面臨無法通過傳統(tǒng)網絡安全手段解決的安全挑戰(zhàn)。對此，周鴻祎呼吁各界共同努力，構建更加完善的大模型應用安全治理體系，在保障安全的前提下，最大化地釋放大模型技術的潛力。

　　周鴻祎認為，開源帶來大模型的廣泛應用，未來將會有各類專業(yè)大模型、垂直大模型、場景大模型，連接內部知識庫，以智能體的形式在大批政府機構和企業(yè)中廣泛部署，推進“數轉智改”，實現降本增效。然而，大模型存在幻覺、內容安全等諸多問題，無法通過傳統(tǒng)安全方案有效化解，一旦部署在政府、企業(yè)內部的基座模型、知識庫或智能體中任一環(huán)節(jié)出現安全隱患，都極有可能誘發(fā)整個生產環(huán)境爆發(fā)系統(tǒng)性風險。

　　周鴻祎介紹，針對上述挑戰(zhàn)，他們嘗試運用人工智能技術重塑安全格局，采用“以模制模”的方式應對新難題，依托安全大模型技術，搭建起覆蓋“基座模型—知識庫—智能體”的全鏈路安全體系。

　　為進一步強化這一防御體系，周鴻祎建議采取兩項措施：一是推動安全技術創(chuàng)新與成果轉化，建議相關部門及時出臺配套政策措施，鼓勵具備“安全+人工智能”完整解決方案的鏈主企業(yè)，針對人工智能應用所涉及的基座模型、知識庫、智能體等安全問題，基于安全大模型技術開展研發(fā)工作，加速推動技術成果轉化，將安全要素深度嵌入人工智能應用全流程。

　　另一方面，組建產業(yè)聯(lián)盟，推廣安全產品。引導相關鏈主企業(yè)發(fā)揮牽頭作用，廣泛吸納產業(yè)鏈上下游企業(yè)、科研機構及終端用戶，組建人工智能大模型安全聯(lián)盟，在聯(lián)盟內部實現技術成果共享，共同開展產品及服務測試，待產品與服務成熟穩(wěn)定后，向更廣闊的市場加以推廣，助力大模型安全保障普及至千行百業(yè)。

點擊展開全文

本文鏈接：http://www.enbeike.cn/news-1-42528-0.html兩會論“見”丨周鴻祎：用安全大模型防范智能大模型風險

聲明：本網頁內容旨在傳播知識，不代表本站觀點，若有侵權等問題請及時與本網聯(lián)系，我們將在第一時間刪除處理。

上一篇：習近平兩會時刻丨小社區(qū)里的“國之大者”

下一篇：圖解｜協(xié)同推動能源轉型與產業(yè)發(fā)展