AI智能體，或將成為2025年的關鍵詞之一，國內外廠商激戰(zhàn)正酣，探索其能為千行百業(yè)帶來的變化。但對數(shù)據安全的憂慮也浮出水面。有多少交互的工作內容會上傳？用戶數(shù)據會不會云上“裸奔”？
記者發(fā)現(xiàn)，目前用戶在個人數(shù)據隱私方面的授權甚為被動，多名業(yè)內安全專家呼吁，期盼大模型出臺強制性合規(guī)標準，落實隱私安全要求。
AI智能體今年或將規(guī)?；蜆I(yè)
“我相信2025年人們將會看到第一批AI智能體加入勞動力大軍，從根本上改變各公司產出的東西。”日前，Open AI CEO山姆·奧爾特曼發(fā)布的一篇博客，引發(fā)業(yè)界對AI智能體的再度關注。英偉達CEO黃仁勛近日也表示，“AI智能體可能是下一個機器人產業(yè)，蘊藏著價值數(shù)萬億美元的機會”。
什么是AI智能體？它和去年如日中天的大模型又有何區(qū)別？業(yè)內專家表示，大模型雖然能理解、能問答、能生成，但是“不能直接干活”。只有加上知識獲取、感知、推理、工具使用以及系統(tǒng)架構的能力，變成智能體后才能高效執(zhí)行具體任務。
記者注意到，近段時間，國內外多個廠商在這個賽道中紛紛布局，展開激烈角逐。微軟一口氣發(fā)布了10個商業(yè)智能體，稱一個智能體提升的生產力相當于增加187名全職員工；Open AI將要發(fā)布新的AI智能體工具，代表人類執(zhí)行預訂旅行、編碼等任務。
國內企業(yè)也不甘落后。聚焦PPT制作、文書寫作等，科大訊飛一口氣升級了8款辦公智能體；智譜清言最新AI智能體可以實現(xiàn)自動點咖啡、發(fā)紅包；騰訊也透露，微信、QQ、輸入法、瀏覽器等產品都將推出AI智能體。
用戶個人數(shù)據或用于“煉”AI
上傳附件，點擊幾個按鍵，不到2分鐘，一份制作精美的PPT就通過某AI智能體自動生成。“這可比過去一頁頁排版輕松多了！”白領小孫感到欣慰的同時，一股擔憂也在心底浮現(xiàn)：“PPT里的敏感財務數(shù)據會不會也上云了？”
小孫的擔憂不是個例。記者隨機采訪了10名用戶，有9名用戶在使用AI智能體時，有過對數(shù)據隱私安全的疑慮：“我的個人敏感數(shù)據，會不會被直接采集，用來訓練AI？”
AI智能體的驅動平臺是大模型。記者查閱了Kimi、豆包、智譜清言、混元、訊飛星火等多個大模型的隱私條款，發(fā)現(xiàn)多個平臺在這些隱私條款中聲明，會在經過安全加密、嚴格去標識化且無法重新識別特定個人的前提下，將用戶向AI輸入的數(shù)據、發(fā)出的指令以及AI相應生成的回復、用戶對產品的訪問和使用情況進行分析并用于模型訓練。有平臺還稱“處理后此類數(shù)據將不屬于個人信息范疇，其使用無需另行征得用戶同意。”
用戶是否能明確拒絕大模型平臺使用其個人對話進行模型訓練？記者發(fā)現(xiàn)，相比Open AI、谷歌Gemini等國外大模型，目前國內多個大模型并沒有“一鍵關閉”功能進行拒絕授權的操作。
業(yè)內盼望出臺強制性合規(guī)標準
中國信通院泰爾實驗室信息安全部副主任傅山認為，對用戶而言，一條指令，往往會涉及多個App智能體產品，過度的數(shù)據收集會帶來數(shù)據濫用、算法偏見、透明度不足等問題。
“對于用戶來說，大模型的隱私安全問題涉及三個點，是否接觸、是否計算和是否輸出。”奇安信行業(yè)安全研究中心主任裴智勇表示，其中對外輸出是核心點，一旦平臺向不合法的用戶輸出敏感個人信息，不但可能損害用戶隱私，甚至可能危害國家安全。
“這一問題的解題思路，還是在于對大模型和AI智能體的行業(yè)監(jiān)管。”裴智勇說，可以通過對大模型抓取數(shù)據和輸出數(shù)據的流量監(jiān)測，知曉大模型是否讀取了敏感個人信息，是否輸出了敏感個人信息，從源頭和終端兩個層面把控個人信息的使用，從而及時發(fā)現(xiàn)問題，化解或減少大模型對于個人隱私帶來的侵害。
多名業(yè)內專家也呼吁，期盼盡快完善大模型強制性合規(guī)標準，確保大模型及AI智能體研發(fā)、訓練、部署過程的隱私安全要求得到遵守。
AI智能體，或將成為2025年的關鍵詞之一，國內外廠商激戰(zhàn)正酣，探索其能為千行百業(yè)帶來的變化。但對數(shù)據安全的憂慮也浮出水面。有多少交互的工作內容會上傳？用戶數(shù)據會不會云上“裸奔”？
記者發(fā)現(xiàn)，目前用戶在個人數(shù)據隱私方面的授權甚為被動，多名業(yè)內安全專家呼吁，期盼大模型出臺強制性合規(guī)標準，落實隱私安全要求。
AI智能體今年或將規(guī)模化就業(yè)
“我相信2025年人們將會看到第一批AI智能體加入勞動力大軍，從根本上改變各公司產出的東西。”日前，Open AI CEO山姆·奧爾特曼發(fā)布的一篇博客，引發(fā)業(yè)界對AI智能體的再度關注。英偉達CEO黃仁勛近日也表示，“AI智能體可能是下一個機器人產業(yè)，蘊藏著價值數(shù)萬億美元的機會”。
什么是AI智能體？它和去年如日中天的大模型又有何區(qū)別？業(yè)內專家表示，大模型雖然能理解、能問答、能生成，但是“不能直接干活”。只有加上知識獲取、感知、推理、工具使用以及系統(tǒng)架構的能力，變成智能體后才能高效執(zhí)行具體任務。
記者注意到，近段時間，國內外多個廠商在這個賽道中紛紛布局，展開激烈角逐。微軟一口氣發(fā)布了10個商業(yè)智能體，稱一個智能體提升的生產力相當于增加187名全職員工；Open AI將要發(fā)布新的AI智能體工具，代表人類執(zhí)行預訂旅行、編碼等任務。
國內企業(yè)也不甘落后。聚焦PPT制作、文書寫作等，科大訊飛一口氣升級了8款辦公智能體；智譜清言最新AI智能體可以實現(xiàn)自動點咖啡、發(fā)紅包；騰訊也透露，微信、QQ、輸入法、瀏覽器等產品都將推出AI智能體。
用戶個人數(shù)據或用于“煉”AI
上傳附件，點擊幾個按鍵，不到2分鐘，一份制作精美的PPT就通過某AI智能體自動生成。“這可比過去一頁頁排版輕松多了！”白領小孫感到欣慰的同時，一股擔憂也在心底浮現(xiàn)：“PPT里的敏感財務數(shù)據會不會也上云了？”
小孫的擔憂不是個例。記者隨機采訪了10名用戶，有9名用戶在使用AI智能體時，有過對數(shù)據隱私安全的疑慮：“我的個人敏感數(shù)據，會不會被直接采集，用來訓練AI？”
AI智能體的驅動平臺是大模型。記者查閱了Kimi、豆包、智譜清言、混元、訊飛星火等多個大模型的隱私條款，發(fā)現(xiàn)多個平臺在這些隱私條款中聲明，會在經過安全加密、嚴格去標識化且無法重新識別特定個人的前提下，將用戶向AI輸入的數(shù)據、發(fā)出的指令以及AI相應生成的回復、用戶對產品的訪問和使用情況進行分析并用于模型訓練。有平臺還稱“處理后此類數(shù)據將不屬于個人信息范疇，其使用無需另行征得用戶同意。”
用戶是否能明確拒絕大模型平臺使用其個人對話進行模型訓練？記者發(fā)現(xiàn)，相比Open AI、谷歌Gemini等國外大模型，目前國內多個大模型并沒有“一鍵關閉”功能進行拒絕授權的操作。
業(yè)內盼望出臺強制性合規(guī)標準
中國信通院泰爾實驗室信息安全部副主任傅山認為，對用戶而言，一條指令，往往會涉及多個App智能體產品，過度的數(shù)據收集會帶來數(shù)據濫用、算法偏見、透明度不足等問題。
“對于用戶來說，大模型的隱私安全問題涉及三個點，是否接觸、是否計算和是否輸出。”奇安信行業(yè)安全研究中心主任裴智勇表示，其中對外輸出是核心點，一旦平臺向不合法的用戶輸出敏感個人信息，不但可能損害用戶隱私，甚至可能危害國家安全。
“這一問題的解題思路，還是在于對大模型和AI智能體的行業(yè)監(jiān)管。”裴智勇說，可以通過對大模型抓取數(shù)據和輸出數(shù)據的流量監(jiān)測，知曉大模型是否讀取了敏感個人信息，是否輸出了敏感個人信息，從源頭和終端兩個層面把控個人信息的使用，從而及時發(fā)現(xiàn)問題，化解或減少大模型對于個人隱私帶來的侵害。
多名業(yè)內專家也呼吁，期盼盡快完善大模型強制性合規(guī)標準，確保大模型及AI智能體研發(fā)、訓練、部署過程的隱私安全要求得到遵守。
本文鏈接：http://www.enbeike.cn/news-2-185-0.htmlAI智能體火爆 用戶擔心個人數(shù)據被用于模型訓練 大模型隱私安全亟待行業(yè)監(jiān)管
聲明：本網頁內容由互聯(lián)網博主自發(fā)貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯(lián)系，我們將在第一時間刪除處理。
點擊右上角
微信好友
朋友圈
點擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角
QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕
