據(jù)甘肅省司法廳此前發(fā)布的消息稱，某涉密單位工作人員李某，在起草涉密方案時，出于好奇心下載了一款 AI 寫作應(yīng)用軟件，并將涉密方案的部分敏感內(nèi)容輸入其中，通過 AI 代寫生成網(wǎng)絡(luò)文件資料，導(dǎo)致涉密信息泄露，李某隨后受到嚴(yán)肅處理。

此外，某科研機(jī)構(gòu)一研究人員保密意識淡薄，為快速完成研究報告，擅自使用一款流行的AI寫作應(yīng)用軟件輔助辦公，將部分核心數(shù)據(jù)及實(shí)驗(yàn)成果上傳到該應(yīng)用，導(dǎo)致該研究報告中的部分涉密敏感信息被泄露，在網(wǎng)上流傳，給該科研機(jī)構(gòu)造成經(jīng)濟(jì)損失，也給國家利益帶來損害。事件發(fā)生后，該研究人員受到嚴(yán)肅處理。

當(dāng)前，以大模型為代表的人工智能技術(shù)日新月異，越來越多的企業(yè)加入AI的浪潮中，在提升了工作效率的同時，也將如數(shù)據(jù)泄露、隱私泄露等安全隱患“擁入懷中”。對于企業(yè)來說，因AI大模型導(dǎo)致的數(shù)據(jù)泄露可能會導(dǎo)致以下問題的發(fā)生：

罰款與賠償成本

若泄露數(shù)據(jù)涉及用戶隱私或商業(yè)機(jī)密，企業(yè)需面臨監(jiān)管機(jī)構(gòu)的高額罰款。例如，歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）對違規(guī)企業(yè)的罰款可高達(dá)全球年?duì)I業(yè)額的 4% 或 2000 萬歐元（取較高者）。此外，用戶或合作伙伴可能因數(shù)據(jù)泄露提起集體訴訟，要求民事賠償（如迪斯尼 4400 萬條數(shù)據(jù)泄露后，可能面臨大量用戶索賠）。

應(yīng)急與修復(fù)成本

企業(yè)需投入資金用于數(shù)據(jù)泄露后的應(yīng)急響應(yīng)：包括聘請第三方機(jī)構(gòu)調(diào)查泄露源頭、修復(fù) AI 系統(tǒng)漏洞、升級數(shù)據(jù)加密技術(shù)、部署新的安全防護(hù)工具等。同時，若 AI 系統(tǒng)因數(shù)據(jù)泄露被迫暫停運(yùn)行（如訓(xùn)練數(shù)據(jù)被污染或核心模型參數(shù)泄露），企業(yè)需承擔(dān)系統(tǒng)重構(gòu)、重新訓(xùn)練模型的成本，而這對依賴 AI 驅(qū)動業(yè)務(wù)的企業(yè)（如 AI 推薦系統(tǒng)、智能客服）可能是 “致命性” 支出。

客戶信任崩塌

數(shù)據(jù)泄露直接沖擊用戶對企業(yè)的信任 —— 尤其是當(dāng)泄露數(shù)據(jù)包含用戶隱私（如身份證號、消費(fèi)記錄、生物信息等）時，用戶會因 “安全感缺失” 選擇流失。例如，若 AI 醫(yī)療企業(yè)泄露患者病歷數(shù)據(jù)，患者可能立即轉(zhuǎn)向競爭對手，且這種信任流失往往難以逆轉(zhuǎn)。

AI 業(yè)務(wù)停擺

若泄露的數(shù)據(jù)是 AI 系統(tǒng)的核心資源（如訓(xùn)練數(shù)據(jù)、模型參數(shù)、用戶行為標(biāo)簽），可能導(dǎo)致：

訓(xùn)練數(shù)據(jù)被篡改或污染，AI 模型輸出錯誤結(jié)果（如推薦系統(tǒng)推送無關(guān)內(nèi)容、風(fēng)控模型誤判風(fēng)險）；核心算法或模型架構(gòu)泄露，被競爭對手復(fù)制或反向工程，導(dǎo)致企業(yè)失去技術(shù)壁壘（如某自動駕駛公司的 AI 決策模型參數(shù)泄露，可能被競品快速模仿其技術(shù)路線）。

違反法律法規(guī)

全球多數(shù)國家已出臺嚴(yán)格的數(shù)據(jù)保護(hù)法律（如中國《數(shù)據(jù)安全法》《個人信息保護(hù)法》、歐盟 GDPR、巴西《通用數(shù)據(jù)保護(hù)法》等），要求企業(yè)對數(shù)據(jù)安全負(fù) “全生命周期責(zé)任”。若因使用 AI 導(dǎo)致數(shù)據(jù)泄露（如未對輸入 AI 的敏感數(shù)據(jù)脫敏），企業(yè)將被認(rèn)定為 “合規(guī)失職”，除罰款外，可能被限制數(shù)據(jù)處理權(quán)限（如禁止跨境傳輸數(shù)據(jù)），甚至被迫終止相關(guān)業(yè)務(wù)。

核心資產(chǎn)流失

對依賴 AI 的企業(yè)而言，訓(xùn)練數(shù)據(jù)、模型參數(shù)、算法邏輯是核心競爭力。若這些數(shù)據(jù)泄露（如三星半導(dǎo)體的源代碼、AI 模型訓(xùn)練數(shù)據(jù)外泄），競爭對手可通過分析泄露數(shù)據(jù)快速復(fù)制技術(shù)、優(yōu)化自身模型，導(dǎo)致企業(yè)失去技術(shù)壁壘，市場份額被擠壓。

綜上，數(shù)據(jù)泄露對使用 AI 的企業(yè)而言，是 “經(jīng)濟(jì)、聲譽(yù)、法律、技術(shù)” 的多重打擊，短期可能導(dǎo)致資金流失、業(yè)務(wù)停擺，長期則可能摧毀核心競爭力與品牌價值。因此，企業(yè)需要重視AI安全，也需要提高全體員工對AI安全的認(rèn)知。

對此，安在新媒體面向社群用戶，推出“網(wǎng)絡(luò)安全意識團(tuán)購服務(wù)”，涵蓋宣傳素材、培訓(xùn)課程、威脅體驗(yàn)、游戲互動等，采用線上線下融合的方式，幫助員工掌握安全要點(diǎn)，并提供定制化安全策略咨詢。

針對AI安全，安在新媒體推出了20幅AI安全海報。海報的圖文形式可以細(xì)致地展現(xiàn)出各類安全風(fēng)險的危害，企業(yè)可將其以展板、易拉寶形式放置于辦公區(qū)域，持續(xù)性加深員工的安全意識。

注公眾號【安在新媒體】，可聯(lián)系我們，免費(fèi)獲取全部AI安全海報

獲取更多安全意識資料，掃碼加入諸子云知識星球，持續(xù)更新

安在意識服務(wù)