AIGC數(shù)據(jù)安全風(fēng)險(xiǎn)與治理對策

以ChatGPT為代表的AIGC成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，深刻改變著社會的生產(chǎn)生活方式。同時(shí)，一系列安全風(fēng)險(xiǎn)也相伴而生，不僅加劇升級了傳統(tǒng)數(shù)據(jù)安全風(fēng)險(xiǎn)，還催生了諸多新型復(fù)雜風(fēng)險(xiǎn)，給治理體系帶來更大挑戰(zhàn)。建議把握AIGC的技術(shù)特性和傳播規(guī)律，從三方面持續(xù)提升治理能力：一是制定更具針對性的治理政策，完善制度保障；二是將“敏捷治理”應(yīng)用到對AIGC的監(jiān)管全過程，打造多元協(xié)同治理體系；三是運(yùn)用先進(jìn)的技術(shù)手段，不斷提高治理效能。

1、AIGC技術(shù)和應(yīng)用重塑數(shù)據(jù)安全形勢

區(qū)別于過往AI技術(shù)，AIGC可通過對數(shù)據(jù)的識別學(xué)習(xí)，以適當(dāng)?shù)姆夯芰ι晌谋尽D像、音頻和視頻等多模態(tài)內(nèi)容，這種技術(shù)革新在展現(xiàn)出強(qiáng)大創(chuàng)造力、生產(chǎn)力的同時(shí)，也帶來了諸多超越傳統(tǒng)治理邊界的新挑戰(zhàn)，深刻改變了數(shù)據(jù)風(fēng)險(xiǎn)形勢。

1.1 加劇了傳統(tǒng)數(shù)據(jù)安全風(fēng)險(xiǎn)

一是AIGC升級造假手段，虛假信息更難識別。

AIGC表達(dá)方式貼近人類的對話風(fēng)格與思維邏輯，內(nèi)容呈現(xiàn)包含圖文、音視頻等多種模態(tài)，導(dǎo)致甄別信息真?zhèn)蔚碾y度較以往大大提高。這就造成，一方面網(wǎng)絡(luò)輿情治理難度明顯增加。AIGC使用門檻低、內(nèi)容生成效率高，能夠在短時(shí)間內(nèi)編制大量虛假信息，導(dǎo)致官方辟謠等傳統(tǒng)虛假信息治理措施難以發(fā)揮預(yù)期作用。例如此前被廣泛轉(zhuǎn)發(fā)的“杭州取消限行”新聞，就是使用ChatGPT編寫的不實(shí)信息。另一方面網(wǎng)絡(luò)詐騙防范難度顯著提升。深度偽造（deepfake）等技術(shù)的惡意使用可生成極具欺騙性的視覺和音頻內(nèi)容，香港一起涉案金額高達(dá)2億港元的多人AI換臉視頻詐騙案就尤為典型。這不僅危害個(gè)人權(quán)益，也對監(jiān)管帶來極大威脅，銀行視頻身份驗(yàn)證、案件視頻證據(jù)等的可靠性將面臨巨大挑戰(zhàn)。

二是AIGC增加隱私風(fēng)險(xiǎn)，隱私防護(hù)難度加大。

大模型已達(dá)千億級參數(shù)，訓(xùn)練、應(yīng)用和優(yōu)化的全處理流程中涉及海量個(gè)人信息，為不當(dāng)收集、隱私泄露等常見問題增添了新的風(fēng)險(xiǎn)敞口。一方面信息收集更“無感”。

用戶與AIGC進(jìn)行問答時(shí)有時(shí)會不自覺地透露個(gè)人信息、商業(yè)機(jī)密等隱私信息，而為了實(shí)現(xiàn)智能化和個(gè)性化交互，AIGC往往會對這些數(shù)據(jù)進(jìn)行記錄、存儲、學(xué)習(xí)，給用戶的隱私帶來嚴(yán)重威脅。例如，英國國家網(wǎng)絡(luò)安全中心就明確指出OpenAI等公司能夠讀取用戶聊天中輸入的查詢內(nèi)容。另一方面數(shù)據(jù)泄露更“隱蔽”。除安全攻擊事件外，在進(jìn)行前向推理時(shí)，AIGC模型存在將訓(xùn)練數(shù)據(jù)中包含的隱私數(shù)據(jù)變換、拼接后生成輸出，暴露給無關(guān)用戶的風(fēng)險(xiǎn)。已有三星、摩根大通等多家知名企業(yè)出于隱私防護(hù)的目的禁用ChatGPT工具。

三是AIGC促進(jìn)信息跨境流動(dòng)，數(shù)據(jù)出境風(fēng)險(xiǎn)凸顯。

無論是用戶使用境外部署的AIGC平臺和服務(wù)，還是開發(fā)者調(diào)用境外算法模型來訓(xùn)練自己的定制化模型，都不可避免地涉及數(shù)據(jù)跨境傳輸，對數(shù)據(jù)治理帶來極大挑戰(zhàn)。一方面，AIGC數(shù)據(jù)體量大、增速快且涵蓋敏感信息，在跨境過程中存在傳輸鏈長、參與主體多元、威脅成因復(fù)雜等多重挑戰(zhàn)，潛藏個(gè)人、企業(yè)乃至國家信息泄露的安全隱患。另一方面，數(shù)據(jù)規(guī)制角力影響國家對全球數(shù)據(jù)的支配力、AIGC發(fā)展的競爭力，世界各國對此都高度重視、持續(xù)跟進(jìn)，例如歐盟最新頒布的《人工智能法案》對AIGC數(shù)據(jù)使用有著嚴(yán)格的要求。各國跨境數(shù)據(jù)流動(dòng)法規(guī)各異，如果在數(shù)據(jù)跨境傳輸中與當(dāng)?shù)胤ㄒ?guī)沖突，可能引發(fā)跨國法律糾紛乃至更大沖突。

1.2 催生了各種新型的數(shù)據(jù)和算法風(fēng)險(xiǎn)

一是AIGC隱藏技術(shù)偏見，帶來決策錯(cuò)誤和歧視。

AIGC依賴于其訓(xùn)練數(shù)據(jù)中的統(tǒng)計(jì)規(guī)律自動(dòng)生產(chǎn)內(nèi)容，但這些模式可能并不代表真實(shí)的事實(shí)，而是簡單地反映數(shù)據(jù)中的頻率和共現(xiàn)關(guān)系，由于其自身技術(shù)局限，既無法抓取實(shí)時(shí)信息，也無法識別核實(shí)數(shù)據(jù)來源，使其作為技術(shù)不是技術(shù)中性的，導(dǎo)致算法偏見、霸凌、歧視等現(xiàn)象出現(xiàn)。例如在金融征信領(lǐng)域，如果算法基于個(gè)人身份信息被盜用而形成的濫用信用卡記錄，得出低信用評分的結(jié)論，會導(dǎo)致個(gè)體的合法權(quán)益遭受算法的偶然性歧視。在刑罰預(yù)測領(lǐng)域，算法被用來預(yù)測犯罪嫌疑人的再犯可能性，以輔助法官做出判決。但如果訓(xùn)練數(shù)據(jù)中存在種族、性別等偏見，那么算法可能會對這些種族的犯罪嫌疑人給出更嚴(yán)厲的刑罰預(yù)測，影響司法決策的公正。

二是AIGC突破權(quán)責(zé)邊界，數(shù)據(jù)所有者權(quán)利難以保障。

由于AIGC對于數(shù)據(jù)資源特有的處理方式，導(dǎo)致內(nèi)容不可解釋和難以追責(zé)。首先，按照傳統(tǒng)的“明確告知+單獨(dú)同意”的模式片面實(shí)現(xiàn)對外提供數(shù)據(jù)的風(fēng)險(xiǎn)控制成為過去式。在AIGC的運(yùn)行模式之中，交互的數(shù)據(jù)之中有相當(dāng)一部分屬于非公開信息，甚至是敏感個(gè)人信息，很難準(zhǔn)確統(tǒng)一的識別。其次，用戶數(shù)據(jù)經(jīng)過大模型訓(xùn)練擬合，形成合成數(shù)據(jù)后實(shí)現(xiàn)商業(yè)化所產(chǎn)生的利潤，無法公平分配給數(shù)據(jù)所有者。在AIGC生成的部分?jǐn)?shù)據(jù)混合著用戶輸入的數(shù)據(jù)一起作為預(yù)訓(xùn)練的基礎(chǔ)數(shù)據(jù)，經(jīng)訓(xùn)練后再作為其他人的系統(tǒng)數(shù)據(jù)提供服務(wù)，此時(shí)已經(jīng)呈現(xiàn)犬牙交錯(cuò)的利益分布格局，難以進(jìn)行合理的權(quán)益劃分。最后，個(gè)人信息刪除權(quán)等用戶權(quán)益受到影響。我國《個(gè)人信息保護(hù)法》規(guī)定，個(gè)人發(fā)現(xiàn)其個(gè)人信息不準(zhǔn)確或者不完整的，有權(quán)請求個(gè)人信息處理者更正、補(bǔ)充。但由于AIGC采用算法“黑箱”處理信息的運(yùn)作機(jī)制，將數(shù)據(jù)參數(shù)化，導(dǎo)致撤回、修改、刪除等個(gè)人信息權(quán)利如何行使面臨嚴(yán)峻的考驗(yàn)。

三是AIGC滋生新攻擊方式，產(chǎn)生危害性極強(qiáng)的數(shù)據(jù)事故。

以提示注入攻擊為代表的新型對抗性攻擊已成為大模型的頭號新威脅，我國大數(shù)據(jù)協(xié)同安全技術(shù)國家工程研究中心的AI安全實(shí)驗(yàn)室對ChatGPT、BARD、Bing Chat等大模型產(chǎn)品進(jìn)行的風(fēng)險(xiǎn)評估顯示，主流廠商的相關(guān)服務(wù)全部存在提示注入攻擊的安全風(fēng)險(xiǎn)。提示注入攻擊通過注入惡意指令的提示，操縱模型的正常輸出過程，使大模型產(chǎn)生有害的輸出，甚至可能通過反向攻擊提取到大模型中用戶相關(guān)的敏感信息，導(dǎo)致數(shù)據(jù)泄露和未經(jīng)授權(quán)的用戶對提示的潛在濫用。諸如開發(fā)人員構(gòu)建基于大語言模型的AIGC產(chǎn)品時(shí)設(shè)置的專有提示前綴（如特殊的生成格式等），以及用戶對話記錄中的一些隱私信息（如電子郵件地址、信用卡信息等）這類用戶提示泄露，就可能被攻擊者用于竊取專有信息或制作更有效的釣魚電子郵件等，嚴(yán)重威脅數(shù)據(jù)安全。

2、治理策略建議

近年來，中共中央、國務(wù)院印發(fā)“數(shù)據(jù)二十條”、《數(shù)字中國建設(shè)整體布局規(guī)劃》，成立國家數(shù)據(jù)局、重新組建科學(xué)技術(shù)部，發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，推出數(shù)據(jù)分級分類標(biāo)準(zhǔn)，發(fā)布《數(shù)據(jù)安全技術(shù)數(shù)據(jù)分類分級規(guī)則》……一系列密集的行動(dòng)透露出我國將“AIGC的數(shù)據(jù)安全治理”的重要程度再度提升的信號。針對快速迭代的技術(shù)帶來的更為復(fù)雜的新風(fēng)險(xiǎn)形勢，建議在現(xiàn)有基礎(chǔ)上持續(xù)完善規(guī)范體系，并不斷提升AIGC治理的前瞻性、靈活性和有效性，為AIGC創(chuàng)新發(fā)展保駕護(hù)航。

2.1 制定更具針對性的治理政策，完善制度保障

一是把好數(shù)據(jù)“入口關(guān)”。制定數(shù)據(jù)合規(guī)標(biāo)準(zhǔn)，對于大規(guī)模訓(xùn)練數(shù)據(jù)的收集、存儲、使用進(jìn)行全生命周期規(guī)范；健全數(shù)據(jù)主體權(quán)益保護(hù)機(jī)制，明確數(shù)據(jù)主體在AIGC領(lǐng)域中的權(quán)益，包括知情權(quán)、選擇權(quán)、更正權(quán)、刪除權(quán)等；形成AIGC風(fēng)險(xiǎn)分級分類管理體系，對涉及人臉等敏感個(gè)人信息的高風(fēng)險(xiǎn)領(lǐng)域，定期開展數(shù)據(jù)安全能力評估；加強(qiáng)數(shù)據(jù)跨境流動(dòng)管理，探索我國數(shù)據(jù)存儲體系優(yōu)化，構(gòu)建數(shù)據(jù)被動(dòng)出境的主動(dòng)防御體系，建立跨境數(shù)據(jù)流動(dòng)規(guī)則和白名單等機(jī)制。

二是把好算法“出口關(guān)”。健全算法透明體系與算法審查機(jī)制，強(qiáng)化偏見、歧視和侵權(quán)等風(fēng)險(xiǎn)的檢查評估，確保算法的公正性、合理性；引導(dǎo)算法向善，采用“道德編碼”和“道德學(xué)習(xí)”的機(jī)器設(shè)計(jì)思路；建立算法問責(zé)機(jī)制及產(chǎn)業(yè)自律規(guī)范，促使平臺加強(qiáng)自我監(jiān)管、履行風(fēng)險(xiǎn)告知義務(wù)。

2.2 將“敏捷治理”應(yīng)用到對AIGC的監(jiān)管全過程，打造多元協(xié)同治理體系

一方面，建立動(dòng)態(tài)監(jiān)管框架和AIGC風(fēng)險(xiǎn)的關(guān)口機(jī)制。持續(xù)迭代與優(yōu)化治理政策，在特定領(lǐng)域或地區(qū)開展AIGC治理的創(chuàng)新試點(diǎn)項(xiàng)目，逐步完善和調(diào)整監(jiān)管措施；采用主動(dòng)風(fēng)險(xiǎn)管理策略，建立風(fēng)險(xiǎn)清單和應(yīng)對預(yù)案，提前預(yù)見并及早解決AIGC潛在風(fēng)險(xiǎn)。另一方面，促進(jìn)政府、企業(yè)和公眾之間的持續(xù)對話和溝通。構(gòu)建AIGC企業(yè)自我規(guī)范與政府監(jiān)管的銜接互動(dòng)機(jī)制，將AIGC的設(shè)計(jì)方和大模型的開發(fā)方深度納入治理程序中，及時(shí)獲取企業(yè)的研發(fā)動(dòng)態(tài)和行業(yè)市場情報(bào)，設(shè)計(jì)前瞻性的治理框架；建立用戶舉報(bào)和反饋機(jī)制，促進(jìn)社會監(jiān)督與政府監(jiān)管的協(xié)同聯(lián)動(dòng)。例如美國建立官方網(wǎng)站AI.gov，及時(shí)吸納用戶反饋和意見，了解一線的AIGC使用情況，并幫助用戶更好地理解AIGC技術(shù)的潛在風(fēng)險(xiǎn)和監(jiān)管方式。

2.3 運(yùn)用先進(jìn)的技術(shù)手段，提高治理效能

不能人家用飛機(jī)大炮，我們還用大刀長矛，要以技術(shù)對技術(shù)，以技術(shù)管技術(shù)，做到魔高一尺、道高一丈。一方面，探索以“以AI治理AI”的智能監(jiān)管手段，如利用AIGC工具識別和驗(yàn)證deepfake視頻圖像、監(jiān)測數(shù)據(jù)跨境流動(dòng)狀態(tài)及風(fēng)險(xiǎn)點(diǎn)位、自動(dòng)化防御惡意AIGC攻擊等，通過對抗與反對抗的博弈，持續(xù)促進(jìn)AIGC開發(fā)利用與數(shù)據(jù)安全防護(hù)的平衡發(fā)展。另一方面，加強(qiáng)數(shù)據(jù)安全技術(shù)研究及應(yīng)用，通過優(yōu)化魯棒訓(xùn)練算法應(yīng)對數(shù)據(jù)投毒，采取截?cái)嗷煜?、差分隱私等手段使模型隱私信息模糊化，采取模型水印、模型指紋等溯源手段保障知識產(chǎn)權(quán)專有性，以多元技術(shù)手段護(hù)航數(shù)據(jù)安全。

【參考文獻(xiàn)】

[1] 曹上. AIGC中涉用戶個(gè)人信息使用的邊界探究

[2] 謝梅,王世龍.ChatGPT出圈后人工智能生成內(nèi)容的風(fēng)險(xiǎn)類型及其治理[J].新聞界,2023(08)

[3] 張凌寒,于琳. 從傳統(tǒng)治理到敏捷治理:生成式人工智能的治理范式革新[ J/ OL] . 電子政務(wù):1 - 12[2023- 08 - 13 ] .

[4] 鄧勝利，汪璠. AIGC治理的研究進(jìn)展與發(fā)展趨勢[J]. 數(shù)字圖書館論壇，2023（11）：20-28.作者：亓明真 袁萍

單位：中國移動(dòng)研究院戰(zhàn)略與產(chǎn)業(yè)所