當前，以大模型為代表的人工智能技術日新月異，AI寫作、AI對話、AI合成等生成式人工智能不斷用于辦公場景，特別是AI寫作深受辦公人士的青睞，僅需輸入關鍵詞就可一鍵生成文章，快速提高辦公效率。殊不知，AI工具在便捷辦公的同時，也帶來一定泄密風險。

依托AI出方案  敏感內(nèi)容網(wǎng)上傳

某涉密單位工作人員李某，在起草一份涉密方案時，聽同事說AI寫作很好用，只要寫上主題和需求，就可以幫忙寫出文稿。李某在好奇心驅使下，在手機上下載一款AI寫作應用軟件，并私自將該涉密方案的部分敏感內(nèi)容輸入AI寫作工具，通過AI代寫生成網(wǎng)絡文件資料。事件發(fā)生后，李某受到嚴肅處理。

借助AI提效率  科研成果遭泄露

某科研機構一研究人員保密意識淡薄，為快速完成研究報告，擅自使用一款流行的AI寫作應用軟件輔助辦公，將部分核心數(shù)據(jù)及實驗成果上傳到該應用，導致該研究報告中的部分涉密敏感信息被泄露，在網(wǎng)上流傳，給該科研機構造成經(jīng)濟損失，也給國家利益帶來損害。事件發(fā)生后，該研究人員受到嚴肅處理。

 

隱患分析

生成式人工智能高度依托互聯(lián)網(wǎng)、大數(shù)據(jù)、云計算平臺，AI接收的國家秘密信息會被作為大語言模型進行學習訓練，數(shù)據(jù)獲取、處理、存儲、運算、傳輸各環(huán)節(jié)均面臨泄露風險。AI數(shù)據(jù)挖掘功能可基于海量原始數(shù)據(jù)進行多維推理和關聯(lián)分析，哪怕只是截取涉密文件片段，也存在被攻擊竊取或經(jīng)關聯(lián)匯聚后泄密的風險。

紀律提醒

機關、單位工作人員使用AI辦公須繃緊保密之弦，使用合法合規(guī)的國產(chǎn)大模型，強化風險意識，規(guī)范使用流程，不得將涉密文件、圖片、音頻、視頻等信息，以拍照、輸入、復制以及其他任何形式，部分或者全部使用生成式人工智能工具進行處理，堅決避免AI辦公泄密。

法規(guī)鏈接

《中華人民共和國保守國家秘密法》第三十一條規(guī)定，任何組織和個人不得使用非涉密信息系統(tǒng)、非涉密信息設備存儲或者處理國家秘密。

《網(wǎng)絡數(shù)據(jù)安全管理條例》第十九條明確要求，提供生成式人工智能服務的網(wǎng)絡數(shù)據(jù)處理者應當加強對訓練數(shù)據(jù)和訓練數(shù)據(jù)處理活動的安全管理，采取有效措施防范和處置網(wǎng)絡數(shù)據(jù)安全風險。

來源：保密觀

流程編輯：U072

如遇作品內(nèi)容、版權等問題，請在相關文章刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系。版權侵權聯(lián)系電話：010-85202353