我在互聯(lián)網(wǎng)寫作已有二十多年。十幾歲時，我在博客上寫了一堆帖子，俗套的和尷尬的都有。如今，當ChatGPT告訴我，這些帖子會是它獲取信息的素材時，我想趕緊從它的內(nèi)存中刪除關(guān)于我的數(shù)據(jù)。然而我很快發(fā)現(xiàn)，沒有刪除按鈕。不過，現(xiàn)在許多科學家正設法教人工智能忘記。
新一代人工智能聊天機器人的大部分學習數(shù)據(jù)是從互聯(lián)網(wǎng)上抓取的從社交媒體帖子到大約25萬本書，以及幾乎所有公開的信息。它們可以預測句子中最有可能出現(xiàn)的下一個單詞，對我們的每一個提問給出流利的答案。問題在于，人工智能聊天機器人的工作方式意味著，當它們學到一些東西時，就無法忘記。
資料圖（IC Photo）
澳大利亞聯(lián)邦科學與工業(yè)研究組織研究員大衛(wèi)張表示，這種語言模型依據(jù)匯總的數(shù)據(jù)生成回答，因此不容易忘記或“刪除”特定的信息，甚至個人也無法準確追蹤人工智能程序?qū)λ麄兊牧私狻Ｋ麖娬{(diào)，這將在隱私方面造成一個重大問題，人工智能公司遵守“被遺忘權(quán)”將非常困難。 歐盟在2014年提出“被遺忘權(quán)”。根據(jù)歐盟的通用數(shù)據(jù)保護條例，人們有權(quán)要求從網(wǎng)絡記錄中刪除他們的個人信息，比如撤回信息、刪除帖子，或要求網(wǎng)絡公司刪除關(guān)于他們的數(shù)據(jù)。但大衛(wèi)張表示，這些解決方案與人工智能聊天機器人不兼容，“無法提供從模型記憶中刪除或忘記數(shù)據(jù)的方法”。
蘇黎世聯(lián)邦理工學院計算機科學家特拉梅爾表示，人工智能公司必須找到方法來處理這個問題，尤其是在大語言模型開始接受更敏感個人信息的培訓之際，比如醫(yī)療數(shù)據(jù)和電郵等。人工智能也會被黑客植入代碼，以索要用戶賬戶密碼等信息。英國政府通信總部已呼吁關(guān)注這一問題。
人工智能公司目前依賴于“機器沉默”等方法阻止訪問某些信息并拒絕回應。例如，當我要求人工智能建立我的個人檔案時，它會說，“很抱歉我不能協(xié)助這個請求。”耶魯大學數(shù)字倫理中心主任弗洛里迪說，這種方法在一定程度上可行，但目標數(shù)據(jù)仍然存在，如果出現(xiàn)故障或惡意干預，它就有可能在回應中出現(xiàn)。
倫敦政治經(jīng)濟學院人工智能研究學者阿里博伊爾表示，人類的健忘傾向通常被視為一種認知故障，但有時是有益的，因為我們不需要記住我們學到的每一條信息。我們通過忘記某些事情，使檢索有用記憶的過程更有效。人工智能系統(tǒng)可能也是如此。博伊爾認為，這一原理在2017年得到了證明，當時谷歌人工智能實驗室開發(fā)了一種可以玩多款電子游戲的人工智能。它能夠?qū)⒂螒蛲娣ǖ挠洃泝Υ嫫饋恚员阋院蠡貞浐蛯W習。研究人員隨后對模型進行了改進，使其優(yōu)先存儲與回憶“令人驚訝”的玩法，忘記其余的數(shù)據(jù)，結(jié)果發(fā)現(xiàn)系統(tǒng)的性能有所提高。如果人工智能研究人員的最終目標是建立像人類一樣學習和思考的系統(tǒng)，我們需要設計它們有選擇性地忘記。博伊爾說，遺忘不是一個設計缺陷，而是一個高效、功能良好的記憶系統(tǒng)的特征。（作者舒巴姆阿加瓦爾，陳欣譯）
英國《新科學家》10月31日文章，原題：隨著隱私擔憂加劇，我們能教會人工智能聊天機器人忘記嗎?
