中新網(wǎng)北京10月24日電(記者 孫自法)國際著名學術(shù)期刊《自然》最新發(fā)表一篇人工智能(AI)研究論文稱，研究人員開發(fā)出一種能為AI大語言模型(LLM)生成的文本添加水印的工具，或能提高對合成內(nèi)容的鑒別和追溯能力。

　　該論文介紹，大語言模型是廣泛使用的人工智能工具，能為聊天機器人、寫作支持和其他目的生成文本。不過，人們很難識別并追溯AI生成文本的來源，使信息的可靠性成疑。水印被認為能解決這一問題，但生產(chǎn)系統(tǒng)對質(zhì)量和計算效率的嚴格要求阻礙了其規(guī)?；瘧谩?/p>

　　在本項研究中，知名人工智能企業(yè)谷歌DeepMind團隊開發(fā)出一個利用一種全新采樣算法給AI生成文本添加水印的系統(tǒng)，稱為SynthID-Text。該工具利用一個采樣算法對LLM的詞匯選擇進行巧妙偏移，插入一個能被相關(guān)檢測軟件識別的簽名。這既可以通過一種“扭曲”路徑實現(xiàn)——該路徑能提高水印質(zhì)量但會輕微影響輸出質(zhì)量，或是通過一種能保留文本質(zhì)量的“非扭曲”路徑。

　　論文作者團隊在多個公開模型上評估了這些水印的可檢測性，發(fā)現(xiàn)SynthID-Text的可檢測性優(yōu)于當前其他方法。該團隊還用Gemini LLM的近2000萬次在線對話回答評估了這些文本的質(zhì)量，結(jié)果顯示，非扭曲水印形式不會降低文本質(zhì)量。同時，SynthID-Text的使用對LLM運行所需算力的影響可忽略不計，這也減少了其應用上的障礙。

　　論文作者總結(jié)說，雖然編輯文本或改寫輸出就能避免出現(xiàn)文本水印，但他們的研究表明，一個為AI生成內(nèi)容的生成式文本添加水印的工具是可行的，繼而有望提升LLM使用的責任制和透明度。(完)