OpenAI 承認正研發(fā) ChatGPT 文本水印,但面臨挑戰(zhàn)
8 月 5 日消息,據《華爾街日報》報道,OpenAI 已經開發(fā)出一款能夠高精度識別 ChatGPT 生成文本的工具,但遲遲未發(fā)布。對此 OpenAI 進行了回應,承認正在研究文本水印技術,但表示這項技術仍存在諸多挑戰(zhàn)。
本文引用地址:http://www.ex-cimer.com/article/202408/461656.htm據了解,通過文本水印,OpenAI 將只專注于檢測來自 ChatGPT 的文字,而不是來自其他公司模型的文字。其將通過對 ChatGPT 選擇單詞的方式進行微小的更改來實現這一點,本質上是在文字中創(chuàng)建一個不可見的水印,以后可以被一個單獨的工具檢測到。
OpenAI 稱,文本水印是他們探索的多種解決方案之一,其他還包括分類器和元數據,旨在確定文本的來源。盡管在某些情況下,文本水印技術表現出色,但面對翻譯、改寫或插入特殊字符等篡改行為時效果會下降。此外,該技術可能對某些群體產生不成比例的影響,例如非英語母語人士。
OpenAI 表示,由于這些復雜因素及其對整個生態(tài)系統(tǒng)潛在的影響,OpenAI 表示將謹慎推進文本溯源技術的研究,并優(yōu)先考慮視聽內容的認證工具。
評論