微軟打擊深度偽造,為 AI 生成的圖像和視頻加上“身份證”
IT之家 5 月 24 日消息,微軟近期推出了多款基于人工智能的軟件和服務(wù),3 月份該公司正式發(fā)布了 Bing Image Creator,讓用戶可以用簡單的文字提示來創(chuàng)作藝術(shù)作品。4 月份,該公司又推出了 Microsoft Designer 的完整公測版,讓用戶可以用文字提示和 AI 模型來創(chuàng)建博客文章、網(wǎng)站等項目。
本文引用地址:http://www.ex-cimer.com/article/202305/446877.htm然而,人們也擔(dān)心 AI 生成的藝術(shù)作品可能被惡意利用,造成虛假信息的傳播。隨著越來越多的“深度偽造”圖像和視頻出現(xiàn),微軟決定采取主動措施,確保其程序生成的 AI 藝術(shù)能夠被識別出來。今天,在微軟 Build 2023 開發(fā)者大會上,該公司宣布將在未來幾個月內(nèi)增加一項功能,讓任何人都能識別 Bing Image Creator 和 Microsoft Designer 生成的圖像或視頻片段是否是由 AI 生成的。
微軟表示,“該技術(shù)使用密碼學(xué)方法對 AI 生成的內(nèi)容進(jìn)行標(biāo)記和簽名,并附上有關(guān)其來源的元數(shù)據(jù)信息。微軟一直是驗證來源方法研發(fā)的領(lǐng)導(dǎo)者,并聯(lián)合創(chuàng)立了 Project Origin 和內(nèi)容來源和真實性聯(lián)盟(C2PA)標(biāo)準(zhǔn)機(jī)構(gòu)。微軟的媒體來源驗證將按照 C2PA 標(biāo)準(zhǔn)對生成內(nèi)容進(jìn)行簽名和驗證?!?/p>
微軟表示,該功能將適用于其兩款 AI 內(nèi)容生成程序支持的“主要圖像和視頻格式”,但是沒有公布具體支持哪些格式。IT之家此前曾報道,微軟本月早些時候宣布 Bing Image Creator 現(xiàn)已支持 100 多種語言,該程序已經(jīng)創(chuàng)造了超過 2 億張圖像。
評論