OpenAI透露正打造偵測工具,可精確判斷出AI生成圖片。
開發出聊天機器人ChatGPT的OpenAI正在打造一種工具,可偵測由AI生成的影像或照片,而且具有很高的精確度。
OpenAI技術長穆拉蒂(Mira Murati)17日表示,OpenAI的工具在判斷一張照片是否是利用AI生成可達到「99%的可靠」。她說,這項工具在規劃公開發表前正在進行內部測試,沒有具體時間表。
穆拉蒂是與OpenAI執行長奧特曼參加華爾街日報在加州拉古納海灘舉辦的Tech Live研討會時提及上述說法。OpenAI旗下除了有ChatGPT,也擁有影像生成工具DALL-E。
目前已經存在幾種宣稱可偵測由AI生成影像或內容的工具,但結果可能不精確。舉例來說,OpenAI在1月時推出一種類似的工具,號稱可以判斷哪些文字段落是由AI生成,然而在7月就已下架,原因是「不可靠」。
OpenAI表示,正努力改善這款軟體,並致力於開發能判斷由AI生成的音檔或圖檔的方式。
關於這類偵測AI生成內容的工具需求正在增加,因為AI工具可被用來對全球事件進行操作或製造假新聞。Adobe的Firefly影像生成工具則因應了另一方面的挑戰,承諾不創造侵害創作者智慧財產權的內容。
Leave a Review