這樣太危險!「OpenAI複製聲音」籲逐步淘汰帳戶語音認證

這樣太危險!「OpenAI複製聲音」籲逐步淘汰帳戶語音認證


美國人工智慧開發公司「OpenAI」29日公布語音AI工具「Voice Engine」,只需短短15秒的語音樣本,就能複製聲音;該公司承認,該工具風險過大,不適合全面發布。

 

「Voice Engine」於2022年首次研發,初始版本在ChatGPT中,協助文字轉語音。生成結果不受語種限制,即使以中文為母語,仍可用自己的聲音,生成英語、日語等他國語言。不過,OpenAI考量濫用風險,因此現階段僅供合作夥伴使用,尚未全面對外開放。

 

外媒報導指出,OpenAI延遲「Voice Engine」的推出,是為了在全球大選年盡可能降低已氾濫的假消息進一步生成。OpenAI表示,目前「Voice Engine」的生成結果都加上浮水印,以追蹤生成式音檔的來源。使用條款也規定,必須取得原始說話者的「明確知情且同意」,當然也不允許個人用戶自行創造聲音檔。

 

OpenAI指出,目前以預覽形式取代全面發布,是為了呼籲社會強化面對「生成式模型」的能力,如逐步淘汰銀行帳戶的語音認證等,制定AI領域上的個人聲音保護規範,並且對於AI能力及限制有更深的學習。

 

至於其他關於OpenAI的發展,目前傳出將與微軟進行專案計畫,當中包含搭載數百萬個專用伺服器晶片的「超級電腦」,最快會在2028年推出。在晶片使用上,OpenAI稱要減少對輝達的依賴,不過因晶片多以台積電先進製程打造,因此即使由其他供應商引入,外界仍看好台積電受惠最大。

 

首圖為示意圖。由本報合成,擷取自Andrew Neel、Pawel Czerwinski Unsplash。為符欄位經本報裁剪。

延伸閱讀
你可能感興趣