這樣太危險！「OpenAI複製聲音」籲逐步淘汰帳戶語音認證

何睿哲

2024-04-01 03:38:20

分享：

美國人工智慧開發公司「OpenAI」29日公布語音AI工具「Voice Engine」，只需短短15秒的語音樣本，就能複製聲音；該公司承認，該工具風險過大，不適合全面發布。

「Voice Engine」於2022年首次研發，初始版本在ChatGPT中，協助文字轉語音。生成結果不受語種限制，即使以中文為母語，仍可用自己的聲音，生成英語、日語等他國語言。不過，OpenAI考量濫用風險，因此現階段僅供合作夥伴使用，尚未全面對外開放。

外媒報導指出，OpenAI延遲「Voice Engine」的推出，是為了在全球大選年盡可能降低已氾濫的假消息進一步生成。OpenAI表示，目前「Voice Engine」的生成結果都加上浮水印，以追蹤生成式音檔的來源。使用條款也規定，必須取得原始說話者的「明確知情且同意」，當然也不允許個人用戶自行創造聲音檔。

OpenAI指出，目前以預覽形式取代全面發布，是為了呼籲社會強化面對「生成式模型」的能力，如逐步淘汰銀行帳戶的語音認證等，制定AI領域上的個人聲音保護規範，並且對於AI能力及限制有更深的學習。

至於其他關於OpenAI的發展，目前傳出將與微軟進行專案計畫，當中包含搭載數百萬個專用伺服器晶片的「超級電腦」，最快會在2028年推出。在晶片使用上，OpenAI稱要減少對輝達的依賴，不過因晶片多以台積電先進製程打造，因此即使由其他供應商引入，外界仍看好台積電受惠最大。

首圖為示意圖。由本報合成，擷取自Andrew Neel、Pawel Czerwinski Unsplash。為符欄位經本報裁剪。