OpenAI展示語音生成“武器庫”：太強大以至于無法推廣，生成聲音的功能存在嚴重風險

新聞稿寫道，兒童教育技術(shù)公司Age of Learning正在使用這個模型來生成一些預先編寫好的內(nèi)容，并且還結(jié)合GPT-4 創(chuàng)建實時的響應來與學生互動。

在案例中，OpenAI放出了一段英語男聲和西班牙語女聲的樣本音頻，并用兩段音頻各生成了講解知識的語音。

除此以外，OpenAI還展示了生成較小語系和孤立語系聲音的能力，以幫助落后地區(qū)的社區(qū)衛(wèi)生工作者；同時還與神經(jīng)科學研究所探索AI在臨床環(huán)境中的應用，比如幫助語言障礙者等用途。

OpenAI寫道，“我們認識到，生成聲音的功能存在嚴重風險，這一點在大選年尤為突出。我們正在與來自政府、媒體、娛樂、教育等領域的國際合作伙伴合作，以確保我們在建設過程中吸收他們的反饋。 ”

OpenAI產(chǎn)品負責人Jeff Harris表示，“如果你能正確地設置音頻，基本上就能生成人類口徑的聲音，這是一種相當令人印象深刻的技術(shù)。”但Harris提到，準確模仿人類語音的能力確實存在安全隱患。

今年1月，美國就出現(xiàn)“AI拜登”事件，由AI生成的“假拜登”在電話中用逼真的聲音鼓勵可能支持民主黨的5000位選民在新罕布什爾州初選中不要投票。本月早些時候，拜登呼吁國會通過立法來監(jiān)管AI，包括禁止“AI語音模仿”等。

CNN隨后報道稱，美國政府追查發(fā)現(xiàn)，71歲的男子沃爾特·蒙克和其總部位于得克薩斯州的“生命”公司是幕后黑手。

當?shù)貢r間3月7日晚，美國總統(tǒng)拜登發(fā)表備受矚目的大選年國情咨文演講，也是其任內(nèi)第三場國情咨文。拜登呼吁國會緊急行動起來，通過立法來監(jiān)管人工智能。拜登警告稱，如果不加以控制，這項技術(shù)將給美國人帶來風險。

去年10月底，美國總統(tǒng)拜登簽署了一項關于人工智能的行政命令，推出白宮有關生成式人工智能的首套監(jiān)管規(guī)定。根據(jù)行政命令，美國多個政府機構(gòu)需制定標準，以防止使用人工智能設計生物或核武器等威脅，并尋求“水印”等內(nèi)容驗證的最佳方法，擬定先進的網(wǎng)絡安全計劃。具體而言，命令要求對人工智能產(chǎn)品進行測試，并將測試結(jié)果報告給聯(lián)邦政府。它還提出吸引全球人工智能人才留在美國。

值得注意的是，近日，一款叫Suno AI的工具簡直要一夜顛覆音樂圈。經(jīng)它爆改的金曲，直接封神。人們紛紛驚呼：音樂人已死！有媒體的描述是這樣的，這可能席卷全世界的可怕AI音樂。

在官網(wǎng)上，Suno AI的應用程序可以免費試用。

只要在框中輸入提示，片刻之后，一段完全符合你要求的逼真、高保真的音樂片段就開始自動播放了。

而且，你不需要任何門檻?，F(xiàn)在，不懂任何樂理知識的人，就能創(chuàng)作出一段抓耳的音樂，甚至可能成為抖音爆款神曲，分分鐘吸金百萬！

在網(wǎng)友Michael Anti看來，Suno AI很快就要成為網(wǎng)易云音樂了。

而人類音樂家們也麻了，心里分分鐘響起警報：完了，我要被淘汰了？？

獨立搖滾音樂人、博主Damon Krukowski表示，這個AI對于音樂人來說，是一場噩夢。

也有人質(zhì)疑道：這有什么意義嗎？它只是創(chuàng)作出了一些音樂，但并不是創(chuàng)作出了好音樂。并且，如同ChatGPT和Sora一樣，Suno AI也面臨著版權(quán)的問題。很可能AI制作的音樂會充斥著各大音樂平臺，直到泡沫破裂。

每日經(jīng)濟新聞綜合OpenAI官網(wǎng)、公開資料