每日經(jīng)濟新聞
要聞

每經(jīng)網(wǎng)首頁 > 要聞 > 正文

OpenAI展示語音生成“武器庫”:太強大以至于無法推廣,生成聲音的功能存在嚴重風險

每日經(jīng)濟新聞 2024-03-30 10:00:35

每經(jīng)編輯 杜宇

當?shù)貢r間周五(3月29日),美國人工智能研究公司OpenAI在官網(wǎng)首次分享了名為“Voice Engine”(語音引擎)的預覽。

據(jù)介紹,通過輸入文本和15秒音頻樣本,Voice Engine便可以生成一個與音頻中說話者非常相似的自然語音。新聞稿強調(diào),生成的自然語音具有豐富的情感和逼真的聲音。

OpenAI稱,公司于2022年末首次開發(fā)了語音引擎,并使用它為文本到語音API以及ChatGPT語音和Read Aloud中的預設語音提供動力。與此同時,由于合成語音濫用的可能性,公司正在采取謹慎和知情的方式進行更廣泛的發(fā)布。OpenAI希望負責任地部署合成聲音以及社會如何適應這些新能力展開對話?;谶@些對話和這些小規(guī)模測試的結(jié)果,OpenAI將對是否以及如何大規(guī)模部署這項技術(shù)做出更明智的決定。

新聞稿寫道,兒童教育技術(shù)公司Age of Learning正在使用這個模型來生成一些預先編寫好的內(nèi)容,并且還結(jié)合GPT-4 創(chuàng)建實時的響應來與學生互動。

在案例中,OpenAI放出了一段英語男聲和西班牙語女聲的樣本音頻,并用兩段音頻各生成了講解知識的語音。

除此以外,OpenAI還展示了生成較小語系和孤立語系聲音的能力,以幫助落后地區(qū)的社區(qū)衛(wèi)生工作者;同時還與神經(jīng)科學研究所探索AI在臨床環(huán)境中的應用,比如幫助語言障礙者等用途。

OpenAI寫道,“我們認識到,生成聲音的功能存在嚴重風險,這一點在大選年尤為突出。我們正在與來自政府、媒體、娛樂、教育等領域的國際合作伙伴合作,以確保我們在建設過程中吸收他們的反饋。 ”

OpenAI產(chǎn)品負責人Jeff Harris表示,“如果你能正確地設置音頻,基本上就能生成人類口徑的聲音,這是一種相當令人印象深刻的技術(shù)。”但Harris提到,準確模仿人類語音的能力確實存在安全隱患。

今年1月,美國就出現(xiàn)“AI拜登”事件,由AI生成的“假拜登”在電話中用逼真的聲音鼓勵可能支持民主黨的5000位選民在新罕布什爾州初選中不要投票。本月早些時候,拜登呼吁國會通過立法來監(jiān)管AI,包括禁止“AI語音模仿”等。

CNN隨后報道稱,美國政府追查發(fā)現(xiàn),71歲的男子沃爾特·蒙克和其總部位于得克薩斯州的“生命”公司是幕后黑手。

當?shù)貢r間3月7日晚,美國總統(tǒng)拜登發(fā)表備受矚目的大選年國情咨文演講,也是其任內(nèi)第三場國情咨文。拜登呼吁國會緊急行動起來,通過立法來監(jiān)管人工智能。拜登警告稱,如果不加以控制,這項技術(shù)將給美國人帶來風險。

去年10月底,美國總統(tǒng)拜登簽署了一項關于人工智能的行政命令,推出白宮有關生成式人工智能的首套監(jiān)管規(guī)定。根據(jù)行政命令,美國多個政府機構(gòu)需制定標準,以防止使用人工智能設計生物或核武器等威脅,并尋求“水印”等內(nèi)容驗證的最佳方法,擬定先進的網(wǎng)絡安全計劃。具體而言,命令要求對人工智能產(chǎn)品進行測試,并將測試結(jié)果報告給聯(lián)邦政府。它還提出吸引全球人工智能人才留在美國。

值得注意的是,近日,一款叫Suno AI的工具簡直要一夜顛覆音樂圈。經(jīng)它爆改的金曲,直接封神。人們紛紛驚呼:音樂人已死!有媒體的描述是這樣的,這可能席卷全世界的可怕AI音樂。

在官網(wǎng)上,Suno AI的應用程序可以免費試用。

只要在框中輸入提示,片刻之后,一段完全符合你要求的逼真、高保真的音樂片段就開始自動播放了。

而且,你不需要任何門檻?,F(xiàn)在,不懂任何樂理知識的人,就能創(chuàng)作出一段抓耳的音樂,甚至可能成為抖音爆款神曲,分分鐘吸金百萬!

在網(wǎng)友Michael Anti看來,Suno AI很快就要成為網(wǎng)易云音樂了。

而人類音樂家們也麻了,心里分分鐘響起警報:完了,我要被淘汰了??

獨立搖滾音樂人、博主Damon Krukowski表示,這個AI對于音樂人來說,是一場噩夢。

也有人質(zhì)疑道:這有什么意義嗎?它只是創(chuàng)作出了一些音樂,但并不是創(chuàng)作出了好音樂。并且,如同ChatGPT和Sora一樣,Suno AI也面臨著版權(quán)的問題。很可能AI制作的音樂會充斥著各大音樂平臺,直到泡沫破裂。

每日經(jīng)濟新聞綜合OpenAI官網(wǎng)、公開資料

封面圖片來源::視覺中國

如需轉(zhuǎn)載請與《每日經(jīng)濟新聞》報社聯(lián)系。
未經(jīng)《每日經(jīng)濟新聞》報社授權(quán),嚴禁轉(zhuǎn)載或鏡像,違者必究。

讀者熱線:4008890008

特別提醒:如果我們使用了您的圖片,請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。

Ai 音樂 OpenAI

歡迎關注每日經(jīng)濟新聞APP

每經(jīng)經(jīng)濟新聞官方APP

0

0

免费va国产高清不卡大片,笑看风云电视剧,亚洲黄色性爱在线观看,成人 在线 免费