AI重磅！“它太危險了，不能公開發(fā)布”

每經(jīng)編輯 畢陸名

據(jù)參考消息13日援引美國趣味科學(xué)網(wǎng)站7月10日報道，科學(xué)家稱，微軟公司開發(fā)的新型人工智能(AI)語音生成器“達到了與人類相當?shù)乃?hellip;…但它太危險了，不能公開發(fā)布”。

報道稱，VALL-E 2是一個文本轉(zhuǎn)語音(TTS)生成器，只需利用幾秒鐘的音頻就能重現(xiàn)說話人的聲音。其效果非常逼真，以至于無法向公眾發(fā)布。

微軟研究人員在6月17日發(fā)表在預(yù)印本文獻庫上的一篇論文中稱，VALL-E 2能夠“準確、自然地生成與原說話人完全相同的語音，其生成的語音可與人類相媲美”。換句話說，這一新的AI語音生成器足夠逼真，會讓人誤以為這是真人在說話——至少它的創(chuàng)造者是這么認為。

圖片來源：視覺中國

微軟研究人員在論文中寫道：“VALL-E 2代表著神經(jīng)編解碼語言模型的最新進展，它標志著零樣本文本轉(zhuǎn)語音合成的一個里程碑，并首次達到與人類語音相當?shù)乃健?rdquo;

論文還說：“此外，VALL-E 2能夠始終如一地合成高質(zhì)量語音，即使是那些傳統(tǒng)上因其復(fù)雜性或重復(fù)短語而具有挑戰(zhàn)性的句子也不例外。”

研究人員使用語音資料庫LibriSpeech和VCTK中的音頻樣本來評估VALL-E 2與說話人錄音的相似程度。他們還使用了ELLA-V(一個用于衡量生成語音的準確性和質(zhì)量的評估框架)來確定VALL-E 2能在多大程度上有效處理更復(fù)雜的語音生成任務(wù)。

研究人員寫道：“我們基于LibriSpeech和VCTK數(shù)據(jù)集進行的實驗表明，VALL-E 2在語音的穩(wěn)健性、自然度、與說話人相似度方面都超越了之前的零樣本TTS系統(tǒng)。它是同類產(chǎn)品中第一個在這些基準上達到與人類相當水平的系統(tǒng)。”

微軟研究人員在一篇博客文章中寫道：“VALL-E 2純粹是一個研究項目。目前，我們還沒有將VALL-E 2納入產(chǎn)品或向公眾開放的計劃。在模型被濫用方面，它可能存在潛在的風(fēng)險，比如欺騙語音識別系統(tǒng)或冒充特定的說話人。”

盡管如此，他們確實表示，AI語音技術(shù)在未來可能會有實際應(yīng)用。研究人員稱：“VALL-E 2可以合成維持說話人身份的語音，它可被用于教育學(xué)習(xí)、娛樂、新聞工作、自創(chuàng)內(nèi)容、無障礙功能、交互式語音應(yīng)答系統(tǒng)、翻譯、聊天機器人等領(lǐng)域。”

另據(jù)公開報道，6月19日，在2024年戛納獅子國際創(chuàng)意節(jié)上，特斯拉首席執(zhí)行官埃隆·馬斯克（Elon Musk）接受了全球知名營銷服務(wù)公司W(wǎng)PP首席執(zhí)行官馬克·里德（Mark Read）專訪。在談到“人工智能是否真的會為我們處理所有事務(wù)”時，馬斯克表示：我們不能盲目樂觀或過度悲觀。我非常贊同杰夫·辛頓（Jeff Hinton，人工智能教父）的觀點。他認為有10%到20%的可能性會出現(xiàn)一些令人擔(dān)憂的情境。然而，我們更應(yīng)關(guān)注那80%的積極可能性。

因此，我認為最有可能的未來是，我們將進入一個物質(zhì)極度豐富的時代，商品和服務(wù)將普及到地球上的每一個人。這不僅僅意味著全民基本收入，而是全民都能享受高收入。工作將變得可選，人們將擁有選擇是否工作的自由。

這樣的前景雖然誘人，卻也可能引發(fā)一場有關(guān)生命意義的危機。當人工智能能夠勝任我們所能做的所有工作，甚至做得更好時，我們做事的動機和意義又何在呢？這可能會引發(fā)一種存在主義式的困惑，即我們?yōu)楹芜€要去做任何事情？

所以，我認為我們正邁向一個前所未有的繁榮時代。同時，我們也正處于歷史上最為有趣的時刻。有句諺語說的好，“愿你生活在有趣的時代”，這看似是一種詛咒，但我認為我們正身處于這樣一個時代。我的意思是，即使面對人工智能可能帶來的最壞結(jié)果，即人類被消滅，我也會選擇直面而非逃避。我想，我可能真的愿意親眼見證這一切的發(fā)展。

每日經(jīng)濟新聞綜合參考消息、公開消息