被ChatGPT“復制”聲音，“寡姐”斯嘉麗發(fā)文怒斥，OpenAI緊急停用，生成式AI面臨深度偽造的新危機？

每經(jīng)記者 文巧    每經(jīng)編輯 蘭素英    

當?shù)貢r間5月20日，外媒NPR獨家公布了被影迷稱為“寡姐”、科幻電影《她》中AI助手飾演者斯嘉麗·約翰遜發(fā)布的一篇聲明，斯嘉麗指控OpenAI的ChatGPT非法使用其聲音，同時要求將語音下架。

上周，OpenAI發(fā)布了最新旗艦模型GPT-4o，引爆科技圈。在發(fā)布會上，OpenAI展示了ChatGPT最新語音功能，不少人發(fā)現(xiàn)，其富有表現(xiàn)力的合成聲音Sky與《她》中斯嘉麗飾演的AI助手的聲音驚人地相似，這引發(fā)了激烈的討論。

斯嘉麗聲明稱，2023年9月，ChatGPT推出語音模式時，OpenAI曾找過她希望為其配音，但由于個人原因拒絕。就在GPT-4o演示前兩天，OpenAI還曾試圖說服斯嘉麗，但在聯(lián)系上之前，新模型就已發(fā)布?；诖?，斯嘉麗的法律團隊此前已向OpenAI發(fā)送兩封聲明，要求該公司詳細說明其開發(fā)這種聲音的過程。

由于斯嘉麗的指控，OpenAI在當?shù)貢r間5月19日發(fā)表聲明宣布暫停使用這款AI聲音模板。同時，作為回應(yīng)，該公司也公布了ChatGPT中5個配音的詳細創(chuàng)作流程，稱這是從400多名專業(yè)配音和演員中挑選出來的。

實際上，這已經(jīng)不是OpenAI初次面臨類似的指控。更早之前，《紐約時報》和《權(quán)力的游戲》原著作者喬治·馬丁等在內(nèi)的內(nèi)容創(chuàng)作者都曾因版權(quán)問題將該公司告上法庭。而隨著這場斗爭延伸至語音領(lǐng)域，外媒Wired認為，這可能會帶來新的有關(guān)深度偽造的威脅。

“寡姐”斯嘉麗：ChatGPT“偷”走我的聲音

“當我聽到發(fā)布演示時，我感到震驚、憤怒，并且不敢相信阿爾特曼會追求一種聽起來與我如此相似的聲音，以至于我最親密的朋友和新聞媒體都無法分辨。”斯嘉麗在聲明中這樣寫道。

圖片來源：NPR記者Bobby Allyn的X賬號

實際上，自去年9月OpenAI推出ChatGPT的語音模式以來，Sky的聲音就一直可用。ChatGPT的語音模式一共有Breeze、Cove、Ember、Juniper和Sky五種聲音。但直到上周OpenAI演示了最新的旗艦AI模型GPT-4o模型，使聲音更具表現(xiàn)力時，Sky的聲音與斯嘉麗的聯(lián)系才變得清晰起來。

在上周的發(fā)布會上，OpenAI展示了ChatGPT最新語音功能，得益于反應(yīng)速度的大幅提升，該功能幾乎等同“實時對話”。隨后，OpenAI首席執(zhí)行官阿爾特曼在X平臺上發(fā)布了“her”這個詞，暗示科幻電影《她》已走入現(xiàn)實。不少人意識到，ChatGPT中富有表現(xiàn)力的合成聲音與《她》斯嘉麗·約翰遜飾演的AI助手的聲音驚人地相似，由此引發(fā)了外界激烈的討論。

圖片來源：X平臺

而斯嘉麗的聲明也指出，阿爾特曼用“她”來指代這部電影，似乎在鼓勵全世界將ChatGPT最新演示與其表演聯(lián)系起來。

她在聲明中表示，2023年9月，ChatGPT推出語音模式時，阿爾特曼找到她，詢問她是否愿意為ChatGPT配音，去安慰用戶，彌合AI與人類之間巨大的差異所帶來的不適感。斯嘉麗表示，經(jīng)過深思熟慮后，她拒絕了這一提議。就在GPT-4o演示前兩天，OpenAI還曾試圖說服斯嘉麗，但在聯(lián)系上之前，新模型就已發(fā)布。基于此，斯嘉麗的法律團隊此前已向OpenAI發(fā)送兩封聲明，要求該公司詳細說明其開發(fā)這種聲音的過程。

OpenAI回應(yīng)：暫停Sky語音，ChatGPT的5種聲音來自400多份投稿 

當?shù)貢r間5月19日，OpenAI表示公司正采取措施解決問題，同時正在暫停使用這款AI聲音模板。

該公司還公布了ChatGPT中5個配音的詳細創(chuàng)作流程，稱每一種聲音都經(jīng)過了長達五個月的精心挑選，且是從合作的配音演員中進行采樣的，且每位演員的報酬都高于市場最高水平。

圖片來源：OpenAI官網(wǎng)

OpenAI在聲明中寫道：“我們認為AI的聲音不應(yīng)該刻意模仿名人的獨特聲音——Sky的聲音不是對斯嘉麗·約翰遜的模仿，而是屬于另一位專業(yè)女演員，使用她自己自然的說話聲音。為了保護他們的隱私，我們不能分享我們配音演員的名字。”

據(jù)悉，2023年5月，OpenAI的選角機構(gòu)和選角導演發(fā)出了人才招募。不到一周，他們就收到了400多份配音演員和銀幕演員的投稿。將近5個月后，他們挑選出了5種聲音發(fā)布到ChatGPT中。

該公司為ChatGPT的聲音制定了一套標準，仔細考慮了每個聲音的獨特個性及其對全球觀眾的吸引力。這些標準包括：有不同背景或能說多種語言的演員；一種聽起來有“永恒”（timeless）感覺的聲音；一種平易近人、能激發(fā)信任的聲音；一種音色豐富，且溫暖、引人入勝、充滿自信、魅力十足的聲音；自然且易于聽取。

圖片來源：OpenAI官網(wǎng)

深度偽造威脅或升級

《每日經(jīng)濟新聞》記者注意到，斯嘉麗的指控已經(jīng)不是OpenAI初次面臨類似的斗爭。

今年5月初，包括《紐約每日新聞》和《芝加哥論壇報》在內(nèi)的多家報紙在紐約聯(lián)邦法院起訴OpenAI和微軟，指控他們?yōu)E用新聞內(nèi)容來訓練生成式AI系統(tǒng)。

去年12月，《紐約時報》在紐約南區(qū)法院向OpenAI及其投資人微軟公司提起侵犯版權(quán)訴訟；同月，多名普利策獎得主也起訴OpenAI和微軟濫用自己作品訓練大模型，指出這樣的行為無疑是在“刮取”作家們的作品和其他受版權(quán)保護的材料。

更早之前，去年9月，美國作家協(xié)會以及包括《權(quán)力的游戲》原著作者喬治·馬丁在內(nèi)的17位美國著名作家對OpenAI發(fā)起集體訴訟，稱OpenAI在未經(jīng)授權(quán)的情況下使用原告作家的版權(quán)作品訓練其AI模型。

OpenAI面臨的難題也揭示了整個生成式AI領(lǐng)域與內(nèi)容創(chuàng)作者之間權(quán)益邊界的普遍性問題。

據(jù)媒體引用不完全統(tǒng)計數(shù)據(jù)稱，自2022年11月至2023年10月，僅美國加州北區(qū)法院便已經(jīng)受理了10起版權(quán)人起訴StabilityAI、OpenAI、Meta、Alphabet等公司未經(jīng)授權(quán)，利用版權(quán)作品進行模型訓練的案件。

外媒Wired評論稱，與斯嘉麗的沖突將加劇OpenAI與藝術(shù)家、作家和其他創(chuàng)意人士之間的現(xiàn)有斗爭。隨著這場爭斗蔓延至語音領(lǐng)域，Wired認為，生成式AI使創(chuàng)建逼真的合成聲音變得更加容易，這可能會帶來新的有關(guān)深度偽造的威脅。

實際上，OpenAI今年3月就曾表示，它已經(jīng)開發(fā)出一種可以從15秒的剪輯中克隆某人聲音的技術(shù)，但該公司表示不會發(fā)布該技術(shù)，因為它可能會被濫用。