內(nèi)容風(fēng)險(xiǎn)再成焦點(diǎn)！蘋果阻止ChatGPT驅(qū)動的應(yīng)用更新，OpenAI啟用新模型應(yīng)對

每經(jīng)記者 李孟林    每經(jīng)編輯 蘭素英    

據(jù)媒體3月2日報(bào)道，蘋果公司上周阻止了一款使用ChatGPT功能的電郵應(yīng)用的更新，因?yàn)閾?dān)心其可能生成不適合青少年兒童的內(nèi)容。

如何避免AI做出違反倫理道德的回答一直是生成式AI面臨的挑戰(zhàn)。

而在上述報(bào)道的前一天，OpenAI推出了官方的ChatGPT應(yīng)用程序接口（API），成本直降90%，且比ChatGPT及其背后的GPT-3.5 模型“更快、更準(zhǔn)確、更強(qiáng)大”。OpenAI同時(shí)還推出了語音轉(zhuǎn)文字的Whisper API，一分鐘只需要0.006美元。

OpenAI表示，公司在ChatGPT API中引入了新的語言，希望能通過加入更多提示限制來過濾不當(dāng)內(nèi)容。 

圖片來源：視覺中國-VCG111421680440 

出于內(nèi)容擔(dān)憂，蘋果暫停一應(yīng)用更新

面對生成式AI熱潮，蘋果似乎要小心謹(jǐn)慎得多。據(jù)路透社報(bào)道，蘋果上周阻止了采用ChatGPT功能的電郵應(yīng)用程序BlueMail的更新，因?yàn)閾?dān)心其產(chǎn)生對青少年兒童不當(dāng)?shù)膬?nèi)容。

據(jù)悉，BlueMail的新AI功能以ChatGPT為基礎(chǔ)，能夠基于先前電郵的內(nèi)容和日歷事件自動編寫郵件。

“你的應(yīng)用程序包含人工智能生成的內(nèi)容，但目前似乎不包含內(nèi)容過濾，”蘋果應(yīng)用程序?qū)彶閳F(tuán)隊(duì)上周在給開發(fā)者的消息中表示。

應(yīng)用程序?qū)彶閳F(tuán)隊(duì)認(rèn)為，BlueMail要么將其年齡限制提高到17 歲及以上，要么加入內(nèi)容過濾程序。蘋果設(shè)置17歲及以上用戶的年齡限制針對的是可能包含攻擊性語言、性內(nèi)容和提及毒品等內(nèi)容的應(yīng)用程序類別。

BlueMail開發(fā)公司Blix Inc.的聯(lián)合創(chuàng)始人Ben Volach表示，BlueMail具有內(nèi)容過濾的功能，目前將年齡設(shè)置在4歲及以上。Volach認(rèn)為蘋果的做法不公平，因?yàn)槠渌愃艫I功能的應(yīng)用沒有設(shè)置年齡限制卻得到了批準(zhǔn)。

“Apple讓我們很難為用戶帶來創(chuàng)新，”他表示，“我們要的是公平。如果我們要設(shè)置17歲以上的年齡限制，其他應(yīng)用也該如此。”他同時(shí)稱，BlueMail的安卓版在谷歌應(yīng)用市場就可以更新，無需設(shè)置年齡限制，也不需要進(jìn)一步的內(nèi)容過濾機(jī)制。

蘋果發(fā)言人表示，開發(fā)者可通過蘋果應(yīng)用程序?qū)彶槲瘑T會的上訴程序發(fā)起申訴，蘋果方面正在調(diào)查Blix的申訴。

投資了ChatGPT開發(fā)公司OpenAI的微軟近日上線了融合ChatGPT功能的新版搜索引擎必應(yīng)。該程序在蘋果應(yīng)用市場設(shè)置了17歲及以上的年齡限制，但也沒有在谷歌應(yīng)用市場設(shè)置年齡限制。微軟發(fā)言人表示，之所以設(shè)置17歲及以上的年齡限制，是因?yàn)楸貞?yīng)可以找到成人內(nèi)容。

ChatGPT API新模型有望更好過濾內(nèi)容

在媒體爆出蘋果限制BlueMail更新的前一天，OpenAI宣布推出ChatGPT以及語音轉(zhuǎn)換文本模型Whisper的應(yīng)用程序接口（API）。兩個(gè)API價(jià)格低廉，功能強(qiáng)大，第三方開發(fā)人員可以通過 API 的方式將 ChatGPT 集成到他們的應(yīng)用程序和服務(wù)中。

據(jù)OpenAI，ChatGPT API接入的模型名為 gpt-3.5-turbo，這是許多非聊天用例的最佳模型，而且比 ChatGPT 和背后的GPT- 3.5 模型“更快、更準(zhǔn)確、更強(qiáng)大”，且每輸出100萬個(gè)單詞，價(jià)格才2.7美元（約18元人民幣），比之前的GPT-3.5便宜了10倍。Whisper API可以用來轉(zhuǎn)錄或翻譯音頻，費(fèi)用為每分鐘0.006美元。

目前，已經(jīng)有多個(gè)應(yīng)用程序通過API的方式把ChatGPT和Whisper融入到服務(wù)之中，如社交軟件SnapChat，購物軟件Instacart，學(xué)習(xí)軟件Quizlet和Speak等。

此前，ChatGPT爆火之后，各種「自制API」層出不窮，但效果欠佳且成本較高。此次OpenAI開放官方的低價(jià)API，為各類中小型開發(fā)者打開了新的大門。

官方API雖然在功能和價(jià)格上又上了一層樓，但在ChatGPT API推出后，有網(wǎng)友馬上發(fā)現(xiàn)，這個(gè)API的內(nèi)容過濾機(jī)制是比較松散的，可以生成暴力和色情內(nèi)容，只是對“如何制造炸彈”一類的問題拒絕回答。

實(shí)際上，圍繞生成式AI的道德爭議一直是OpenAI面臨的挑戰(zhàn)。此前就有用戶引導(dǎo)ChatGPT生成種族和性別歧視的回答，更有許多網(wǎng)友聚在一起做“越獄”嘗試，希望找出繞過OpenAI的安全機(jī)制，讓ChatGPT執(zhí)行超出其原初目標(biāo)的任務(wù)。比如，初創(chuàng)公司Scale AI的一名員工就曾讓ChatGPT透露了其內(nèi)部的技術(shù)細(xì)節(jié)信息。

對于重視品牌形象的客戶而言，這樣的風(fēng)險(xiǎn)當(dāng)然是必須回避的。OpenAI在這方面也做了很多工作，除了讓廉價(jià)的肯尼亞工廠做數(shù)據(jù)標(biāo)注外，在技術(shù)上也做了一些努力。

據(jù)科技媒體TechCrunch報(bào)道，ChatGPT的API采用了一種名為Chat Markup Language（ChatML）的語言，這種語言將輸入文本視為一連串信息和“元數(shù)據(jù)”的結(jié)合。開發(fā)者在接收提問提示（prompt）時(shí)，可以加入額外的提示，如“你需要誠實(shí)回答”，或者“你只是一個(gè)機(jī)器人”。這些額外提示可以讓ChatGPT更好地過濾生成的內(nèi)容。

“我們正在轉(zhuǎn)向一種更高級的API。如果你能夠以更加結(jié)構(gòu)化的方式將輸入內(nèi)容放進(jìn)系統(tǒng)，比如‘這是來自開發(fā)者’或者‘這是來自用戶’……我想，作為開發(fā)者，你（使用ChatML）可以更好地抵御那些通過提示進(jìn)行攻擊的行為，”OpenAI的主席和董事長Greg Brockman表示。

此外，ChatGPT API還向用戶提供付費(fèi)的專屬算力（Dedicated capacity），付錢的大公司不僅可以擁有更加流暢快速的應(yīng)答，還可以獲得更高的文字輸入上限，這樣可以讓ChatGPT記住更多的上下文提示，將減少回答中的偏見和有害內(nèi)容。據(jù)Brockman，專屬算力用戶可以在gpt-3.5-turbo模型中輸入高達(dá)1.6萬的token，是現(xiàn)有標(biāo)準(zhǔn)ChatGPT模型的四倍。

封面圖片來源：視覺中國-VCG111421680440