面對(duì)“圍剿”，OpenAI重磅發(fā)文：加強(qiáng)監(jiān)管！ChatGPT一度暫停Plus付費(fèi)升級(jí)服務(wù)，A股相關(guān)板塊集體重挫

每經(jīng)編輯 杜宇

4月5日，ChatGPT官網(wǎng)宣布，由于需求量過(guò)大，暫停Plus付費(fèi)項(xiàng)目的購(gòu)買(mǎi)，一度引發(fā)關(guān)注。目前該功能已恢復(fù)，并可進(jìn)入付費(fèi)環(huán)節(jié)。

值得注意的是，4月6日凌晨，Open AI在官網(wǎng)發(fā)布了《Our approach to AI safety》，以確保安全、可靠地為全球用戶提供ChatGPT服務(wù)。

圖片來(lái)源：Open AI公司官網(wǎng)

建立廣泛的安全和監(jiān)控系統(tǒng)

Open AI表示，在發(fā)布任何新系統(tǒng)之前，我們會(huì)進(jìn)行嚴(yán)格的測(cè)試，聘請(qǐng)外部專(zhuān)家進(jìn)行反饋，通過(guò)人工反饋的強(qiáng)化學(xué)習(xí)等技術(shù)來(lái)改善模型的行為，并建立廣泛的安全和監(jiān)控系統(tǒng)。

例如，在我們的最新模型GPT-4完成培訓(xùn)后，我們花了6個(gè)多月的時(shí)間在整個(gè)組織中工作，以使其在公開(kāi)發(fā)布之前更安全、更一致。

Open AI認(rèn)為，強(qiáng)大的人工智能系統(tǒng)應(yīng)該接受?chē)?yán)格的安全評(píng)估。需要進(jìn)行監(jiān)管以確保此類(lèi)做法得到采納，我們積極與政府就此類(lèi)監(jiān)管的最佳形式進(jìn)行接觸。

圖片來(lái)源：Open AI公司官網(wǎng)

從實(shí)踐中學(xué)習(xí)、優(yōu)化、改善

Open AI表示：在部署之前，我們努力防止可預(yù)見(jiàn)的風(fēng)險(xiǎn)，然而，在實(shí)驗(yàn)室中所能學(xué)到的是有限的。盡管進(jìn)行了廣泛的研究和測(cè)試，但仍無(wú)法預(yù)測(cè)人們使用我們技術(shù)的所有有益方式，也無(wú)法預(yù)測(cè)人們?yōu)E用我們技術(shù)的所有方式。

Open AI表示，隨著時(shí)間的推移，從現(xiàn)實(shí)世界的使用中學(xué)習(xí)是創(chuàng)建和發(fā)布越來(lái)越安全的人工智能系統(tǒng)的關(guān)鍵組成部分。所以，從實(shí)踐項(xiàng)目中學(xué)習(xí)、優(yōu)化和改善產(chǎn)品，成為重中之重。

圖片來(lái)源：Open AI公司官網(wǎng)

關(guān)鍵重點(diǎn)：保護(hù)兒童

我們安全工作的一個(gè)關(guān)鍵重點(diǎn)是保護(hù)兒童。我們要求年滿18歲或13歲以上的人必須獲得父母批準(zhǔn)才能使用我們的人工智能工具，并正在研究驗(yàn)證選項(xiàng)。

我們不允許我們的技術(shù)被用于生成仇恨、騷擾、暴力或成人內(nèi)容等類(lèi)別。與GPT-3.5相比，我們的最新模型GPT-4響應(yīng)不允許內(nèi)容請(qǐng)求的可能性降低了82%，我們已經(jīng)建立了一個(gè)強(qiáng)大的系統(tǒng)來(lái)監(jiān)控濫用情況?，F(xiàn)在，ChatGPT-Plus用戶可以使用GPT-4，我們希望隨著時(shí)間的推移，更多的人可以使用它。

我們已經(jīng)做出了重大努力，最大限度地減少我們的模型生成傷害兒童的內(nèi)容的可能性。例如，當(dāng)用戶試圖將兒童性虐待材料上傳到我們的圖像工具時(shí)，我們會(huì)阻止并向國(guó)家失蹤和被剝削兒童中心報(bào)告。

除了我們默認(rèn)的安全護(hù)欄外，我們還與非營(yíng)利組織Khan Academy等開(kāi)發(fā)人員合作，該學(xué)院構(gòu)建了一個(gè)人工智能輔助系統(tǒng)，既可以作為學(xué)生的虛擬導(dǎo)師，也可以作為教師的課堂助理，為他們的用例量身定制安全緩解措施。我們還在開(kāi)發(fā)一些功能，允許開(kāi)發(fā)人員為模型輸出設(shè)置更嚴(yán)格的標(biāo)準(zhǔn)，以更好地支持想要這些功能的開(kāi)發(fā)人員和用戶。

圖片來(lái)源：Open AI公司官網(wǎng)

尊重隱私

Open AI的大型語(yǔ)言模型是在廣泛的文本語(yǔ)料庫(kù)上訓(xùn)練的，這些文本包括公開(kāi)可用的、許可的內(nèi)容以及由人工審閱生成的內(nèi)容。

Open AI不會(huì)使用數(shù)據(jù)來(lái)銷(xiāo)售服務(wù)、做廣告或建立人們的檔案——會(huì)通過(guò)使用數(shù)據(jù)使大語(yǔ)言模型對(duì)人們更有幫助。例如，ChatGPT 通過(guò)與人類(lèi)之間進(jìn)行的對(duì)話，以進(jìn)一步培訓(xùn)和改善產(chǎn)品。

圖片來(lái)源：Open AI公司官網(wǎng)

ChatGPT恢復(fù)Plus訂閱服務(wù)

4月5日，ChatGPT官網(wǎng)宣布，由于需求量過(guò)大，暫停Plus付費(fèi)項(xiàng)目的購(gòu)買(mǎi)。

這一情況在社交平臺(tái)Reddit上引起討論，有網(wǎng)友表示因?yàn)樾枨筮^(guò)高而關(guān)閉付費(fèi)服務(wù)“一點(diǎn)也不奇怪，（和ChatGPT對(duì)話時(shí)）10%-15%的回復(fù)會(huì)出現(xiàn)網(wǎng)絡(luò)錯(cuò)誤情況，且回應(yīng)速度比以前至少慢了2倍”。

也有不少網(wǎng)友將這一情況歸咎為OpenAI人手不足。此前1月，該公司的首席執(zhí)行官Sam Altman曾在推特上表示，該公司的總?cè)藬?shù)為375人，遠(yuǎn)遠(yuǎn)小于大型科技公司的員工數(shù)量。

《科創(chuàng)板日?qǐng)?bào)》今早實(shí)測(cè)發(fā)現(xiàn)，OpenAI的ChatGPT已經(jīng)恢復(fù)了Plus訂閱服務(wù)，并可進(jìn)入付費(fèi)環(huán)節(jié)。

ChatGPT風(fēng)險(xiǎn)引發(fā)多國(guó)警惕！千人聯(lián)名呼吁暫停

繼意大利宣布禁用ChatGPT后，多國(guó)政府和企業(yè)開(kāi)始調(diào)查或采取措施限制使用該軟件。據(jù)加拿大廣播公司（CBC）4日?qǐng)?bào)道，加拿大聯(lián)邦隱私監(jiān)管機(jī)構(gòu)宣布，已經(jīng)對(duì)開(kāi)發(fā)ChatGPT的美國(guó)公司OpenAI展開(kāi)調(diào)查，因?yàn)樵摴旧嫦?ldquo;未經(jīng)同意收集、使用和披露個(gè)人信息”。報(bào)道同時(shí)提到，美國(guó)總統(tǒng)拜登及其科技顧問(wèn)委員會(huì)在4日舉行的會(huì)議上也討論了人工智能的“風(fēng)險(xiǎn)和機(jī)遇”。英國(guó)《衛(wèi)報(bào)》4日稱(chēng)，英國(guó)信息專(zhuān)員辦公室已經(jīng)向科技公司發(fā)出警告，不要使用個(gè)人信息來(lái)開(kāi)發(fā)聊天機(jī)器人。英國(guó)信息專(zhuān)員辦公室技術(shù)和創(chuàng)新總監(jiān)阿爾蒙德表示，類(lèi)似ChatGPT的生成式人工智能“如果被不負(fù)責(zé)任地使用，有可能對(duì)數(shù)據(jù)隱私構(gòu)成風(fēng)險(xiǎn)”。

據(jù)第一財(cái)經(jīng)，上周，包括OpenAI共同創(chuàng)始人馬斯克在內(nèi)的上千名科技領(lǐng)袖通過(guò)非營(yíng)利組織未來(lái)生命研究所（FLI），簽署一份聯(lián)名信，呼吁OpenAI暫停對(duì)GPT的訓(xùn)練，理由是對(duì)社會(huì)的潛在風(fēng)險(xiǎn)。這份聯(lián)名信引用了包括OpenAI、谷歌及其子公司DeepMind等機(jī)構(gòu)的12項(xiàng)研究。

不過(guò)這份聯(lián)名信已經(jīng)引發(fā)了激烈的爭(zhēng)辯。一些人工智能權(quán)威人士認(rèn)為，人工智能的威脅被夸大了。

清華大學(xué)智能產(chǎn)業(yè)研究院首席研究員聶再清對(duì)第一財(cái)經(jīng)記者表示：“我認(rèn)為GPT-4主要還是人類(lèi)助手和提升效率的工具，而且是完全在人類(lèi)的控制下工作的，暫停6個(gè)月的訓(xùn)練這一要求過(guò)于一刀切了。”

ChatGPT概念股集體重挫

4月6日，AI應(yīng)用端相關(guān)板塊陷入調(diào)整，ChatGPT概念股領(lǐng)跌，截至午盤(pán)，中文在線跌超8%，鴻博股份跌超7%、海天瑞聲跌超6%。

每日經(jīng)濟(jì)新聞綜合Open AI官網(wǎng)、科創(chuàng)板日?qǐng)?bào)、澎湃新聞、公開(kāi)資料

免責(zé)聲明：本文內(nèi)容與數(shù)據(jù)僅供參考，不構(gòu)成投資建議，使用前請(qǐng)核實(shí)。據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。

封面圖片來(lái)源：視覺(jué)中國(guó)-VCG111421680440