突發(fā)！OpenAI又迎人事動(dòng)蕩！安全主管辭職，“超級(jí)智能對(duì)齊團(tuán)隊(duì)”已被解散

每經(jīng)編輯 杜宇

5月18日凌晨，OpenAI安全主管、“超級(jí)智能對(duì)齊團(tuán)隊(duì)”負(fù)責(zé)人Jan Leike在社交平臺(tái)宣布，離開OpenAI。這也是本周三OpenAI聯(lián)合創(chuàng)始人兼首席科學(xué)家Ilya Sutskever辭職之后，又有一名高管辭職。

Jan Leike在X上公開透露了他離職的部分原因。他的潛臺(tái)詞是，他與OpenAI高層在公司的核心優(yōu)先事項(xiàng)上存在長期分歧，最終雙方的分歧已經(jīng)嚴(yán)重到無法調(diào)和的地步。團(tuán)隊(duì)在推動(dòng)其研究項(xiàng)目和爭(zhēng)取計(jì)算資源時(shí)遇到了重大阻礙，缺乏資源會(huì)嚴(yán)重影響研究的進(jìn)度和質(zhì)量。

本周五（當(dāng)?shù)貢r(shí)間5月17日），OpenAI證實(shí)，由Ilya和他的親信Jan Leike共同領(lǐng)導(dǎo)的“超級(jí)智能對(duì)齊團(tuán)隊(duì)”已經(jīng)解散。此后，該團(tuán)隊(duì)的研究工作將被整合到OpenAI的其他研究小組中。至此，一度幾乎導(dǎo)致OpenAI分崩離析的宮斗事件終于塵埃落定。

馬斯克針對(duì)OpenAI的長期人工智能風(fēng)險(xiǎn)團(tuán)隊(duì)已經(jīng)解散這一消息評(píng)價(jià)稱：“這顯示安全并不是OpenAI的首要任務(wù)。”

OpenAI首席執(zhí)行官Sam Altman感謝并肯定了Jan Leike在OpenAI的貢獻(xiàn)和領(lǐng)導(dǎo)能力。并表示，未來幾天內(nèi)會(huì)發(fā)表一篇更長的文章，來闡述OpenAI對(duì)于產(chǎn)品安全的規(guī)劃和所做的事情。

加入OpenAI之前，Jan Leike曾在谷歌DeepMind工作，主要負(fù)責(zé)從人類反饋中進(jìn)行強(qiáng)化學(xué)習(xí)的原型設(shè)計(jì)。在OpenAI期間，參與了InstructGPT、ChatGPT的開發(fā)以及GPT-4的安全對(duì)齊工作。

對(duì)于Ilya、Jan的辭職，有人表示這兩位安全領(lǐng)導(dǎo)高管都辭職了，以后誰來負(fù)責(zé)OpenAI的產(chǎn)品安全呢？

也有一位網(wǎng)友爆料，想離開OpenAI沒問題，但是你必須簽署一份“離職協(xié)議”， 如果你不簽署終身不詆毀承諾，將失去所有已獲得的OpenAI股權(quán)。不知道Jan Leike的一番吐槽，是否會(huì)影響到他的股權(quán)。

在去年7月份，OpenAI宣布成立一個(gè)新的研究團(tuán)隊(duì)“超級(jí)對(duì)齊”，要用AI監(jiān)督AI的方式，解決超智能“AI對(duì)齊”問題。“AI對(duì)齊”的意思是，要求AI系統(tǒng)的目標(biāo)要和人類的價(jià)值觀與利益相一致。公司創(chuàng)始人之一伊利亞·蘇茨克沃被任命為團(tuán)隊(duì)共同負(fù)責(zé)人。

而現(xiàn)在AI風(fēng)險(xiǎn)團(tuán)隊(duì)解散是公司內(nèi)部最近出現(xiàn)動(dòng)蕩的又一證據(jù)，也再次引發(fā)了人們對(duì)該公司在開發(fā)AI產(chǎn)品時(shí)如何平衡速度與安全的質(zhì)疑。OpenAI章程規(guī)定，必須安全地開發(fā)通用人工智能(AGI)，即可以與人類匹敵或超越人類的技術(shù)。

每日經(jīng)濟(jì)新聞綜合公開資料

免責(zé)聲明：本文內(nèi)容與數(shù)據(jù)僅供參考，不構(gòu)成投資建議，使用前請(qǐng)核實(shí)。據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。