OpenAI被曝取得重大技術突破，或威脅人類！馬斯克：極度令人擔憂

每經(jīng)編輯 王月龍    

盡管隨著山姆·奧特曼重返OpenAI擔任CEO，這場震動科技界的“政變”大戲已經(jīng)宣告落幕。但自始至終，一個謎團一直縈繞在人們心頭：奧特曼究竟為何被解雇？

而現(xiàn)在，隨著越來越多的消息被曝出，奧特曼被解雇的真相正在逐漸浮出水面。

據(jù)媒體援引知情人士的話報道，在奧特曼被罷免之前，幾名公司研究人員向董事會發(fā)出了一封信，警告稱一項強大的人工智能（AI）發(fā)現(xiàn)可能威脅人類。

據(jù)財聯(lián)社報道，消息人士表示，這封此前未被報道的信件和AI算法，是導致OpenAI董事會罷免奧特曼的催化劑。他們稱，董事會對奧特曼的諸多不滿導致后者被解雇，而這封信是原因之一。

據(jù)其中一位消息人士透露，長期擔任OpenAI高管的米拉·穆拉蒂周三告訴員工，一封關于名為Q*（發(fā)音為Q-Star）的AI突破的信件促使董事會采取了行動。

另一名消息人士表示，OpenAI在Q*上取得了進展，一些內部人士認為這可能是該初創(chuàng)公司在超級智能，也被稱為通用人工智能（AGI）領域的突破。OpenAI將AGI定義為比人類更聰明的AI系統(tǒng)。

圖片來源：視覺中國（圖文無關）

該消息人士表示，鑒于龐大的計算資源，新模型能夠解決某些數(shù)學問題。雖然Q*的數(shù)學成績僅達小學生的水平，但研究人員對Q*未來的成功非常樂觀。

據(jù)澎湃新聞，研究人員認為數(shù)學是生成式人工智能發(fā)展的前沿領域。目前，生成式人工智能擅長通過統(tǒng)計預測下一個單詞來進行寫作和語言翻譯，而同一問題的答案可能會有很大差異。但征服數(shù)學的能力（只有一個正確答案）意味著人工智能將擁有類似于人類智能的更強推理能力。例如，人工智能研究人員認為，這可以應用于新穎的科學研究。

消息人士稱，研究人員在給董事會的信中指出了人工智能的能力和潛在危險，但沒有具體說明信中提到的具體安全問題。

值得注意的是，奧特曼被OpenAI董事會解雇前一天在舊金山出席亞太經(jīng)合組織首席執(zhí)行官峰會時，提到了OpenAI最近取得的一項技術進步。“在OpenAI的歷史上已經(jīng)有四次了，最近一次是在過去幾周，當我們推開無知的面紗并向前推進發(fā)現(xiàn)的前沿時，我已經(jīng)在房間里了，能夠做到這一點是一生的職業(yè)榮譽。”他說。

隨著后來OpenAI陷入混亂，這一神秘言論基本上沒有引起注意。但一位知情人士表示，一些OpenAI員工認為，奧特曼的言論指的是該公司今年早些時候的一項創(chuàng)新，該創(chuàng)新將使他們能夠開發(fā)出更強大的人工智能模型。這項技術突破由OpenAI首席科學家伊利亞·蘇茨克維（Ilya Sutskever）牽頭，一些員工擔憂OpenAI在將這種先進的人工智能模型商業(yè)化時沒有適當?shù)谋Ｕ洗胧?/span>

馬斯克就有關于OpenAI在AGI領域新突破的報道置評稱，“極度令人擔憂！”

編輯|王月龍 杜波 蓋源源

校對|程鵬

每日經(jīng)濟新聞綜合自財聯(lián)社、澎湃新聞、公開信息