據(jù)媒體援引知情人士的話報道，在OpenAI的奧特曼被罷免之前，幾名公司研究人員向董事會發(fā)出了一封信，警告稱一項強大的人工智能（AI）發(fā)現(xiàn)可能威脅人類。
據(jù)財聯(lián)社報道，消息人士表示，這封此前未被報道的信件和AI算法，是導致OpenAI董事會罷免奧特曼的催化劑。他們稱，董事會對奧特曼的諸多不滿導致后者被解雇，而這封信是原因之一。
據(jù)其中一位消息人士透露，長期擔任OpenAI高管的米拉·穆拉蒂周三告訴員工，一封關(guān)于名為Q*（發(fā)音為Q-Star）的AI突破的信件促使董事會采取了行動。
另一名消息人士表示，OpenAI在Q*上取得了進展，一些內(nèi)部人士認為這可能是該初創(chuàng)公司在超級智能，也被稱為通用人工智能（AGI）領(lǐng)域的突破。OpenAI將AGI定義為比人類更聰明的AI系統(tǒng)。
該消息人士表示，鑒于龐大的計算資源，新模型能夠解決某些數(shù)學問題。雖然Q的數(shù)學成績僅達小學生的水平，但研究人員對Q未來的成功非常樂觀。
據(jù)媒體報道，研究人員認為數(shù)學是生成式人工智能發(fā)展的前沿領(lǐng)域。目前，生成式人工智能擅長通過統(tǒng)計預測下一個單詞來進行寫作和語言翻譯，而同一問題的答案可能會有很大差異。但征服數(shù)學的能力（只有一個正確答案）意味著人工智能將擁有類似于人類智能的更強推理能力。例如，人工智能研究人員認為，這可以應用于新穎的科學研究。
消息人士稱，研究人員在給董事會的信中指出了人工智能的能力和潛在危險，但沒有具體說明信中提到的具體安全問題。
值得注意的是，奧特曼被OpenAI董事會解雇前一天在舊金山出席亞太經(jīng)合組織首席執(zhí)行官峰會時，提到了OpenAI最近取得的一項技術(shù)進步?！霸贠penAI的歷史上已經(jīng)有四次了，最近一次是在過去幾周，當我們推開無知的面紗并向前推進發(fā)現(xiàn)的前沿時，我已經(jīng)在房間里了，能夠做到這一點是一生的職業(yè)榮譽?！彼f。
隨著后來OpenAI陷入混亂，這一神秘言論基本上沒有引起注意。但一位知情人士表示，一些OpenAI員工認為，奧特曼的言論指的是該公司今年早些時候的一項創(chuàng)新，該創(chuàng)新將使他們能夠開發(fā)出更強大的人工智能模型。這項技術(shù)突破由OpenAI首席科學家伊利亞·蘇茨克維（Ilya Sutskever）牽頭，一些員工擔憂OpenAI在將這種先進的人工智能模型商業(yè)化時沒有適當?shù)谋Ｕ洗胧?/p>
馬斯克就有關(guān)于OpenAI在AGI領(lǐng)域新突破的報道置評稱，“極度令人擔憂！”
本文來自投稿，不代表科技訊立場，如若轉(zhuǎn)載，請注明出處：http://m.2079x.cn/article/598368.html
