近日，OpenAI的“超級對齊”團(tuán)隊(duì)在NeurIPS，一年一度的機(jī)器學(xué)習(xí)會議上，展示了他們最新的研究成果。這支團(tuán)隊(duì)由Collin Burns、Pavel Izmailov和Leopold Aschenbrenner領(lǐng)銜，專注于如何控制比人類更聰明的AI系統(tǒng)??。
OpenAI于今年七月成立了這個(gè)團(tuán)隊(duì)，目的是為“超級智能”AI系統(tǒng)——即智能遠(yuǎn)超人類的理論系統(tǒng)——制定引導(dǎo)、監(jiān)管和治理的方法。團(tuán)隊(duì)成員Burns表示，目前他們能夠?qū)R的模型多數(shù)智能水平不及或與人類相當(dāng)，而如何對齊超越人類智能的模型還沒有明確的方法??。
然而，對于OpenAI的技術(shù)是否會在不久的將來或?qū)砣魏螘r(shí)候獲得可能毀滅世界、超越人類智能的能力，一些專家持懷疑態(tài)度。他們認(rèn)為，關(guān)于即將到來的超級智能的說法，可能只是為了轉(zhuǎn)移人們對當(dāng)前AI監(jiān)管問題的注意，如算法偏見和AI的傾向性??。
該團(tuán)隊(duì)目前正在嘗試構(gòu)建適用于未來強(qiáng)大AI系統(tǒng)的治理和控制框架。這不是一個(gè)簡單的任務(wù)，因?yàn)椤俺壷悄堋钡亩x以及特定AI系統(tǒng)是否已經(jīng)達(dá)到這一水平，仍然是熱烈討論的話題。目前，團(tuán)隊(duì)采用的方法是使用一個(gè)較弱、較不復(fù)雜的AI模型（例如GPT-2）來引導(dǎo)一個(gè)更先進(jìn)、更復(fù)雜的模型（例如GPT-4）朝著期望的方向發(fā)展，同時(shí)避免不希望的方向??。
為了推動(dòng)這方面的技術(shù)研究，OpenAI啟動(dòng)了一個(gè)價(jià)值1000萬美元的贈款項(xiàng)目，支持超級智能對齊的技術(shù)研究。這些贈款將為學(xué)術(shù)實(shí)驗(yàn)室、非營利組織、個(gè)人研究者和研究生保留。OpenAI還計(jì)劃在2025年初舉辦一個(gè)有關(guān)超級對齊的學(xué)術(shù)會議，屆時(shí)將分享和推廣超級對齊獎(jiǎng)項(xiàng)的決賽選手的工作??。
通過這篇文章，我們可以看到，OpenAI正在積極探索如何應(yīng)對和控制超級智能AI的挑戰(zhàn)，同時(shí)也在通過贈款項(xiàng)目和會議來促進(jìn)這一領(lǐng)域的研究。這顯示了他們對未來AI技術(shù)發(fā)展方向的前瞻性思考和對潛在風(fēng)險(xiǎn)的重視。
原創(chuàng)文章，作者：cl-t，如若轉(zhuǎn)載，請注明出處：http://m.2079x.cn/article/607062.html
