近日，Meta首席AI科學(xué)家楊立昆（Yann LeCun）在一場(chǎng)關(guān)于人工智能發(fā)展的聯(lián)名直播中表示，行業(yè)需要將人工智能科學(xué)和產(chǎn)品之間劃清界限。其指出現(xiàn)在最具爭(zhēng)議的人工智能開(kāi)發(fā)，尤其是OpenAI 的 ChatGPT，代表的是一款產(chǎn)品，而不是基礎(chǔ)科學(xué)研發(fā)。
“當(dāng)我們談?wù)揋PT-4或 OpenAI 目前推出的任何產(chǎn)品時(shí)，我們不是在談?wù)撗邪l(fā)，而是在談?wù)摦a(chǎn)品開(kāi)發(fā)，好嗎？” 楊立昆說(shuō)。“OpenAI 從一個(gè)相對(duì)開(kāi)放的 AI 研究實(shí)驗(yàn)室，轉(zhuǎn)變?yōu)橐患覡I(yíng)利性公司，現(xiàn)在是一種主要為服務(wù)的合同研究實(shí)驗(yàn)室，不再透露任何關(guān)于它們?nèi)绾喂ぷ鞯男畔ⅲ赃@是產(chǎn)品開(kāi)發(fā)，不是研發(fā)。”
楊立昆與人工智能應(yīng)用公司 Landing.ai 的創(chuàng)始人兼首席執(zhí)行官吳恩達(dá)以及人工智能教育機(jī)構(gòu) DeepLearning.ai 舉行了聯(lián)合網(wǎng)絡(luò)直播。兩人提出了他們反對(duì)由未來(lái)生命研究所提出并由多位知名人士簽署的為期六個(gè)月的 AI 測(cè)試暫停的論點(diǎn)。 該提案要求人工智能實(shí)驗(yàn)室暫停至少六個(gè)月訓(xùn)練。比 OpenAI 的GPT-4更強(qiáng)大的人工智能系統(tǒng)，這是幾種所謂的大型語(yǔ)言模型中的最新模型，是 ChatGPT 等人工智能程序的基礎(chǔ)。
楊立昆和吳恩達(dá)都認(rèn)為，延遲對(duì)人工智能的研究是不好的，因?yàn)樗鼤?huì)阻礙進(jìn)展。 “我覺(jué)得，雖然今天的人工智能有一些危害的風(fēng)險(xiǎn)。我認(rèn)為偏見(jiàn)、公平、權(quán)力集中，這些都是真正的問(wèn)題。但它也在創(chuàng)造真正的價(jià)值，為教育、為醫(yī)療保健，這是令人難以置信的令人興奮的價(jià)值很多人都在創(chuàng)造來(lái)幫助其他人，”吳恩達(dá)說(shuō)?！熬拖窠裉斓?GPT-4 一樣令人驚嘆，構(gòu)建比 GPT-4 更好的東西將幫助所有這些應(yīng)用程序幫助很多人，”吳恩達(dá)繼續(xù)說(shuō)道。“因此，暫停這一進(jìn)展似乎會(huì)造成很多傷害，并減緩許多非常有價(jià)值的東西的創(chuàng)造，這些東西可以幫助很多人。”楊立昆對(duì)此表示贊同，同時(shí)強(qiáng)調(diào)了研究與產(chǎn)品開(kāi)發(fā)之間的區(qū)別。 楊立昆說(shuō)：“我對(duì)此的第一反應(yīng)是，呼吁延遲研發(fā)實(shí)質(zhì)上是新一輪的蒙昧主義浪潮?！?nbsp;“為什么要減緩知識(shí)和科學(xué)的進(jìn)步？”
“然后是產(chǎn)品問(wèn)題，”楊立昆繼續(xù)說(shuō)道?！拔彝耆澇蓪?duì)人們手中的產(chǎn)品進(jìn)行監(jiān)管；我不認(rèn)為監(jiān)管研發(fā)有什么意義，我認(rèn)為這除了減少我們可以用來(lái)實(shí)際改進(jìn)技術(shù)的知識(shí)之外沒(méi)有任何目的，更安全?！睏盍⒗ヌ岬?OpenAI 決定通過(guò) GPT-4 大幅限制對(duì)其程序工作原理的披露，在上個(gè)月向世界介紹該程序的正式研究論文中幾乎沒(méi)有提供任何技術(shù)價(jià)值。
“部分原因是，人們對(duì) OpenAI 現(xiàn)在的保密感到不滿(mǎn)，因?yàn)樗麄冊(cè)诋a(chǎn)品中使用的大部分想法都不是來(lái)自他們，”楊立昆說(shuō)?！八鼈兪怯蓙?lái)自谷歌、FAIR [Facebook AI Research] 和其他各種學(xué)術(shù)團(tuán)體等的人發(fā)表的想法，現(xiàn)在它們有點(diǎn)被鎖起來(lái)了?！?nbsp;
在問(wèn)答環(huán)節(jié)中，楊立昆被問(wèn)及為什么他的同行、加拿大 MILA 人工智能研究所所長(zhǎng) Yoshua Bengio 簽署了暫停信。楊立昆回答說(shuō)，Bengio 特別關(guān)注 AI 研究的開(kāi)放性。事實(shí)上，Bengio曾表示，OpenAI 轉(zhuǎn)向保密可能會(huì)對(duì)基礎(chǔ)研究產(chǎn)生寒蟬效應(yīng)。楊立昆說(shuō)，“我同意他的觀點(diǎn)”，即研究需要開(kāi)放?！暗覀儾皇窃谶@里談?wù)撗芯?，我們談?wù)摰氖钱a(chǎn)品。”楊立昆將 OpenAI 的工作描述為僅僅是產(chǎn)品開(kāi)發(fā)，這與之前關(guān)于 OpenAI 沒(méi)有取得實(shí)際科學(xué)突破的言論是一致的。1 月，他表示OpenAI 的 ChatGPT “不是特別有創(chuàng)新性”。
在周五的會(huì)議上，楊立昆預(yù)測(cè)研究的自由流動(dòng)將產(chǎn)生在能力上達(dá)到或超過(guò) GPT-4 的程序。
楊立昆說(shuō)：“這不會(huì)持續(xù)很長(zhǎng)時(shí)間，因?yàn)樵谙鄬?duì)較短的時(shí)間內(nèi)，將會(huì)有許多其他產(chǎn)品具有類(lèi)似的功能，如果不是更好的話(huà)?！薄坝捎跀?shù)據(jù)的飛輪允許他們對(duì)其進(jìn)行調(diào)整，OpenAI 取得了一些進(jìn)步，但這不會(huì)持續(xù)太久?！?/p>
原創(chuàng)文章，作者：蘋(píng)果派，如若轉(zhuǎn)載，請(qǐng)注明出處：http://m.2079x.cn/article/570938.html
