4月6日，OpenAI 對(duì)外宣稱已經(jīng)解決了最近的安全隱私問題。周四其發(fā)布一份安全承諾，并承認(rèn)有改進(jìn)的空間。在近一周的時(shí)間里，包括史蒂夫沃茲尼亞克和埃隆馬斯克在內(nèi)的人工智能專家和行業(yè)領(lǐng)袖發(fā)表了一封公開信，呼吁暫停開發(fā) GPT-4 等模型六個(gè)月，ChatGPT在意大利被徹底禁止，投訴被向聯(lián)邦貿(mào)易委員會(huì)提交了危險(xiǎn)的錯(cuò)誤信息風(fēng)險(xiǎn)。
OpenAI 斷言，它的工作是“確保在我們系統(tǒng)的各個(gè)層面都內(nèi)置安全性。” OpenAI 在發(fā)布 GPT-4 之前花費(fèi)了六個(gè)多月的“嚴(yán)格測(cè)試”，并表示正在研究驗(yàn)證選項(xiàng)以強(qiáng)制執(zhí)行其 18 歲以上的年齡要求。該公司強(qiáng)調(diào)，它不會(huì)出售個(gè)人數(shù)據(jù)，只會(huì)將其用于改進(jìn)其 AI 模型。它還表示愿意與政策制定者合作，并繼續(xù)與 AI 利益相關(guān)者合作，“以創(chuàng)建一個(gè)安全的 AI 生態(tài)系統(tǒng)”。
在安全承諾中，OpenAI 承認(rèn)開發(fā)安全的 LLM 依賴于現(xiàn)實(shí)世界的輸入。它認(rèn)為，從公共輸入中學(xué)習(xí)將使模型更安全，并允許 OpenAI 監(jiān)控濫用情況?！艾F(xiàn)實(shí)世界的使用也讓我們制定了越來(lái)越細(xì)致的政策來(lái)反對(duì)對(duì)人們構(gòu)成真正風(fēng)險(xiǎn)的行為，同時(shí)仍然允許我們技術(shù)的許多有益用途。”
OpenAI 的 隱私政策沒有直接提及其在訓(xùn)練數(shù)據(jù)中使用人們的個(gè)人信息的法律原因，但表示它在“開發(fā)”其服務(wù)時(shí)依賴于“合法利益”。與 GPT-3 不同，OpenAI 沒有公布任何進(jìn)入 ChatGPT 的訓(xùn)練數(shù)據(jù)的細(xì)節(jié)，而 GPT-4被 認(rèn)為要大幾倍。
然而，GPT-4 的技術(shù)文件包括一個(gè)關(guān)于隱私的部分，其中說(shuō)它的訓(xùn)練數(shù)據(jù)可能包括來(lái)自多個(gè)來(lái)源的“公開可用的個(gè)人信息”。該論文稱，OpenAI 采取措施保護(hù)人們的隱私，包括“微調(diào)”模型以阻止人們?cè)儐杺€(gè)人信息，以及“在可行的情況下”從訓(xùn)練數(shù)據(jù)中刪除人們的信息。
OpenAI 承諾“關(guān)于安全方法的細(xì)節(jié)”，但除了保證探索年齡驗(yàn)證之外，大部分公告讀起來(lái)都像是陳詞濫調(diào)。關(guān)于它計(jì)劃如何降低風(fēng)險(xiǎn)、執(zhí)行其政策或與監(jiān)管機(jī)構(gòu)合作的細(xì)節(jié)并不多。
牛津大學(xué)人工智能倫理研究所高級(jí)研究員、數(shù)據(jù)實(shí)踐作者Elizabeth Renieris 表示：“這項(xiàng)技術(shù)的構(gòu)建模塊的基礎(chǔ)已經(jīng)腐爛，我認(rèn)為這將很難治愈。 ” 她指出，許多用于訓(xùn)練機(jī)器學(xué)習(xí)系統(tǒng)的數(shù)據(jù)集已經(jīng)存在多年，而且在將它們放在一起時(shí)可能很少考慮隱私問題。
“數(shù)據(jù)最終如何進(jìn)入 GPT-4 之類的東西，存在這種分層和復(fù)雜的供應(yīng)鏈，”Renieris 說(shuō)。“從來(lái)沒有真正設(shè)計(jì)或默認(rèn)的任何類型的數(shù)據(jù)保護(hù)。” 2022 年，一個(gè)廣泛使用的圖像數(shù)據(jù)庫(kù)的創(chuàng)建者建議對(duì)數(shù)據(jù)集中的人臉圖像進(jìn)行模糊處理，該數(shù)據(jù)庫(kù)已幫助訓(xùn)練 AI 模型達(dá)十年之久 。
原創(chuàng)文章，作者：蘋果派，如若轉(zhuǎn)載，請(qǐng)注明出處：http://m.2079x.cn/article/570850.html
