最近，人工智能發(fā)展的爆炸式增長已經(jīng)引起了人們對錯誤信息、虛假信息、剽竊和機器生成的惡意軟件的擔(dān)憂。生成式人工智能可能會給普通互聯(lián)網(wǎng)用戶的隱私帶來哪些問題？根據(jù)專家的說法，答案主要取決于這些機器人的訓(xùn)練方式以及我們計劃與它們互動的程度。
為了復(fù)制類似人類的交互，AI 聊天機器人接受了大量數(shù)據(jù)的訓(xùn)練，其中很大一部分數(shù)據(jù)來自Common Crawl等存儲庫。顧名思義，Common Crawl 僅通過爬網(wǎng)和抓取開放網(wǎng)絡(luò)就積累了數(shù)年和 PB 級的數(shù)據(jù)。“這些模型正在對互聯(lián)網(wǎng)上公開可用數(shù)據(jù)的大型數(shù)據(jù)集進行訓(xùn)練，”斯坦福大學(xué)計算機科學(xué)系博士生、前微軟研究院 AI 研究員 Megha Srivastava 說。盡管 ChatGPT 和 Bard 使用他們所謂的 Common Crawl 數(shù)據(jù)的“過濾”部分，但根據(jù) Srivastava 的說法，模型的龐大規(guī)模使得“任何人都不可能通過某種方式查看數(shù)據(jù)并對其進行清理”。
由于您自己的粗心大意或第三方糟糕的安全措施，現(xiàn)在可能會出現(xiàn)在互聯(lián)網(wǎng)的某個偏遠角落。盡管普通用戶可能難以訪問，但信息有可能被抓取到訓(xùn)練集中，并且可能會被聊天機器人反省。機器人吐出某人的實際聯(lián)系信息絕不是理論上的問題。彭博社專欄作家 Dave Lee 在 Twitter 上發(fā)帖稱，當有人要求 ChatGPT 在加密消息平臺 Signal 上聊天時，它提供了他的確切電話號碼。這種交互可能是一種邊緣情況，但這些學(xué)習(xí)模型可以訪問的信息仍然值得考慮?！癘penAI 不太可能想要收集醫(yī)療保健數(shù)據(jù)等特定信息并將其歸因于個人以訓(xùn)練其模型，”安全組織 SANS 研究所的研究員 David Hoelzer 表示。
當我們詢問它采取了哪些措施來保護數(shù)據(jù)隱私，或者它如何處理可能被抓取到其訓(xùn)練集中的個人身份信息時，ChatGPT 背后的公司 Open AI 沒有回應(yīng)。所以我們做了退而求其次的事情，并詢問了 ChatGPT 本身。它告訴我們，它“被編程為遵循保護用戶隱私和個人信息的道德和法律標準”，并且“除非提供給我，否則無法訪問個人信息”。谷歌方面表示，它在 Bard 中編寫了類似的防護欄，以防止在對話期間共享個人身份信息。
有幫助的是，ChatGPT 提出了生成人工智能可能帶來隱私風(fēng)險的第二個主要載體：軟件本身的使用——通過直接在聊天記錄中共享的信息，或者通過服務(wù)在使用過程中捕獲的設(shè)備和用戶信息。OpenAI 的隱私政策引用了它收集的關(guān)于用戶的幾類標準信息，這些信息可能是可識別的，并且在啟動它時，ChatGPT 確實警告說，其 AI 培訓(xùn)師可能會審查對話以改進系統(tǒng)。
與此同時，谷歌的巴德沒有獨立的隱私政策，而是使用其他谷歌產(chǎn)品共享的一攬子隱私文件與巴德的對話不必保存到用戶的谷歌賬戶。其表示，用戶可以通過谷歌刪除對話?！盀榱私⒑途S持用戶信任，他們必須在前端的隱私政策和數(shù)據(jù)保護程序方面非常透明，”弗吉尼亞理工大學(xué)教授兼杰出人文研究員 Rishi Jaitly 表示。
根據(jù)該服務(wù)的常見問題解答頁面，盡管有一個“清晰對話”操作，但按下該操作實際上并不會刪除您的數(shù)據(jù)，OpenAI 也無法刪除特定提示。雖然該公司不鼓勵用戶分享任何敏感信息，但似乎刪除提供給 ChatGPT 的個人身份信息的唯一方法是刪除您的帳戶，該公司表示這將永久刪除所有相關(guān)數(shù)據(jù)。
Hoelzer 表示，他并不擔(dān)心 ChatGPT 會吸收個人對話來學(xué)習(xí)。但該對話數(shù)據(jù)存儲在某個地方，因此其安全性成為一個合理的問題。順便說一下，ChatGPT 在 3 月份曾短暫下線，因為一個編程錯誤泄露了有關(guān)用戶聊天記錄的信息。目前尚不清楚這些 AI 的聊天記錄是否會成為惡意行為者的有價值目標，在他們廣泛部署的初期。
在可預(yù)見的未來，最好以用戶應(yīng)該對待任何其他技術(shù)產(chǎn)品的同樣懷疑來對待這些類型的聊天機器人。Srivastava 表示“使用這些模型的用戶應(yīng)該懷著與模型進行任何交互的期望進入，這對于 Open AI 或任何其他公司來說都是為了他們的利益而使用的公平游戲。”
原創(chuàng)文章，作者：蘋果派，如若轉(zhuǎn)載，請注明出處：http://m.2079x.cn/article/570927.html
