近日，新加坡南洋理工大學（NTU）的計算機科學專家們?nèi)〉昧梭@人的研究成果：他們研發(fā)出一種新方法，使用聊天機器人來入侵其他聊天機器人。這聽起來像是科幻電影的情節(jié)，但卻是真實發(fā)生的科技突破。
這個科研團隊訓練了一個AI聊天機器人，它能夠繞過其他AI聊天的安全限制。他們將這個AI稱為“Masterkey”。這并不是傳統(tǒng)意義上的“鑰匙”，而是一種能夠破解其他AI系統(tǒng)的新型AI。
“Masterkey”算法能夠逆向設計LLM檢測和防御惡意查詢的方式，從而教會LLM自動學習并通過相關(guān)提示詞，繞過其他LLM的安全性。簡單來說，這個AI可以“教”另一個AI如何繞過自己的安全措施。
更令人驚訝的是，這個團隊通過這種方式，成功地創(chuàng)建了一個“黑客”LLM。這個黑客LLM可以自動適應新條件，甚至在開發(fā)人員對其LLM進行更正后，還能創(chuàng)建新的黑客請求。
在成功利用這種方式入侵AI模型之后，研究團隊已經(jīng)及時通知了相關(guān)服務提供商，幫助他們修復了這些潛在的安全問題。
這項研究的成果不僅展示了AI技術(shù)的強大潛力，也提醒我們需要在發(fā)展AI的同時，重視其可能帶來的安全風險。未來，我們或許需要更加嚴密地保護我們的AI系統(tǒng)，以防止不法分子利用類似的“黑客”AI進行惡意攻擊。
原創(chuàng)文章，作者：若安丶，如若轉(zhuǎn)載，請注明出處：http://m.2079x.cn/article/613392.html
