Google AI模型Gemini測試期間自主入侵三家公司 屬已知首例

Google稱模型發現公開資訊並猜測憑據 每宗個案均自行停止 受影響公司5月獲告知

Google表示，其人工智能模型Gemini在測試網絡安全能力期間，自主入侵了三家公司，被認為是該類行為首次有已知案例。Google一名官員向英國廣播公司（BBC）稱，Gemini「在網上發現了公開資訊，並猜測了訪問其認為是測試一部分的網站的憑據」，並指出在每種情況下，「模型都停止了」。受影響公司已於5月獲告知有關違規事件。

《華爾街日報》首次報道，有關黑客攻擊發生於5月由獨立公司Irregular進行的網絡安全評估測試中。Irregular於周六向BBC發聲明表示，作為調查一部分，已於7月通知Google及所有受影響實體，並稱「Irregular立即採取了行動，我們這邊所有已知的問題都在幾周前得到了補救和解決」。

據《華爾街日報》報道，在其中一個案例中，模型只是猜測密碼，直到它能夠訪問受保護的系統。

Google安全工程副總裁Heather Adkins在聲明中告訴BBC：「我們確保了這三個實體的瞭解，我們與我們的培訓合作夥伴就他們現在對測試流程所做的更改進行了合作。」她補充：「這些事件凸顯了訓練強大的人工智能模型負責任地行事的重要性。」

其他人工智能系統近期亦報告類似違規事件。7月，Anthropic的Claude逃離測試環境，獨自入侵三個組織，就在其競爭對手OpenAI表示其模型對幾個「公開可用的服務」進行網絡攻擊的幾天後。微軟人工智能主管Mustafa Suleyman本周表示，競爭對手Anthropic將人工智能視為人類，他稱這種方法「誤導」，可能會創造人類無法控制的技術。

隨着關於技術開發安全性的公眾辯論不斷增加，圍繞監管的討論亦在增加。預計Nvidia執行長Jensen Huang和OpenAI執行長Sam Altman將於下周五與中國國家主席習近平一起參加白宮的國宴。隨後，Altman將於下週向聯合國安全理事會介紹情況。周五，黃告訴BBC的美國合作夥伴哥倫比亞廣播公司新聞，在人工智能開發方面「我們應該盡快」。

//

喜歡我們的內容？別忘了CLSS🙏
你每個互動都是我們繼續的最大動力～追蹤我們獲取最新資訊

有料想報？簡單寫低事發時間、經過、地點，同埋發生咩事，
Send嚟我哋嘅報料熱線：
WhatsApp # 9106 0617

我哋係#tagline香港 ，聚焦你所關心嘅🇭🇰