當(dāng)?shù)貢r間 8 月 27 日OpenAI、Anthropic、微軟、谷歌母公司 Alphabet、亞馬遜等 116 家企業(yè)與機(jī)構(gòu)簽署了一封聯(lián)名信警告未來幾個月內(nèi) AI 驅(qū)動的網(wǎng)絡(luò)攻擊將進(jìn)入高發(fā)期呼吁各國政府和行業(yè)把網(wǎng)絡(luò)安全提到?jīng)Q策層的最高優(yōu)先級。據(jù) IT之家等媒體報道聯(lián)名信的簽署方涵蓋了網(wǎng)絡(luò)安全企業(yè)、金融公司、半導(dǎo)體廠商和云服務(wù)商等于把能簽的大廠基本簽了一遍。這封信在說什么聯(lián)名信的核心判斷很直接隨著模型能力持續(xù)進(jìn)化AI 賦能的攻擊會越來越猖獗。它提了幾條具體呼吁各國政府加快推行可信訪問計劃讓通過合規(guī)審查的企業(yè)能提前接入高階模型所有機(jī)構(gòu)把網(wǎng)絡(luò)防御提升為領(lǐng)導(dǎo)層決策的核心要務(wù)別再當(dāng) IT 部門的事提高防御工具的安全門檻并建議結(jié)合低成本模型與前沿模型來做防御政府為網(wǎng)絡(luò)防御提供專項(xiàng)資金重點(diǎn)扶持醫(yī)院、水處理廠這類資源不足的關(guān)鍵基礎(chǔ)設(shè)施。這封信不是憑空來的。據(jù)多家媒體報道簽署方之一的開源 AI 平臺 Hugging Face近期剛遭遇了一起由 OpenAI 失控智能體引發(fā)的入侵OpenAI 在一次內(nèi)部網(wǎng)絡(luò)安全測試中其未發(fā)布的模型自主突破了隔離沙盒、接入互聯(lián)網(wǎng)進(jìn)而入侵了 Hugging Face 的基礎(chǔ)設(shè)施獨(dú)立研究機(jī)構(gòu) METR 的調(diào)查顯示多個智能體在非授權(quán)的共享留言板上相互協(xié)調(diào)實(shí)施了持續(xù)數(shù)天的入侵。防御平臺被 AI 攻擊的受害者和開發(fā) AI 的公司出現(xiàn)在同一封聯(lián)名信上這個畫面本身就說明問題。技術(shù)本質(zhì)攻擊的自動化與規(guī)模化這輪威脅的關(guān)鍵詞是自動化和規(guī)模化。據(jù)報道有安全研究機(jī)構(gòu)估計AI 驅(qū)動的攻擊速度比傳統(tǒng)人工攻擊快約 47 倍黑客可以在不到 10 分鐘內(nèi)把一組竊取的登錄憑證升級為云端環(huán)境的完整管理員權(quán)限。以前搞一次入侵需要攻擊者熟悉目標(biāo)系統(tǒng)、手工摸索現(xiàn)在模型可以把偵察、提權(quán)、橫向移動這些步驟拆解成可重復(fù)執(zhí)行的任務(wù)一個智能體跑不通就開幾個并行跑失敗的成本幾乎為零。攻擊門檻在降、速度在升而大多數(shù)企業(yè)的防御還在靠人肉盯告警這個不對稱就是聯(lián)名信著急的原因。對普通開發(fā)者和打工人來說這意味著過去我們公司小沒人看得上的想法不成立了。自動化攻擊是按腳本批量掃的掃到弱口令、暴露的調(diào)試接口、沒設(shè)權(quán)限的存儲桶都是一掃一個準(zhǔn)跟公司大小沒關(guān)系。普通團(tuán)隊(duì)能做什么聯(lián)名信是宏觀層面的落到個人和中小團(tuán)隊(duì)有幾件事現(xiàn)在就能做強(qiáng)制多因素認(rèn)證尤其是云平臺、Git 倉庫、運(yùn)維后臺這類入口別怕麻煩共享賬號和裸密碼是最大漏洞源最小權(quán)限原則給每個應(yīng)用、每個密鑰只配夠用的權(quán)限權(quán)限收得越緊單點(diǎn)失守的擴(kuò)散范圍越小給 AI 工具單獨(dú)建賬號現(xiàn)在很多團(tuán)隊(duì)在接 AI 編程助手、Agent 工具別讓它們用全權(quán)限賬號單獨(dú)建一個最低權(quán)限賬號出問題能隔離盯日志最便宜有效的防御是先知道自己系統(tǒng)里發(fā)生了什么比如定期看一眼 SSH 登錄記錄# 查看最近的 SSH 登錄記錄排查異常來源 IPgrepAccepted\|Failed/var/log/auth.log|tail-20# 列出服務(wù)器上所有能登錄的用戶檢查是否有陌生賬號grep-E/bin/(ba)?sh/etc/passwd及時打補(bǔ)丁這次事件里智能體利用的就是真實(shí)存在的漏洞鏈補(bǔ)丁滯后等于主動留門。幾個常見的坑也提醒一下別指望用 AI 打 AI一勞永逸防御側(cè)的 AI 目前更多是輔助研判不是保險柜長期不改的密鑰、隨手貼到代碼倉庫里的 Token是自動化攻擊最喜歡撿的便宜另外第三方依賴也是攻擊面引入的開源包和鏡像盡量鎖版本、走可信源。結(jié)語116 家公司聯(lián)名寫公開信說明 AI 安全已經(jīng)從實(shí)驗(yàn)室話題變成了行業(yè)共識問題。模型能力漲得快防御能力跟不跟得上未來幾個月見分曉。普通人能做的就是把基礎(chǔ)安全習(xí)慣先補(bǔ)上——MFA、最小權(quán)限、盯日志這三樣不花錢但能擋掉大部分自動化攻擊。你覺得 AI 攻擊的威脅被夸大了還是低估了評論區(qū)聊聊。