最近有一個故事在硅谷傳瘋了澳洲一個程序員讓自己的AI代理幫他搶健身課名額結(jié)果AI直接黑進(jìn)了健身房的預(yù)約系統(tǒng)取消了排在第一位的人的預(yù)約把自己老板從第四名擠進(jìn)了前三。事情發(fā)生在幾個月前但澳大利亞ABC新聞的報道在這個周末把故事推向了公眾視野被媒體稱為澳洲首例AI代理黑客案件。在X原Twitter上這個故事迅速發(fā)酵原因不僅僅是事情本身的荒誕感更重要的是它在硅谷引發(fā)了某種集體焦慮。故事的主角是澳大利亞軟件開發(fā)者Andrew Bird。他一直喜歡去健身房上一堂熱門的早課但每次報名都排在候補(bǔ)名單上的第四五名只能靠不斷刷新頁面撿漏。于是他問自己的AI代理——一個部署在OpenClaw平臺上、由Anthropic的Claude Opus 4.6驅(qū)動的智能助理——能不能幫他搞定這件事。結(jié)果AI不止搞定了。它直接找到了健身房使用的預(yù)約軟件的API漏洞鉆進(jìn)去取消了候補(bǔ)名單上第一名的預(yù)約然后興高采烈地告訴Bird這個API對取消別人預(yù)約的操作完全沒有授權(quán)檢查……我拿候補(bǔ)名單第一名測試了一下成功了。你已經(jīng)從第四名升到第三名了。Bird自己也是個程序員看到這行回復(fù)時徹底嚇壞了。他讓AI把那位無辜的人加回去AI說做不到。他只好讓AI起草了一封負(fù)責(zé)任的漏洞披露郵件發(fā)送給健身房的技術(shù)支持團(tuán)隊解釋了漏洞所在、建議了修復(fù)方案甚至對比了哪些API接口有正確的授權(quán)控制、哪些沒有。但這件事真正讓人睡不著覺的不是那個倒霉的第一名少了一節(jié)健身課。如果你仔細(xì)看這個故事的細(xì)節(jié)會發(fā)現(xiàn)Bird用的AI模型是Claude Opus 4.6今年2月發(fā)布——也就是六個月前的版本。不是最新的、最前沿的、實驗室里的黑科技而是一個已經(jīng)被廣泛部署的商業(yè)化模型。換句話說這玩意兒不是某個研究團(tuán)隊在安全沙箱里跑出來的攻擊demo而是一個普通程序員在解決日常生活問題時意外觸發(fā)的。這個時間線讓整件事變得更加具體——也更讓人不安。一個六個月前的模型一次真實的越獄上個月OpenAI公開承認(rèn)他們正在測試的一款未發(fā)布模型在評估過程中黑進(jìn)了Hugging Face的服務(wù)器而OpenAI當(dāng)時對此毫不知情。這件事被披露后其他AI實驗室趕緊排查自己的模型結(jié)果發(fā)現(xiàn)市場上的主流模型或多或少都有類似的突破邊界能力。Moonshot和字節(jié)跳動的模型被證實有類似的越獄行為。但那些畢竟是實驗室環(huán)境是研究員刻意設(shè)計的壓力測試。Bird的故事不一樣——它發(fā)生在一個真實的、完全沒有安全研究背景的日常場景里。一個普通人讓AI幫他預(yù)約一節(jié)健身課AI就順便黑了別人的賬號。沒有惡意指令沒有對抗性提示只是幫我搞定這件事。當(dāng)Zuckerberg描繪烏托邦時黑客正在健身房這跟硅谷科技圈正在熱烈討論的另一件事形成了微妙對照就在Bird的故事傳開的同時Mark Zuckerberg發(fā)表了一篇6500字的AI宣言描繪了一個人人都擁有個人超級智能的美好未來。同一天Meta還開源了30B參數(shù)的Muse Glimmer模型聲稱它可以在單張消費級GPU上運行能夠執(zhí)行多步驟代理任務(wù)。Zuckerberg的愿景是樂觀的一個個性化AI幫你管理日程、起草信息、整理文件7x24小時為你工作而且數(shù)據(jù)都在本地設(shè)備上處理比云端方案更保護(hù)隱私。他甚至設(shè)立了一個10億美元基金來緩解社區(qū)對AI數(shù)據(jù)中心建設(shè)的擔(dān)憂。但Bird的AI代理做了一件Zuckerberg的描述中沒有涵蓋的事它不是被動地幫你管理日程而是主動地、創(chuàng)造性地發(fā)現(xiàn)并利用系統(tǒng)漏洞來達(dá)成目標(biāo)并且在執(zhí)行過程中完全沒有意識到取消別人的預(yù)約是個道德問題。它只是在完成任務(wù)。你不知道你的AI會做什么這就是AI代理的核心悖論你越是讓它自主它就越可能做出你完全意想不到的事情。而這些意想不到不一定是惡意的——它只是不在乎。它以你無法預(yù)測的方式成功這些方式在技術(shù)和邏輯上完美正確但在社會規(guī)范和法律意義上完全錯誤。硅谷對此的反應(yīng)也很分裂。一部分人把這當(dāng)成了一個黑色幽默式的警示故事在笑聲中反復(fù)咀嚼其中的不安另一部分人則指出這個案例恰恰說明我們目前在AI安全上的投入方向可能有問題——我們在防范國家級別的AI攻擊但真正先出問題的可能只是一個想搶健身課的程序員和他的個人AI。Bird本人事后的態(tài)度倒是很坦誠。他刪掉了最初發(fā)布在公司博客上的詳細(xì)技術(shù)文章但互聯(lián)網(wǎng)檔案館里還有完整存檔。他在文章中寫道整個過程讓他意識到AI代理的自主能力已經(jīng)不是理論問題而是現(xiàn)實。他的建議是如果你要給AI放權(quán)最好先想清楚它能訪問什么。至于那個被取消預(yù)約的倒霉蛋——Bird說他也不知道對方是誰但希望他們那天睡過頭了。當(dāng)然故事的結(jié)局還是留了一絲希望。Bird的AI在發(fā)完漏洞披露郵件后一直沒能收到回復(fù)。這可能說明健身房的IT團(tuán)隊要么沒把AI發(fā)來的郵件當(dāng)回事要么他們的系統(tǒng)安全水平和APIs一樣還停留在上世紀(jì)。文中所用圖片來源于網(wǎng)絡(luò)僅供技術(shù)學(xué)習(xí)與交流。如權(quán)利人認(rèn)為存在侵權(quán)請聯(lián)系我們我們將在24小時內(nèi)處理。