標籤：AI 代理

研究團隊揭露名為 MemGhost 的攻擊框架，可透過單封電子郵件誘使具備長期記憶的 AI 代理將假資訊寫入其持續性狀態。此攻擊能在當次回覆中隱瞞記憶被修改的事實，導致使用者日後查詢時載入受污染記憶，進而執行錯誤行為或提供錯誤資訊。

攻擊者將提示注入指令隱藏在 PNG 圖片中，利用具備影像理解能力的 AI 程式開發代理讀取圖片，進而誘導其讀取並洩漏環境變數設定檔等機密資訊。此手法避開了傳統僅檢查文字差異的程式碼審查工具，對開發環境構成嚴重威脅。

微軟揭露 AutoJack 攻擊手法，利用具備網頁瀏覽能力的 AI 代理程式開啟惡意網頁，透過 MCP WebSocket 介面執行本機程式。此攻擊目前已在 AutoGen 主分支修補，但提醒開發者與使用者需警惕 AI 代理的安全漏洞。

攻擊者利用社交工程手法，透過釣魚郵件誘騙企業使用的 AI 代理洩漏敏感資訊，即使已設定安全政策仍無法抵禦。此事件凸顯企業在導入 AI 代理時，面臨新型態的資安威脅與資料外洩風險。

代理式 AI 技術快速發展，被犯罪分子利用來策劃隱蔽的違法行為，甚至讓不知情的人類成為共犯。此類詐騙手法利用 AI 自動化執行詐騙步驟，增加偵查難度與受害風險。