AI Agent 釣魚

俄羅斯駭客利用 AI 工具越獄 Google Gemini 安全機制，自動化生成內容並建立殭屍網路，進而竊取用戶憑證從事詐騙活動。此手法結合了 AI 技術與網路攻擊，對個資安全構成嚴重威脅。

研究團隊揭露名為 MemGhost 的攻擊框架，可透過單封電子郵件誘使具備長期記憶的 AI 代理將假資訊寫入其持續性狀態。此攻擊能在當次回覆中隱瞞記憶被修改的事實，導致使用者日後查詢時載入受污染記憶，進而執行錯誤行為或提供錯誤資訊。

攻擊者將提示注入指令隱藏在 PNG 圖片中，利用具備影像理解能力的 AI 程式開發代理讀取圖片，進而誘導其讀取並洩漏環境變數設定檔等機密資訊。此手法避開了傳統僅檢查文字差異的程式碼審查工具，對開發環境構成嚴重威脅。

駭客透過在Reddit等平台植入惡意內容，誤導AI研究代理將虛構產品或投資標的納入報告，進而誘騙受害者。此手法利用AI對網路資訊的依賴，製造看似可信的投資建議以進行詐騙。

攻擊者利用看似無害的 GitHub 倉庫，誘騙 AI 編碼工具自動克隆並執行隱藏的惡意負載。此手法能規避安全掃描器、AI 代理及人類審查，導致系統被入侵或資料遭竊。