研究揭露LLM新型攻擊手法HalluSquatting，誘使開發助理安裝惡意程式

這種攻擊手法利用AI模型在查找外部資源時容易產生幻覺（Hallucination）的特性，攻擊者搶先註冊這些錯誤名稱的假資源，並植入惡意指令。當開發助理自動拉取這些資源時，便會無意識地執行攻擊者設定的惡意程式，導致系統被入侵或數據被竊取。一般開發者容易在依賴AI自動化工具時，忽視對外部資源來源的嚴格驗證，從而中招。建議開發者應定期更新AI模型的安全設定，並對所有自動拉取的資源進行手動或自動化驗證，避免直接執行未確認的指令。