AI代理安全業者揭露Salesforce Agentforce存在SalesBleed漏洞,攻擊者可透過公開的Web-to-Lead功能提交惡意提示詞。當企業員工使用Agentforce處理這些資料時,會觸發間接提示詞注入,導致內部CRM敏感資料外洩。
🔍 防詐解析
此案例屬於針對AI代理系統的技術型攻擊。攻擊者並非直接入侵系統,而是利用企業公開的客戶資料收集表單,填入藏有惡意指令的提示詞。當企業內部員工或AI代理處理這些看似正常的客戶資料時,惡意指令會被執行,從而竊取或洩漏後端資料庫的敏感資訊。
一般人或企業管理層容易中招的環節在於對「輸入資料」的過度信任,以及對AI代理系統內部運作機制的安全認知不足。攻擊者巧妙地將惡意代碼隱藏在正常的業務流程中,使得防禦變得更加隱蔽且難以察覺,傳統的安全過濾機制可能無法識別這種語意層面的攻擊。
建議企業立即審查並強化所有對外表單的輸入驗證機制,實施嚴格的提示詞過濾與沙箱測試。同時,應對員工進行AI安全培訓,提高對異常AI行為的警覺性,並定期進行滲透測試以發現潛在的提示詞注入漏洞,確保AI代理系統的安全性。
🚩 紅旗特徵
- •利用公開的表單功能(Web-to-Lead)進行攻擊
- •針對AI代理系統的提示詞進行惡意注入
- •無需受害者帳號即可觸發漏洞
關鍵字
SalesforceAgentforceSalesBleed提示詞注入資料外洩AI安全
查看原始報導 ↗(iThome)
