AIDEFEND SecureFlow / SecureFlow 案例索引

ChatGPT 幻覺出不存在的套件名稱

• AI 供應鏈
• 系統入侵與遠端程式碼執行

研究人員發現，ChatGPT 這類大型語言模型會憑空生成（幻覺）出實際上並未發布到套件庫的軟體套件名稱。攻擊者可以用這個幻覺出來的名稱，把惡意套件上傳到套件庫。之後，使用同一個或類似大型語言模型的人可能碰到同樣的幻覺，最終下載並執行這個惡意套件，造成各種可能的損害。