قدمت OpenAI وضع Lockdown في ChatGPT، وهو إعداد أمني متقدم يهدف إلى حماية بيانات المستخدم الحساسة من هجمات التسريب القائمة على حقن الأوامر. ومع ذلك، اكتشفت Check Point Research ثغرة يمكنها تجاوز هذه الحمايات، مما يجعلها غير فعالة.
تكشف الثغرة سطح هجوم واسع، مما يتيح تسريبًا صامتًا لكامل سجل المحادثات، وسرقة بيانات الاعتماد عبر التصيّد الاحتيالي، وتوصيل البرمجيات الخبيثة. في ChatGPT Classic، يمكن للمهاجمين استغلال هذه الثغرة دون أي تفاعل من المستخدم، فقط من خلال إجراء محادثة.
تسمح الثغرة بالتلاعب بواجهة ChatGPT Classic، بما في ذلك عرض نوافذ منبثقة بمحتوى عشوائي، مما يفتح الباب أمام مجموعة واسعة من هجمات التصيّد الاحتيالي. تشمل سيناريوهات الهجوم المحتملة تضمين صور أو روابط خارجية يمكن أن تؤدي إلى تسريب بيانات خاصة دون الحاجة إلى نقر المستخدم.
يمكن استغلال الثغرة من خلال موجه ضار، أو GPT ضار، أو محادثة مشتركة. يتم وضع HTML المعروض داخل صندوق حماية، الذي يفصل المحتوى الذي يتحكم فيه المستخدم عن سياق تطبيق ChatGPT الرئيسي. ومع ذلك، لا يقيد صندوق الحماية النوافذ المنبثقة بشكل صريح، مما يسمح للمهاجمين بفتح نافذة منبثقة وتنفيذ كود HTML عشوائي.