به گفته شرکت Check Point Software Technologies، یک شرکت امنیت سایبری، تعداد زیادی سودجو به صورت آنلاین به دنبال هک چت بات ChatGPT هستند. این شرکت می‌گوید هکرهای روسی در تلاش هستند تا محدودیت‌های منطقه‌ای در چت ربات هوشمند OpenAI را دور بزنند.
طبق ZDNet، دسترسی به ChatGPT Chatbot API برای ساکنان روسیه معمولا غیرممکن است. موسسه چک پوینت نگفت که چگونه توانسته تلاش هکرها برای دسترسی غیرمجاز به ChatGPT را شناسایی کند. یکی از مدیران چک پوینت می گوید هکرهای روسی صرفاً گروهی از مردم هستند که به دنبال راهی برای نفوذ به ChatGPT هستند: “این ابزار هم توسط افراد خوب و هم افراد بد استفاده می شود.”
مدیر Check Point می گوید هکرها یک سوء استفاده جدید به نام DAN ایجاد کرده اند که می تواند سیستم های امنیتی طراحی شده OpenAI را دور بزند و ChatGPT را مجبور به تولید محتوایی مانند متن های نفرت انگیز کند. OpenAI سیستم های مختلفی را برای اطمینان از سلامت ChatGPT پیاده سازی کرده است.
به گفته محققان امنیتی، تاکنون هیچ آسیب‌پذیری روز صفر در ChatGPT دیده نشده است. محتمل ترین نوع اکسپلویت برای استفاده از قابلیت های ChatGPT «نمونه پیشرفته حملات فیشینگ» است. در تئوری، هکرها می توانند از ChatGPT برای ایجاد متون متقاعدکننده تر استفاده کنند و احتمال حمله فیشینگ موفق را افزایش دهند.