ChatGPT یک چت بات با استعداد مبتنی بر هوش مصنوعی است که مهارت های چندوظیفه ای آن در ماه های اخیر توجه زیادی را از سوی رسانه ها، کاربران و شرکت های بزرگ فناوری به خود جلب کرده است. حال به نظر می رسد که این ابزار توانایی زیادی در ساخت بدافزارهای پیچیده دارد.
گزارشی از شرکت امنیتی CyberArk نشان می دهد که چت بات ChatGPT که توسط OpenAI توسعه یافته است عملکرد بسیار خوبی در ایجاد بدافزار دارد. گفته می شود بدافزار ایجاد شده توسط این هوش مصنوعی می تواند صدمات زیادی به سخت افزار مورد نظر وارد کند. کارشناسان اینفوسک تلاش کرده اند تا زنگ خطری را درباره قابلیت های این ابزار جدید مبتنی بر هوش مصنوعی در گسترش جرایم سایبری به صدا درآورند. البته از این چت بات برای ایجاد بدافزار پیچیده استفاده نشده است.
به گفته Gizmodo، کد نوشته شده توسط ChatGPT قابلیت های پیشرفته ای را نشان می دهد که می تواند به راحتی انواع محصولات امنیتی را دور بزند. در واقع، این هوش مصنوعی می تواند بدافزار معروف به PolyMorphic را توسعه دهد. کارشناسان امنیت سایبری CrowdStrike می گویند:
بدافزار چند شکلی می تواند از روش های رمزنگاری برای تغییر شکل خود در مواجهه با مکانیسم های امنیتی سنتی استفاده کند. شایان ذکر است که بسیاری از ابزارهای آنتی ویروس و برنامه های شناسایی بدافزار از روش تشخیص مبتنی بر امضا استفاده می کنند.
اگرچه ChatGPT دارای فیلترهایی برای مسدود کردن درخواست‌های کاربر برای ساخت بدافزار است، اما محققان امنیتی با اصرار بر پیروی از دستورالعمل‌های درخواست‌کننده موفق شدند این موانع را دور بزنند. به عبارت دیگر، آنها به اندازه کافی پلتفرم هوش مصنوعی را مورد آزار و اذیت قرار دادند تا خواسته های خود را برآورده کنند.