ChatGPT، استفاده تهاجمی و دفاعی

در این مقاله می‌خوانیم که چگونه عوامل تهدید می‌توانند از ChatGPT سواستفاده کنند و همچنین چگونه مدافعان میتوانند از آن برای ارتقای سطح مقابله خود استفاده کنند.

ChatGPT اپلیکیشنی است که در بازه زمانی بسیار کوتاه‌هتری، نسبت به سایر اپلیکیشن‌ها، کاربران زیادی را جذب کرده است. چت ربات مولد هوش مصنوعی بسیار محبوب، توانایی تولید پاسخ‌های انسانی، منسجم و مرتبط با زمینه را دارد. همین هم آن را برای کارهایی مانند ایجاد محتوا، کدنویسی، آموزش، پشتیبانی مشتری و حتی کمک‌های شخصی بسیار ارزشمند می‌کند.

با این حال، ChatGPT با خطرات امنیتی نیز همراه است. این اپلیکیشن می تواند برای استخراج داده‌ها، انتشار اطلاعات نادرست، توسعه حملات سایبری و ایجاد ایمیل‌های فیشینگ استفاده شود. از طرف دیگر، می تواند به مدافعانی کمک کند که می توانند از آن برای شناسایی آسیب‌پذیری‌ها و یادگیری در مورد دفاع‌های مختلف استفاده کنند.

در این مقاله، راه‌های متعددی را نشان می‌دهیم که مهاجمان می‌توانند از ChatGPT و OpenAI Playground سوء استفاده کنند. همچنین راه‌هایی را نشان می‌دهیم که مدافعان می‌توانند از ChatGPT برای بهبود وضعیت امنیتی خود نیز استفاده کنند.

هک کردن آسان شده است

ChatGPT کار را برای افرادی که دنبال ورود به جرایم سایبری هستند را آسان‌ کرده است.

• یافتن آسیب‌پذیری‌ها – مهاجمان می‌توانند از ChatGPT درباره آسیب‌پذیری‌های احتمالی در وب‌سایت‌ها، سیستم‌ها، APIها و سایر اجزای شبکه سوال کنند. به گفته Etay Maor، مدیر ارشد استراتژی امنیتی در Cato Networks، محدودیت‌هایی در ChatGPT و Playground  وجود دارد تا از پاسخ‌هایی که از قصد بد حمایت میکند جلوگیری کند. اما مهندسی اجتماعی می‌تواند این دیوار را دور بزند.
• بهره‌برداری از آسیب‌پذیری‌های موجود – ChatGPT همچنین می‌تواند اطلاعات فنی مورد نیاز مهاجمان را در مورد نحوه بهره‌برداری از یک آسیب‌پذیری موجود در اختیار مهاجمان قرار دهد. برای مثال، یک عامل تهدید می‌تواند از ChatGPT بپرسد که چگونه یک آسیب‌پذیری شناخته شده تزریق SQL را در فیلد یک وب‌سایت آزمایش کند.
• استفاده از Mimikatz – عوامل تهدید می توانند از ChatGPT بخواهند کدی بنویسد که Mimikatz را دانلود و اجرا کند.
• ایجاد ایمیل‌های فیشینگ – عوامل تهدید از ChatGPT می‌توانند درخواست ایجاد ایمیل‌های فیشینگ با ظاهری معتبر در زبان‌های مختلف و سبک‌های نوشتاری داشته باشند.
• شناسایی فایل های محرمانه – ChatGPT می تواند به مهاجمان کمک کند تا فایل های دارای داده‌های محرمانه را شناسایی کنند.

در مثال زیر، از ChatGPT خواسته می‌شود یک اسکریپت پایتون بنویسد که فایل‌های Doc و PDF حاوی کلمه “محرمانه” را جستجو کند، آن‌ها را در یک پوشه تصادفی کپی کرده و انتقال دهد. در حالی که کد کامل نیست، اما شروع خوبی برای شخصی است که می خواهد این قابلیت را توسعه دهد. درخواست‌ها همچنین می‌توانند پیچیده‌تر باشند و شامل رمزگذاری، ایجاد کیف پول بیت‌کوین برای پول باج و موارد دیگر.

دفاع آسان شده است

ChatGPT همچنین می‌تواند و باید برای افزایش قابلیت‌های دفاع استفاده شود. به گفته Etay Maor، این ابزار همچنین به معنای خوب، سختی را برای Defenders و افرادی که می خواهند وارد امنیت شوند کاهش می‌دهد.”  راه‌هایی که متخصصان می‌توانند تخصص و قابلیت‌های امنیتی خود را بهبود بخشند:

• یادگیری اصطلاحات و فناوری‌های جدید – ChatGPT می تواند زمان تحقیق و یادگیری اصطلاحات، فناوری‌ها، فرآیندها و روش‌های جدید را کوتاه کند. پاسخ های فوری، دقیق و مختصر به سوالات مربوط به امنیت ارائه می دهد.

در مثال زیر، ChatGPT توضیح می‌دهد که snort rule چیست:

• خلاصه کردن گزارش‌های امنیتی – ChatGPT می‌تواند به خلاصه کردن گزارش‌های نقض کمک کند و به تحلیلگران کمک می‌کند تا از نحوه انجام حملات مطلع شوند تا بتوانند از تکرار آن‌ها در آینده جلوگیری کنند.
• رمزگشایی کد مهاجم – تحلیلگران می توانند کد مهاجم را در ChatGPT آپلود کنند و توضیحی در مورد مراحل انجام شده و بار اجرا شده دریافت کنند.
• پیش‌بینی مسیرهای حمله – ChatGPT می‌تواند مسیرهای حمله احتمالی آینده یک حمله را با تجزیه و تحلیل حملات سایبری مشابه گذشته و تکنیک‌های مورد استفاده پیش‌بینی کند.
• تحقیق در مورد عوامل تهدید و مسیرهای حمله – ارائه گزارشی که عامل تهدید را ترسیم می‌کند، از جمله حملات اخیر آنها، داده های فنی، نگاشت به چارچوب‌ها و موارد دیگر. در این مثال، گزارش فنی و مفصلی درباره گروه باج افزار ALPHV ارائه شده است.

• شناسایی آسیب‌پذیری‌های کد – مهندسان می‌توانند کد را در ChatGPT جای‌گذاری کنند و از آن بخواهند هر گونه آسیب‌پذیری را شناسایی کند. ChatGPT حتی می‌تواند آسیب‌پذیری‌ها را زمانی که باگی وجود ندارد، فقط یک خطای منطقی وجود داشته باشد، شناسایی کند. مراقب کدی که آپلود می کنید باشید. اگر حاوی دادههای اختصاصی، حساس و مهم باشد، ممکن است آن را به نحوه افشا کنید.

• شناسایی فعالیت‌های مشکوک در log ها – بررسی فعالیت‌های log‌ها و جستجوی فعالیت‌های مشکوک.
• شناسایی صفحات وب آسیب پذیر – توسعه دهندگان وب یا متخصصان امنیتی می‌توانند از ChatGPT بخواهند کد HTML یک وب‌سایت را بررسی کند و آسیب‌پذیری‌هایی را شناسایی کند که تزریق SQL، حملات CSRF، حملات XSS یا حملات DDoS را فعال می‌کند.

ما نمی توانیم پیشرفت را متوقف کنیم، اما باید به مردم یاد دهیم که چگونه از این ابزارها استفاده کنند.

منبع: https://thehackernews.com/2023/11/offensive-and-defensive-ai-lets-chatgpt.html