در گزارشی که به تازگی منتشر شده، مرکز امنیت ملی سایبری بریتانیا (NCSC) هشدار داده است که مهاجمان در حال حاضر از هوش مصنوعی استفاده می‌کنند. در نتیجه حجم و تأثیر تهدیدات – از جمله باج افزار – در دو سال آینده افزایش خواهد یافت.
NCSC، که بخشی از GCHQ – آژانس اطلاعات، امنیت و سایبری بریتانیا است، ارزیابی می‌کند که هوش مصنوعی به هکرهای نسبتاً غیر ماهر این امکان را می‌دهد تا با کاهش موانع ورود، دسترسی و عملیات جمع‌آوری اطلاعات موثرتری داشته باشند.
ما چندین دهه کلاهبرداری و حملات سایبری را مشاهده کرده‌ایم، اما کلاهبرداران و سایر مجرمان سایبری اغلب با وجود دستور زبان ضعیف و اشتباهات املایی در ایمیل‌ها و متن‌هایشان همچنان تلاش می‌کنند قربانیان خود را فریب دهند – به خصوص اگر زبان قربانی زبانی نباشد که مهاجم به آن تسلط دارد.
جالب اینجاست که سایر محققان امنیتی این سوال را مطرح کرده‌اند که فناوری هوش مصنوعی فعلی چقدر می‌تواند برای مجرمان سایبری در حملات مفید باشد. در دسامبر ۲۰۲۳، مطالعه‌ای منتشر شد که نشان داد کارایی ایمیل‌های فیشینگ صرف نظر از اینکه توسط یک انسان یا یک ربات چت هوش مصنوعی نوشته شده‌اند، یکسان است.
با این حال، آنچه واضح است این است که ابزارهای هوش مصنوعی در دسترس عموم، تولید متن باورپذیر، تصاویر، صدا و حتی ویدئو‌های جعلی را عملا بسیار ساده کرده‌اند.
علاوه بر این، گزارش NCSC با عنوان «تأثیر نزدیک‌مدت هوش مصنوعی بر تهدید سایبری» هشدار می‌دهد که این فناوری می‌تواند توسط هکرهای مخرب برای شناسایی داده‌های با ارزش برای بررسی و نفوذ استفاده شود و تأثیر نقض‌های امنیتی را به حداکثر برساند.
NCSC معتقد است که تا سال ۲۰۲۵ تکنولوژی Generative AI و مدل های زبان بزرگ (LLM) ارزیابی واقعی بودن درخواست بازنشانی ایمیل یا رمز عبور را با درخواست جعلی و کلاهبرداری مانند فیشینگ یا تلاش‌های مهندسی اجتماعی را سخت و مشکل می‌کند – برای هر کسی بدون درنظر گرفتن سطح درک‌شان از امنیت سایبری.
خوشبختانه، وقتی صحبت از هوش مصنوعی به میان می‌آید، همه خبرها بد نیست. همچنین می‌توان از هوش مصنوعی برای افزایش انعطاف‌پذیری امنیت سازمان از طریق شناسایی بهبودیافته تهدیدهایی مانند ایمیل‌های مخرب و کمپین‌های فیشینگ استفاده کرد که در نهایت مقابله با آنها را آسان‌تر می‌کند. مانند بسیاری از پیشرفت‌های تکنولوژیکی، هوش مصنوعی هم می‌تواند برای اهداف خوب و هم بد استفاده شود.
منبع: https://www.tripwire.com/state-of-security/ncsc-warns-ai-already-being-used-ransomware-gangs
