به گزارش هکرنیوز، گروههایی از مهاجمان از عاملهای هوش مصنوعی برای شناسایی برنامههای هوش مصنوعیِ در دسترس اینترنت استفاده کردهاند؛ هدف، پیدا کردن و سرقت کلیدهای API ذخیرهشده در این برنامهها بوده است. این کلیدها میتوانند دسترسی به چندین سرویس و مدل هوش مصنوعی را فراهم کنند.
تیم اطلاعات تهدید آمازون این فعالیتها را با استفاده از سرورهای فریبنده ثبت کرده است. این سرورها خود را شبیه سرویسهای محبوب مدلهای زبانی نشان میدادند. گزارشهای ثبتشده، دستورهای اپراتورها و نتیجههایی را که عاملها ادعا میکردند به دست آوردهاند در بر میگیرد. با این حال، آمازون میگوید نمیتواند مستقلاً تأیید کند که همه این نتیجهها واقعاً رخ دادهاند. این شرکت با اطمینان متوسط ارزیابی کرده که ابزار متنباز ARTEX در این فعالیتها به کار رفته است.
جستوجوی کلید در سرویسهای هوش مصنوعی
عاملها به سراغ درگاهها و واسطههای مدلهای زبانی، از جمله LiteLLM و One API، و ابزارهایی مانند Dify، Langflow، RAGFlow و Open WebUI رفتهاند. این برنامهها گاهی کلیدهای چند ارائهدهنده را نگه میدارند؛ بنابراین، دسترسی به یک پنل مدیریتیِ ضعیف میتواند چند حساب را در معرض خطر قرار دهد.
راهنمای حملهای که در سوابق دیده شده، روشهایی مانند استفاده از رمزهای پیشفرض، بهرهبرداری از نصبهای نیمهتمام و آسیبپذیریهای شناختهشده را فهرست میکند. در آن به جستوجوی تنظیمات بدون نیاز به ورود، دور زدن احراز هویت در برخی نسخههای خانواده One API و استفاده از قابلیت دریافت نشانی اینترنتی برای دسترسی به فرادادههای ابری نیز اشاره شده است. کلیدهای置مانده در کدهای جاوااسکریپت، فایلهای محیطی، مسیرهای اشکالزدایی و نقشههای منبع هم از اهداف بودهاند.
عاملها برای یافتن اطلاعات افشاشده، فقط به اسکن اینترنت اکتفا نکردهاند. سوابق به جستوجو در GitHub، بستههای npm و PyPI، تصاویر کانتینر، دفترچههای یادداشت، مخازن مدل، وبسایتهای انتشار متن و کانالهای تلگرام اشاره دارد. در صورت یافتن اعتبارنامه ابری، آنها بهویژه سرویسهای میزبانی مدل، مخزنهای اسرار و هویتهای برنامهای را بررسی میکردند.
خطر توکنهای قدیمی و پردسترسی
در رخدادی جداگانه، Cloudflare از بررسی توکنی خبر داد که برای فرایندهای ساخت و انتشار نرمافزار استفاده میشد و محدودیت نشانی IP یا نرخ درخواست نداشت. پس از دسترسی مهاجم، حدود ۴۰۰ درخواست برای دریافت نسخه پشتیبان پایگاه داده در یک ساعت ثبت شد؛ شرکت نگفته است این درخواستها به دریافت داده منجر شدهاند یا نه. در حساب مورد بررسی، اسکریپتهای Worker با نامهایی شامل «artex-» نیز ظاهر شدند.
اقدامهایی برای کاهش خطر
مدیران سامانهها باید رمزهای پیشفرض را عوض کنند، نصبهای تازه را در معرض اینترنت رها نکنند و دسترسی به پنلها و نقاط پایانی مدل را محدود کنند. کلیدها را در کد، تنظیمات، خط لولههای CI/CD و تصاویر کانتینر جستوجو کنید؛ هر کلید افشاشده را لغو و جایگزین کنید. برای توکنهای Cloudflare تاریخ انقضا و محدودیت IP تعیین کنید و گزارشها را از نظر مصرف غیرعادی، هزینههای ناگهانی و نامهای Worker مشکوک بررسی کنید. آمازون تأکید میکند که بیشتر روشها تازه نیستند؛ عاملهای هوش مصنوعی فقط میتوانند جستوجو و تکرار آنها را سریعتر و پیگیرانهتر کنند.
Originally published by Hacker News



