دوشنبه, آذر ۲, ۱۴۰۵

پژوهشگران: درخواست‌های کاربران چند زیرساخت هوش مصنوعی ماه‌ها افشا می‌شد

0
9

پژوهشگران شرکت امنیت صنعتی Dragos می‌گویند مهاجمان برای ماه‌ها به درخواست‌های ارسالی به چند شرکت ارائه‌دهنده زیرساخت اجرای مدل‌های هوش مصنوعی دسترسی داشته‌اند؛ بی‌آنکه این شرکت‌ها متوجه شوند. بخشی از درخواست‌های افشاشده با گزینه «نگهداری صفر داده» فرستاده شده بود؛ قابلیتی که قرار است مانع ذخیره‌شدن پیام‌ها شود. این گزارش را Hacker News بازتاب داده است.

پس از دریافت یافته‌های پژوهشگران، OpenRouter اعلام کرد سه ارائه‌دهنده را از شبکه خود کنار گذاشته، ۱۲۵ نقطه اتصال را از فهرست سازگار با نگهداری صفر داده حذف کرده و به مشتریان احتمالا آسیب‌دیده اطلاع داده است. شرکت می‌گوید سامانه خود OpenRouter نقض نشده است. هنوز روشن نیست ارائه‌دهندگانی که این درگاه حذف کرده همان شرکت‌هایی هستند که Dragos درباره‌شان گزارش داده است.

چطور درخواست‌ها افشا شدند؟

برای ردیابی نشت، پژوهشگران از ژوئیه تا نوامبر حدود دو میلیون درخواست آزمایشی حاوی پیوندها و اطلاعات محرمانه منحصربه‌فرد فرستادند. اگر کسی آن پیوند یا اطلاعات را به کار می‌برد، می‌شد تشخیص داد که پیام را دیده است. در یکی از موارد، کلیدهای آزمایشی AWS ظرف چند ساعت برای بررسی فضای ذخیره‌سازی و جست‌وجوی اطلاعات محرمانه استفاده شدند. حجم بالای درخواست‌های API نشان داد مهاجم برای حفظ دسترسی هم تلاش کرده است.

همه موارد به نفوذ فنی مربوط نبودند. پژوهشگران می‌گویند بعضی فروشندگان در بازارهای میزبانی مدل، درخواست‌ها را ثبت می‌کردند و از این راه به محتوا دسترسی می‌یافتند. در نمونه‌ای دیگر، مسیریابِ یک سرویس بخشی از درخواست‌ها را بی‌اطلاع مشتریان به مقصد دیگری فرستاده بود. گزارش همچنین از پیوندهایی می‌گوید که مدت‌ها پس از ارسال درخواست باز شده‌اند و از اطلاعاتی که ظاهرا به دست انسان‌ها رسیده‌اند.

گزارش ارائه‌دهندگان چه می‌گوید؟

Phala اعلام کرده مهاجم به یک سرور اجرای مدل دسترسی پیدا کرده و می‌توانسته درخواست‌ها را هنگام پردازش ببیند. این شرکت بازه‌ای از درخواست‌های یک مدل را در معرض خطر دانسته و از کاربران خواسته هر کلید، گذرواژه یا راز دیگری را که در آن‌ها بوده تغییر دهند. Together AI نیز گفته فردی غیرمجاز نمونه‌های ذخیره‌شده از پیام‌های مشتریان را دریافت کرده است؛ نمونه‌هایی که برای آزمایش نرم‌افزار گردآوری شده بودند. این شرکت می‌گوید تنظیم نگهداری صفر داده را برای حساب‌های تازه به‌صورت پیش‌فرض فعال کرده است.

Novita هم از پیکربندی نادرستی خبر داده که باعث شده بعضی درخواست‌ها به‌جای مسیر مورد انتظار، به API رسمی سازنده مدل فرستاده شوند. این موارد لزوما به معنای یکسان‌بودن شرکت‌های درگیر نیست و همه ارائه‌دهندگان نیز جزئیات عمومی منتشر نکرده‌اند.

کاربران چه کاری می‌توانند انجام دهند؟

گزینه نگهداری صفر داده به‌تنهایی تضمین نمی‌کند که درخواست در تمام مسیر محرمانه بماند؛ ممکن است داده از ارائه‌دهنده یا مسیریاب دیگری عبور کند. کاربران سازمانی بهتر است مقصدهای درخواست را خودشان انتخاب کنند، سیاست‌های حریم خصوصی هر شرکت را بررسی کنند و از بازارهایی که زنجیره میزبانی‌شان روشن نیست دوری کنند. میزبانی مدل روی زیرساخت خود سازمان، وابستگی به طرف‌های ثالث را کمتر می‌کند.

همچنین بهتر است کلیدها و گذرواژه‌ها در متن ارسالی به مدل قرار نگیرند. ابزارهایی برای حذف الگوهای شناخته‌شده اطلاعات محرمانه می‌توانند کمک کنند، هرچند همه داده‌های حساس را تشخیص نمی‌دهند. برخی سازمان‌ها نیز می‌توانند اطلاعات آزمایشی و بی‌خطر را به‌عنوان نشانه‌گذاری در جریان کاری خود قرار دهند؛ استفاده غیرمنتظره از آن‌ها می‌تواند هشداری برای بررسی نشت باشد.

Originally published by Hacker News

مقاله قبلیاطلاعات مشتریان جی‌پی‌مورگان، ویزا و مسترکارت در رخنه به پیمانکاران افشا شد
مقاله بعدیپژوهشگران: درخواست‌های کاربران چند زیرساخت هوش مصنوعی ماه‌ها افشا می‌شد

نظر بدهید

لطفا نظر خود را بنویسید
لطفا نام خود را اینجا وارد کنید

این سایت از اکیسمت برای کاهش جفنگ استفاده می‌کند. درباره چگونگی پردازش داده‌های دیدگاه خود بیشتر بدانید.