OpenAI اعلام کرد که چندین تلاش برای سوءاستفاده از مدل‌های هوش مصنوعی‌اش در راستای تهدیدات سایبری و عملیات نفوذ پنهانی را که احتمالاً منشأ آن‌ها از چین بوده، مختل کرده است؛ مسئله‌ای که چالش‌های امنیتی ناشی از قدرت‌یابی فزاینده این فناوری را برجسته می‌کند.
این شرکت که تحت حمایت مالی مایکروسافت قرار دارد، روز پنجشنبه تازه‌ترین گزارش خود درباره استفاده‌های مخرب از هوش مصنوعی را منتشر کرد و اعلام نمود که تیم‌های تحقیقاتی‌اش در سه ماه گذشته از ۲۱ فوریه تاکنون، همچنان در حال شناسایی و مقابله با فعالیت‌های غیرقانونی بوده‌اند.
به گفته OpenAI، اگرچه موارد سوءاستفاده در چندین کشور رخ داده، اما “تعداد قابل‌توجهی” از این نقض‌ها به چین نسبت داده می‌شود؛ به‌طوری‌که چهار مورد از ۱۰ نمونه ذکرشده در این گزارش، احتمالاً منشأ چینی داشته‌اند.
در یکی از این موارد، شرکت اعلام کرد که حساب‌های کاربری چت‌جی‌پی‌تی را مسدود کرده که به ادعای آن، از مدل‌های OpenAI برای تولید پست‌های شبکه‌های اجتماعی در چارچوب یک عملیات نفوذ پنهانی استفاده می‌کرده‌اند. طبق اعلام شرکت، یکی از کاربران در دستوری نوشته بوده که برای دپارتمان تبلیغات دولت چین کار می‌کند؛ با این حال OpenAI تأکید کرد که مدرک مستقلی برای راستی‌آزمایی این ادعا در اختیار ندارد.
لیو پنگ‌یوی، سخنگوی سفارت چین در واشنگتن، در بیانیه‌ای گفت که چین همواره بر اصل توسعه هوش مصنوعی در جهت منافع بشری پایبند بوده و با سرقت، دستکاری، افشا و سایر اشکال جمع‌آوری و استفاده غیرقانونی از اطلاعات شخصی مخالف است.
او گفت: «فضای مجازی بسیار مجازی، دشوار در ردیابی و دارای بازیگران متنوعی است. ما امیدواریم طرف‌های ذی‌ربط با رویکردی حرفه‌ای و مسئولانه برخورد کرده و تحلیل خود از رخدادهای سایبری را بر پایه شواهد کافی استوار کنند، نه حدس و گمان‌ها و اتهامات بی‌اساس.»
خط‌مشی‌های OpenAI استفاده از چت‌بات محبوبش و مدل‌های هوش مصنوعی را برای انجام کلاهبرداری، حملات سایبری یا فریب ممنوع کرده است. این شرکت به‌طور منظم حساب‌های کاربری چت‌جی‌پی‌تی را که ناقض قوانینش باشند، تعلیق می‌کند.
عرضه عمومی چت‌جی‌پی‌تی در اواخر سال ۲۰۲۲ موجی از سرمایه‌گذاری‌ها را از سوی شرکت‌هایی به همراه داشت که روی فناوری‌ای سرمایه‌گذاری می‌کنند که نحوه تحقیق، یادگیری و کار افراد را دگرگون کرده است؛ هرچند رشد قابلیت‌های این ابزارها نگرانی‌هایی را نیز درباره احتمال استفاده از آن‌ها در کلاهبرداری، عملیات نفوذ و سایر فعالیت‌های غیرقانونی برانگیخته است.
OpenAI در نامه‌ای که در ماه مارس به دفتر سیاست علم و فناوری کاخ سفید ارسال کرد، تأکید کرده بود که هوش مصنوعی نیازمند قوانین عقل‌گرایانه برای محافظت از کاربران است و این شرکت متعهد است مانع استفاده رژیم‌های اقتدارگرا از مدل‌هایش برای کسب قدرت، تهدید یا اجبار دولت‌های دیگر، اجرای عملیات نفوذ پنهانی یا فعالیت‌های مخرب سایبری شود.
نیوز کورپ، مالک داو جونز نیوزوایرز و وال استریت ژورنال، دارای مشارکت‌نامه‌ای برای صدور مجوز محتوایی با OpenAI است.
