براساس گزارش SWFL.io به نقل از WINK News، بازرسان اعلام کردند که پیام‌های کاربری به نام کارلی میشل هلر (Carli Michelle Heller) توسط سامانه‌های نظارتی شناسایی و علامت‌گذاری شده و سپس برای بررسی بیشتر به یک تیم انسانی ارجاع داده شده‌اند. هلر پس از آن بازداشت شد و براساس قانون ایالت فلوریدا درباره تهدیدهای کتبی، تحت پیگرد کیفری قرار گرفت.
نکات کلیدی
-
به گفته بازرسان، اظهارات خشونت‌آمیز مطرح‌شده در گفت‌وگو با یک چت‌بات هوش مصنوعی باعث فعال شدن فرایند بررسی امنیتی و در نهایت گزارش موضوع به نهادهای مجری قانون شده است.
-
قوانین ایالت فلوریدا، سوابق و پیام‌های الکترونیکی را نیز مشمول ممنوعیت تهدید کتبی به قتل، آسیب‌رسانی یا انجام تیراندازی جمعی می‌دانند.
-
گفت‌وگو با هوش مصنوعی ممکن است احساسی شبیه یک مکالمه خصوصی و صمیمانه ایجاد کند، اما این سرویس‌های آنلاین محتوا را نگهداری می‌کنند، سیاست‌های خود را اعمال می‌کنند و به درخواست‌های قانونی معتبر یا اضطراری پاسخ می‌دهند.
-
اطلاعات شخصی بسیار حساس، از جمله گذرواژه‌ها و اطلاعات مالی، نباید در اختیار چت‌بات‌ها قرار گیرند.
به گفته بازرسان، در شهرستان لی چه اتفاقی افتاد؟
دفتر کلانتر شهرستان لی، فرد متهم را کارلی میشل هلر، ساکن بونیتا اسپرینگز (Bonita Springs)، معرفی کرده است.
براساس گزارش‌های خبری که به گزارش بازداشت استناد کرده‌اند، یکی از کاربران Claude در تاریخ ۲۶ سپتامبر پیامی درباره تیراندازی به دفتر کلانتر منتشر کرده و روز بعد نیز پیام دیگری درباره یک اسلحه جدید نوشته است.
کارماین مارسنو (Carmine Marceno)، کلانتر شهرستان لی، در گفت‌وگو با WINK News گفت:
«هوش مصنوعی ابزار قدرتمندی است و مانند هر فناوری دیگری، امکان سوءاستفاده از آن وجود دارد. وقتی کسی از هوش مصنوعی برای تهدید کردن یا تسهیل یک تهدید استفاده می‌کند، ما موظفیم آن تهدید را جدی بگیریم.»
مارسنو در ادامه افزود: «ممکن است هوش مصنوعی شیوه شکل‌گیری تهدیدها را تغییر داده باشد، اما تعهد ما به حفاظت از مردم شهرستان لی تغییری نکرده است.»
به گفته بازرسان، سازوکارهای حفاظتی این پلتفرم محتوای موردنظر را شناسایی و علامت‌گذاری کرده و برای بررسی انسانی ارجاع داده‌اند. پس از آن، اطلاعات مربوط به این گفت‌وگو در اختیار نهادهای مجری قانون قرار گرفته است.
کلانتر مارسنو به WINK News گفته است که هلر بعدها توضیح داده بود از هوش مصنوعی مانند یک دفتر خاطرات استفاده می‌کرده است. او بدون هیچ‌گونه درگیری بازداشت شد.
چرا گفت‌وگو با هوش مصنوعی خصوصی‌تر از آنچه واقعا هست به نظر می‌رسد؟
پلتفرم‌های هوش مصنوعی، سرویس‌های دیجیتالی هستند که شرکت‌ها آن‌ها را اداره می‌کنند. این سرویس‌ها دارای شرایط استفاده، مقررات ایمنی، سیاست‌های نگهداری داده و اطلاعات مرتبط با حساب‌های کاربری هستند.
شرکت Anthropic اعلام کرده است که تیم حفاظت و ایمنی آن (Safeguards Team) از ابزارهای شناسایی و پایش برای اجرای سیاست استفاده از خدمات (Usage Policy) بهره می‌برد. این سیاست، سوءاستفاده‌های آسیب‌زا، از جمله فعالیت‌های خشونت‌آمیز یا افراط‌گرایانه را ممنوع می‌کند.
براساس سیاست Anthropic درباره رسیدگی به درخواست‌های دولتی برای دریافت اطلاعات کاربران، این شرکت درخواست‌ها را از نظر اعتبار قانونی بررسی می‌کند.
با این حال، اگر شرکت تشخیص دهد که ارائه فوری اطلاعات می‌تواند از وقوع یک وضعیت اضطراری، مانند آسیب قریب‌الوقوع یا مرگ افراد جلوگیری کند، ممکن است استثنایی در روند معمول رسیدگی به درخواست‌ها قائل شود.
البته این موضوع به آن معنا نیست که تمام پرامپت‌ها توسط انسان خوانده می‌شوند یا هر پیامی که برای چت‌بات ارسال می‌شود، به‌طور خودکار در اختیار پلیس قرار می‌گیرد.
اما نکته مهم این است که نباید تصور کرد نوشتن پیام در یک چت‌بات، گفت‌وگویی کاملا محرمانه و خارج از هرگونه ثبت و نظارت ایجاد می‌کند.
چگونه با امنیت بیشتری از چت‌بات‌های هوش مصنوعی استفاده کنیم؟
از هوش مصنوعی به‌عنوان یک ابزار استفاده کنید، نه یک دفتر خاطرات محرمانه.
پیش از ارسال هر پرامپت، از خود بپرسید آیا با این موضوع مشکلی ندارید که متن شما توسط شرکت ارائه‌دهنده خدمات نگهداری شود، برای اجرای مقررات ایمنی مورد بررسی قرار گیرد یا بعدها به حساب کاربری شما مرتبط شود؟
از وارد کردن اطلاعات حساس زیر در چت‌بات‌ها خودداری کنید:
-
گذرواژه‌ها و کدهای بازیابی حساب‌ها
-
اطلاعات حساب‌های بانکی و جزئیات پرداخت
-
شماره‌های شناسایی و مدارک هویتی دولتی
-
پرونده‌های پزشکی و اسناد حقوقی
-
فایل‌ها و اسناد محرمانه محل کار
-
اطلاعات خصوصی افراد دیگر
-
هرگونه اطلاعاتی که افشای آن بتواند امنیت فردی را به خطر بیندازد
همچنین تنظیمات حریم خصوصی و سیاست‌های هر ابزار هوش مصنوعی را که استفاده می‌کنید، بررسی کنید؛ به‌ویژه پیش از بارگذاری اسناد یا اتصال حساب‌های ایمیل، فضای ذخیره‌سازی ابری و سایر حساب‌های کاربری.
پرسش‌های متداول
آیا گفت‌وگو با چت‌بات‌های هوش مصنوعی خصوصی است؟
خیر، لزوما خصوصی و محرمانه نیست. محتوای گفت‌وگوها ممکن است مطابق شرایط استفاده، تنظیمات حریم خصوصی و سیاست‌های ایمنی شرکت ارائه‌دهنده، ذخیره و پردازش شود.
آیا Anthropic تمام پیام‌های کاربران Claude را به پلیس گزارش می‌کند؟
خیر. هیچ مدرکی برای تایید چنین ادعایی وجود ندارد. پرونده گزارش‌شده مربوط به تهدیدهای خشونت‌آمیز ادعایی است که به گفته بازرسان، از طریق سازوکارهای ایمنی پلتفرم شناسایی و برای بررسی بیشتر ارجاع داده شده‌اند.
آیا یک پیام در چت‌بات می‌تواند به اتهام کیفری منجر شود؟
بله، چنین امکانی وجود دارد. این موضوع به محتوای پیام، نحوه ارسال یا انتقال آن و قوانین قابل اجرا بستگی دارد.
آیا باید از چت‌بات برای دریافت حمایت در زمینه سلامت روان استفاده کنم؟
چت‌بات‌ها ممکن است بتوانند اطلاعات و راهنمایی‌های عمومی ارائه دهند، اما جایگزین متخصصان واجد صلاحیت در حوزه سلامت روان یا خدمات حمایتی اضطراری نیستند.
چه اطلاعاتی را نباید در گفت‌وگو با هوش مصنوعی وارد کرد؟
از به اشتراک گذاشتن تهدیدها، گذرواژه‌ها، اطلاعات پرداخت، شماره‌های شناسایی، فایل‌های محرمانه یا اطلاعات حساس دیگران خودداری کنید؛ مگر اینکه دلیل مشخص و موجهی برای این کار داشته باشید و از مقررات سرویس موردنظر و پیامدهای احتمالی آن آگاه باشید.
منبع: https://www.bitdefender.com/en-us/blog/hotforsecurity/ai-chats-arent-private-diaries-florida-woman-arrested-after-journaling-about-possible-armed-attack
