محدودکردن دسترسی هوش مصنوعی
سیگنال اعلام کرده است که در اندروید و iOS، بهطور پیشفرض از ثبت تصویر صفحه هنگام تلاش برخی دستیارهای هوش مصنوعی برای خواندن محتوای برنامه جلوگیری میکند. این قابلیت برای سیستمهای هوش مصنوعیِ عاملمحور طراحی شده که میتوانند با صفحه و امکانات دستگاه تعامل کنند؛ البته میزان شناسایی و مسدودکردن این دسترسی به نسخه سیستمعامل و توانایی برنامه برای تشخیص آن بستگی دارد.
به گفته سیگنال، دستیارهای هوش مصنوعی ممکن است محتوای روی صفحه را اسکن کنند تا به درخواست کاربر پاسخ دهند. در این فرایند، پیامهای خصوصی میتوانند در اختیار همان دستیار قرار بگیرند و احتمال دارد روی دستگاه ذخیره شوند یا به سرورهای دوردست فرستاده شوند. چنین کاری بیرون از کنترل سیگنال انجام میشود و ممکن است حریم خصوصی همه افراد حاضر در گفتوگو را تحتتأثیر قرار دهد.
مردیت ویتاکر، رئیس بنیاد سیگنال، این نوع اتصال هوش مصنوعی به سیستمعاملها را تهدیدی جدی برای حریم خصوصی دانسته است. این شرکت پیشتر نیز در ویندوز ۱۱ قابلیتی مشابه معرفی کرده بود؛ اقدامی که پس از مطرحشدن نگرانیها درباره ابزار Recall مایکروسافت انجام شد. این خبر را Hacker News گزارش کرده است.
قابلیت مفید، اما ناکامل
کاربران میتوانند در تنظیمات سیگنال دسترسی را تغییر دهند: در iOS از مسیر Settings > Privacy > App Security و گزینه Block Siri AI، و در اندروید با گزینه Screen security. خاموشکردن این محافظ ممکن است دستیارهای هوش مصنوعی را در معرض محتوای گفتگو قرار دهد.
سیگنال تأکید میکند که جلوگیری از اسکرینشات همه راههای دسترسی را نمیبندد. برای نمونه، یک عامل هوش مصنوعی ممکن است از طریق فایلهای ذخیرهشده روی دستگاه، اعلانها، ابزارهای دسترسپذیری یا دیگر قابلیتهای سیستمعامل به دادهها برسد. این شرکت میگوید توسعهدهندگان برنامهها ابزار کافی برای محدودکردن چنین دسترسیهایی ندارند و اطلاعات فنی روشنی هم درباره شیوه کار این عاملها در اختیارشان گذاشته نمیشود.
گزارشی از رویترز نشان داده است که عامل هوش مصنوعی Muse متعلق به متا، در یک مورد با استفاده از مجوزهای گسترده سیستمعامل به پیامهای سیگنال دسترسی پیدا کرده است. در رایانه مک، این عامل از قابلیتهای دسترسپذیری و ثبت تصویر صفحه برای دیدن و استخراج متن استفاده کرد؛ در اندروید نیز به اعلانهای دستگاه دسترسی داشت. این نمونه نشان میدهد که مجوزهایی که برای کمک به کاربران در نظر گرفته شدهاند، در صورت اعطای گسترده ممکن است راهی برای دسترسی خودکار به اطلاعات برنامهها شوند.
درخواست از شرکتهای فناوری
سیگنال از اپل و گوگل میخواهد راهی ساده و مستند فراهم کنند تا برنامهها بتوانند دسترسی عاملهای هوش مصنوعی به دادههایشان را محدود کنند؛ از جمله دسترسی به صفحه، فایلها، اعلانها و رابطهای برنامهنویسی. این شرکت همچنین خواستار توضیحات فنی روشنتر درباره نحوه جمعآوری و پردازش دادههاست.
برخی تنظیمات تازه در سیستمعاملها امکان محدودکردن دسترسی دستیارها به برنامهها را فراهم میکنند، اما مسئولیت محافظت از دادهها همچنان به مجوزهایی که کاربر میدهد و امکانات هر دستگاه وابسته است. بنابراین، کاربران بهتر است هنگام راهاندازی دستیارهای هوش مصنوعی، مجوزهای درخواستی را با دقت بررسی کنند.
Originally published by Hacker News



