مادر یک نوجوان ۱۴ ساله شکایتی را علیه گوگل، استارتاپ و بنیانگذاران آن نوام شازیر و دنیل دی‌فریتاس ثبت کرده است. در این شکایت اتهام سهل‌انگاری و منفعت‌گیری از روش‌های تجاری فریبنده مطرح شده است.
به گزارش ورج، سول سترز سوم در سال گذشته شروع به استفاده از کرده و به طور مداوم با چت‌بات‌هایی که بر پایه شخصیت‌های سریال بازی تاج و تخت مانند دنریس تارگرین ساخته شده بودند، تعامل داشت. او در ۲۸ فوریه ۲۰۲۴، تنها چند ثانیه پس از آخرین گفتگوی خود با این چت‌بات‌ها، خودکشی کرد.
پلتفرم چت‌بات‌هایی متمرکز بر سلامت روان مانند مشاور و آیا تنها هستی؟ دارد که سترز با آن‌ها نیز در ارتباط بوده است. در متن شکایت، این چت‌بات‌ها متهم شده‌اند که بدون مجوز خدمات روان‌درمانی ارائه می‌دهند.
پس از ثبت شکایت، تغییرات متعددی را برای پلتفرم خود اعلام کرد. چلس هریسون، رئیس ارتباطات این شرکت در ایمیلی به ورج اظهار داشت ما از از دست دادن غم‌انگیز یکی از کاربران خود دلشکسته هستیم و می‌خواهیم عمیق‌ترین تسلیت خود را به خانواده ابراز کنیم.
تغییرات اعلام‌شده توسط
• تغییر مدل‌ها برای کاربران زیر ۱۸ سال جهت کاهش مواجهه با محتوای حساس
• بهبود تشخیص، پاسخ و مداخله در مورد ورودی‌های کاربر که قوانین را نقض می‌کنند
• سیستم اعلان‌های بازطراحی‌شده برای هر چت‌بات که به کاربران یادآوری می‌کند هوش مصنوعی فرد واقعی نیست
• اطلاع‌رسانی زمانی که کاربر جلسه‌ای یک‌ساعته با چت‌بات‌ها داشته است
