شرکت OpenAI اعلام کرده که چندین حساب کاربری مرتبط با چین را که از ChatGPT برای طراحی تبلیغات و توسعه ابزاری جهت رصد شبکه‌های اجتماعی سوءاستفاده می‌کردند، مسدود نموده است.
بر اساس گزارش رسمی این شرکت، این حساب‌ها از طریق شبکه‌های خصوصی مجازی (VPN) از territorio چین به ChatGPT متصل می‌شدند و به نظر می‌رسید برای یک مشتری دولتی در حال فعالیت بودند. ابزاری که در حال توسعه آن بودند، یک سیستم رصدکننده شبکه‌های اجتماعی توصیف شده که به اپراتورها امکان می‌دهد پلتفرم‌هایی چون X، فیسبوک، اینستاگرام، ردیت، تیک‌تاک و یوتوب را از منظر محتوای مرتبط با قومیت، مذهب یا سیاست تحت نظر بگیرند.
حساب‌های مسدودشده ChatGPT به احتمال زیاد به نهادی دولتی در چین وابسته بوده‌اند
OpenAI تأکید کرده که حساب‌های مسدودشده نتوانسته‌اند از مدل‌های هوش مصنوعی این شرکت برای رصد شبکه‌های اجتماعی بهره‌برداری کنند، اما در عین حال نمی‌تواند به طور قطعی بپذیرد که آیا این ابزار واقعاً توسط نهادهای دولتی چین به کار رفته است یا خیر.
🔗 بیشتر بخوانید: فکر می‌کنید کسی قدرتان را نمی‌داند؟ این ۹ توصیه کمکتان می‌کند
علاوه بر موارد فوق، OpenAI یک حساب دیگر را نیز مسدود کرده که از ChatGPT برای تهیه پیشنهادی در ارتباط با پروژه‌ای مربوط به رصد تحرکات مسلمانان اویغور سوءاستفاده می‌کرده است. به نظر می‌رسد این سیستم برای ردیابی جابه‌جایی اویغورها، تطبیق اطلاعات با سوابق پلیس و صدور هشدارهای زودهنگام درباره انتقالات آن‌ها طراحی شده بوده است. در سال‌های اخیر، سازمان‌های دفاع از حقوق بشر در موارد متعددی دولت چین را به نقض حقوق بشر مسلمانان اویغور متهم کرده‌اند.
گزارش منتشرشده توسط OpenAI جزئیات بیشتری در مورد گروه‌های چینی، روسی و کره‌ای ارائه می‌دهد که ظاهرا در تلاش بوده‌اند از ChatGPT برای گسترش و بهبود بدافزارها، از جمله تروجان‌های دسترسی از راه دور، ابزارهای دزدیدن اطلاعات و نرم‌افزارهایی برای دور زدن فرآیندهای شناسایی در سیستم‌ها سوءاستفاده کنند.
OpenAI همچنین شبکه‌های کلاهبرداری مستقر در کامبوج، میانمار و نیجریه را که سعی در سوءاستفاده از مدل‌های این شرکت داشته‌اند، شناسایی و مختل کرده است.
🔗 بیشتر بخوانید: گوگل از هوش مصنوعی Genie برای تبدیل عکس به بازی رونمایی کرد + ویدیو
