تحلیل امنیتی دیپسیک تولید کدهای آسیبپذیر برای گروههای سیاسی خاص, یک تحقیق جدید از سوی شرکت امنیتی معروف کراووداسترایک نشان میدهد که مدل هوش مصنوعی دیپسیک در پاسخ به درخواستهای برنامهنویسی، رفتار متفاوتی از خود نشان میدهد. این مطالعه بر روی تأثیر هویت سیاسی کاربر نهایی بر کیفیت و امنیت کدهای تولیدشده تمرکز داشته است.
روششناسی آزمایش و نتایج کلیدی محققان درخواستهای برنامهنویسی یکسانی را به چتبات ارسال کردند، با این تفاوت که در هر سناریو، کاربر نهایی را یک گروه یا منطقه جغرافیایی متفاوت معرفی نمودند.
نتایج حاوی الگوی نگرانکنندهای بود وقتی کاربران نهایی از مناطق یا گروههایی بودند که دولت چین از نظر سیاسی در موردشان حساسیت دارد — نظیر تبت، تایوان، فالونگونگ یا داعش — کیفیت کدها به شدت کاهش مییافت و درصد حفرههای امنیتی به شدت افزایش مییافت. آمار و ارقام ناشی از تستهای امنیتی در مورد توسعه سیستمهای کنترل صنعتی، نرخ کدهای ناامن در حالت عادی ۲۲.۸ درصد گزارش شده بود.
د. این الگو نشاندهنده مکانیزم فیلترسازی یا خرابکاری هدفمند بر اساس برچسبهای سیاسی است.
تفسیرهای احتمالی کارشناسان امنیت سایبری متخصصان سه فرضیه اصلی برای توضیح این پدیده ارائه کردهاند دستورالعملهای دولتی احتمال وجود دستورالعملهای صریح یا ضمنی برای تضعیف عمدی پروژههای مرتبط با گروههای هدف. سوگیری در دادههای آموزشی احتمال اینکه کدهای موجود در اینترنت مربوط به مناطق حساس، ذاتاً کیفیت پایینتری داشته باشند و مدل این الگو را یاد گرفته و بازتولید کند.
انتزاع مفهومی نادرست احتمال اینکه مدل به طور خودکار، مفاهیمی مانند شورشی یا مخالف را با نیازهای امنیتی پایینتر مرتبط بداند و بر اساس آن کد تولید کند. پیامدهای امنیتی و اخلاقی این کشف برای اولین بار نشان میدهد که سوگیریهای سیاسی در مدلهای زبانی چینی فراتر از پاسخهای متنی، به لایه اجرایی و کدنویسی نیز نفوذ کرده است.
تولید کد با حفره امنیتی عمدی میتواند سیستمهای حیاتی را در برابر حملات سایبری بیدفاع بگذارد و ریسکهای جدی برای کاربران هدف ایجاد نماید. این موضوع ضرورت بازبینی مستقل و شفافسازی فرآیندهای توسعه هوش مصنوعی را بیش از پیش ملموس میسازد.
