بررسی گزارش OpenAI شناسایی و متوقف کردن بیش از ۱۰ عملیات مخرب هوش مصنوعی در نوسال ۱۴۰۳, شرکت OpenAI در گزارش تازه خود آشکار کرده که از آغاز سال ۲۰۲۵ تا کنون موفق شده است دستکم ۱۰ کمپین مخرب را که بر پایه سوءاستفاده از چتبات ChatGPT شکل گرفته بودند، شناسایی و منقضی کند. بر اساس این مستند، بازیگران تهدیدی وابسته به دولتهای ایران، روسیه و چین نقش مستقیمی در تدارک و اجرای این عملیات داشتهاند.

جزئیات گزارش مقابله با سوءاستفادههای مخرب از هوش مصنوعی ژوئن ۲۰۲۵ مطابق با گزارش منتشرشده تحت عنوان مقابله با سوءاستفادههای مخرب از هوش مصنوعی ژوئن ۲۰۲۵، بخش قابل توجهی از این فعالیتهای مخرب توسط عوامل دولتی یا گروههای وابسته به امنیتی مختلف صورت گرفته است.

بری چهار مورد از کمپینهای شناساییشده ریشه در چین داشته و شامل مهندسی اجتماعی، حملات سایبری و نفوذ پنهان به فضای مجازی میباشند.

یکی از نمونههای برجسته با نامکد انجام شده است. در این عملیات، یک شبکه کاربری چینی با انتشار نظرات منفی و ساختگی در مورد بازی — که محتوایی ضدحزب کمونیست چین دارد — سعی در اعتبار این اثر کرده است.

تقلال تایوان.

کمپین دخالت روس در انتخابات آلمان در مورد دیگر با نام، عوامل التهیدی روسی از قابلیتهای ChatGPT برای تولید محتوای آلمانی استفاده کردهاند که íهای ایالات متحده و ناتو را هدف قرار میداد. هدف اصلی این گروه، انتشار محتوای متنی مصنوعی در ارتباط با انتخابات سال ۲۰۲۵ آلمان به منظور مهندسی افکار عمومی و تأثیرگذاری بر فرآیند دموکراتیک این کشور بوده است.

نقش احتمالی ایران در ورهای تأثیرگذاری گسترده OpenAI عامل تهدیدی دیگری را شناسایی کرده که با احتمال قوی به ایران مرتبط ارزیابی میشود. این بازیگر توییتهایی به زبانهای اسپانیایی و انگلیسی در موضوعات حساسمانند سیاستهای مهاجرتی آمریکا، استقلال اسکاتلند، اتحاد مجدد ایرلند و مذاکرات هستهای ایران و آمریکا تولید و پراکنده کرده است. این الگو نشاندهنده تلاش برای ایجاد اختلال در گفتگوهای بینالمللی و تشدید قطببندی است.

در یک مورد حیاتی، مهاجمان با کمک ChatGPT فعالان مخالف و وبلاگنویسان را شناسایی کرده و محتوایی ساختند که در آن به هماهنگی برای انتشار مطالب در شبکههای اجتماعی و حتی پرداخت وجه به این افراد برای ترویج روایتی خاص اشاره شده بود. این روش نشاندهنده پیشرفت سطح عملیاتهای تأثیرگذاری از سادهسازی به سمت مدیریت مجتمع دارایی و انسانی است.

شعبه و تلاش برای تشدید شکافهای داخلی آمریکا حسابهای کاربری مرتبط با کمپینی به نام که هدفشان تغییر مسیر الخطاب سیاسی در ایالات متحده بوده، شناسایی و مسدود گردیدند. همچنین، کاربران چینی با ساخت پروفایلهای جعلی، محتوای تفرقهانگیز در باره موضوعات داخلی آمریکا — از جمله تعرفههای تجاری — منتشر میکردند تا برخنجرههای سیاسی را عمیقتر سازند.

حتی صفحات جعلی تحت عنوان انجمنهای حمایتی از بازنشستگان نظامیان آمریکایی ایجاد شده بود تا اعتماد مخاطبان هدف جلب گردد. پیشینه مقابله با گروه هکری چینی OpenAI پیش از این نیز در مواجهه با کمپین فیشینگ گروه هکری چینی که کارکنان این شرکت را هدف قرار داده بودند، اقدام کرده بود. این حملات مخرب با همکاری شرکای امنیتی شناسایی و خنثی شدند که نشاندهنده اهمیت همکاریهای بین در دفاع سایبری است.

هشدار نهایی احتیاط در برابر هویتهای مصنوعی در فضای مجازی OpenAI در پایان گزارش تأکید کرده که هر محتوایی در اینترنت الزاماً از سوی یک انسان واقعی تولید نشده است. این واقعیت احتمال را تقویت میکند که حتی شخصی که در شبکههای اجتماعی با شما گفتگو میکند، در واقع جزئی از یک عملیات سازمانیافته و اتوماتیک برای ایجاد اختلاف، درگیری و افکار عمومی باشد.

آگاهی کاربران و توسعه مکانیزمهای تشخیص محتوای مصنوعی، دو ستون اصلی مقابله با این تهدیدات نوظهور محسوب میشوند.