شرکت OpenAI روز دوشنبه از دو مدل استدلال‌گر نوین رونمایی کرد که توسعه‌دهندگان امکان بهره‌گیری از آن‌ها را برای تشخیص و طبقه‌بندی طیف وسیعی از آسیب‌های آنلاین در پلتفرم‌های خود می‌دهد.
بر اساس گزارش سی‌ان‌بی‌سی، این مدل‌ها با نام‌های gpt-oss-safeguard-120b و gpt-oss-safeguard-20b ارائه شده‌اند. اندازه پارامترها در نام‌گذاری مدل‌ها منعکس شده و این نسخه‌ها در واقع بهینه‌سازی‌های تطبیق‌یافته مدل‌های gpt-oss هستند که OpenAI در ماه آگوست منتشر کرده بود.
ویژگی‌های مدل‌های بازوزن OpenAI
این ابزارها به عنوان مدل‌های بازوزن (open-weight) عرضه شده‌اند؛ بدین معنا که پارامترهای تعیین‌کننده کیفیت خروجی و دقت پیش‌بینی به‌طور عمومی در دسترس قرار گرفته‌اند. این رویکرد شفافیت و کنترل بیشتری را برای کاربران فراهم می‌آورد و از مدل‌های متن‌باز که کد منبع آن‌ها برای ویرایش و سفارشی‌سازی باز است، تفاوت دارد.
🔗 بیشتر بخوانید: مطلب تبریک روز معلم: ۷۰ مطلب برای سپاس از معلمان_به رنگ صبح
OpenAI تأکید کرده که سازمان‌ها می‌توانند این مدل‌ها را با سیاست‌ها و نیازهای اختصاصی خود تنظیم نمایند. از آنجا که مدل‌ها قابلیت استدلال و توضیح منطق تصمیم‌گیری خود را دارند، توسعه‌دهندگان می‌توانند مستقیماً درک کنند که مدل چگونه به نتیجه نهایی رسیده است. برای مثال، یک سایت نظرسنجی محصولات می‌تواند از مدل‌های gpt-oss-safeguard برای شناسایی نظرات جعلی بهره ببرد یا یک انجمن بازی‌های ویدیویی بتواند پست‌های مربوط به تقلب و نقض قوانین را دسته‌بندی کند.
این مدل‌ها در همکاری با دیسکورد، SafetyKit و ROOST — که آخرین یک سازمان فعال در حوزه زیرساخت‌های ایمنی هوش مصنوعی است — توسعه یافته‌اند. در حال حاضر مدل‌ها در حالت پیش‌نمایش تحقیقاتی در دسترس‌اند و OpenAI قصد دارد از بازخورد محققان و متخصصان ایمنی برای بهبود آن‌ها استفاده نماید.
معرفی این مدل‌ها می‌تواند به OpenAI در پاسخ به منتقدانی کمک کند که بر التجاري‌سازی شتابان و توسعه بدون دقت به اصول اخلاقی و ایمنی هوش مصنوعی تأکید داشته‌اند. ارزش‌گذاری OpenAI اکنون به حدود ۵۰۰ میلیارد دلار رسیده است و چت‌بات ChatGPT بیش از ۸۰۰ میلیون کاربر فعال هفتگی دارد. در روز سه‌شنبه OpenAI از بازسازی ساختار سازمانی خود خبر داد.
🔗 بیشتر بخوانید: خرید بلک فرایدی تا ۹۰ درصد تخفیف سایت‌های خارجی با کارمزد ۰
کاربران می‌توانند وزن‌های مدل‌ها را از Hugging Face دانلود کنند. «کامیل فرانسوا»، رئیس ROOST، در بیانیه‌ای اعلام کرد:
«با پیشرفت سریع هوش مصنوعی، ابزارهای ایمنی و تحقیقات بنیادی نیز باید همزمان تکامل یابند و برای همه قابل دسترس باشند.»
