اُپنایآی پستی تازه با عنوان «رئیس آمادهباش» ایجاد کرده است؛ نقشی که طبق توضیحات شرکت، قرار است تمام وقت روی این کار متمرکز باشد که هوش مصنوعی چگونه میتواند به شکلی جدی خطرساز شود و چه راههایی برای کاهش این ریسکها وجود دارد.
این نقش جدید دقیقاً چه کاری انجام میدهد؟
بر اساس آگهی شغلی اُپنایآی، رئیس آمادهباش باید تواناییهای پیشروی مدلهای هوش مصنوعی را رصد کند و برای سناریوهایی آماده باشد که ممکن است به آسیبهای شدید منجر شوند. این فرد مسئول طراحی و هماهنگسازی ارزیابیهای فنی، مدلسازی تهدیدها و تعریف راهکارهای کاهش ریسک در یک چرخه ایمنسازی مقیاسپذیر است.
سم آلتمان در توضیح این موقعیت تأکید کرده که پیشرفت سریع مدلها «چالشهای واقعی» ایجاد میکند؛ از تأثیر محتوای تولیدشده توسط چتباتها بر سلامت روان کاربران گرفته تا استفاده از هوش مصنوعی در ابزارهای تهاجمی امنیت سایبری. همچنین از این مدیر انتظار میرود چارچوب آمادهباش شرکت را اجرا کند، برای عرضه قابلیتهای حساس مانند تواناییهای زیستی مدلها محدودیت بگذارد و برای سیستمهای خودبهبوددهنده، خطوط قرمز و نگهبان تعریف کند.
چرا این تصمیم برای صنعت هوش مصنوعی مهم است؟
در سالهای اخیر چندین پرونده خبرساز مطرح شده که در آنها رفتار چتباتها با آسیبهای جدی روانی، از جمله خودکشی نوجوانان، پیوند خورده است و بحثهایی مانند «روانپریشی القاشده توسط هوش مصنوعی» و تشویق نظریههای توطئه یا عادات ناسالم را داغ کرده است. حرکت اُپنایآی برای ایجاد یک واحد رسمی آمادهباش میتواند نشاندهنده تغییر رویکرد از صرفاً توسعه سریع مدلها به سمت مدیریت جدی تبعات اجتماعی و امنیتی آنها باشد.
برای کاربران و فعالان ایرانی در حوزه فناوری، پیگیری این روندها اهمیت ویژهای دارد؛ چرا که با رشد استفاده از چتباتها و ابزارهای مولد در کسبوکارها و آموزش، توجه به ریسکهای محتوایی و روانی هم ضروریتر میشود. در همین فضا، بسیاری از تیمها و فریلنسرها برای استفاده حرفهای از مدلها به سراغ خرید اکانت های هوشمصنوعی میروند و طبیعی است که بحث تنظیمگری، چارچوبهای ایمنی و فرهنگ استفاده مسئولانه هم پررنگتر شود.
این خبر نشان میدهد خود بازیگران بزرگ هوش مصنوعی نیز میپذیرند که نیاز به ساختارهای رسمی برای شناسایی و کنترل ریسکها وجود دارد؛ ساختارهایی که احتمالاً در آینده به یک استاندارد رایج در شرکتهای فعال در این حوزه تبدیل خواهند شد.
منبع خبر: The Verge
