یک پست بسیار پربازدید در ردیت که ادعا میکرد افشاگری از سوی کارمند یک اپلیکیشن تحویل غذای شناختهشده است، در نهایت جعلی و حاصل ترکیب ابزارهای هوش مصنوعی تصویری و متنی شناخته شد. این داستان ساختگی درباره دستکاری انعام و دستمزد رانندگان، در شبکههای اجتماعی میلیونها بار دیده شد و بعداً مشخص شد نویسنده آن با کمک هوش مصنوعی سعی در فریب یک خبرنگار داشته است.
ماجرای یک افشاگر ساختگی
در این پست، کاربری که خود را کارمند سابق یک سرویس تحویل غذا معرفی کرده بود، مدعی شد شرکت با سوءاستفاده از خلأهای قانونی، انعام رانندگان را میدزدیده و بر اساس الگوریتمهای داخلی، کاربران و پیکها را استثمار میکند. روایت او آنقدر دقیق و باورپذیر بود که به سرعت به صدر صفحه اول ردیت رسید و سپس در شبکههای دیگری مثل X بازنشر شد.
یک خبرنگار حوزه فناوری برای راستیآزمایی این ادعاها با نویسنده تماس گرفت. فرد مدعی، تصویری از کارت شناسایی کارکنان و یک سند طولانی داخلی درباره استفاده از هوش مصنوعی برای ارزیابی «امتیاز استیصال» رانندگان ارسال کرد. اما بررسیهای عمیقتر نشان داد کارت شناسایی با ابزارهای مولد تصویر ساخته شده و سند ظاهراً فنی نیز با کمک مدلهای زبانی بزرگ تولید شده است. استفاده از واترمارکهای نامرئی مانند فناوری SynthID در ابزارهای تشخیص محتوای مصنوعی، نقش مهمی در آشکار شدن جعلی بودن این مدارک داشت.
چرا این ماجرا برای دنیای فناوری مهم است؟
فریب دادن خبرنگاران و کاربران در اینترنت موضوع جدیدی نیست، اما دسترسی عمومی به مدلهای متنی و تصویری پیشرفته، تولید اسناد و مدارک جعلی بسیار باورپذیر را آسان کرده است. حالا یک فرد میتواند در مدت کوتاهی یک گزارش ۱۸ صفحهای، کارت شناسایی شبیه واقعی و حتی روایت شخصی قانعکننده بسازد؛ چیزی که قبلاً هزینه و زمان بالایی میطلبید. برای رسانهها و پلتفرمها، این یعنی فرایند راستیآزمایی باید سختگیرانهتر و متکی بر ابزارهای تشخیص محتوای هوشمصنوعی باشد.
برای کاربران ایرانی هم این اتفاق یک زنگ خطر است؛ همانطور که در بازار داخل هم محتوای متنی، عکس و ویدیوی تولیدشده با هوش مصنوعی رو به افزایش است، انتقادها یا افشاگریهای منتشرشده در شبکههای اجتماعی لزوماً واقعی نیستند و باید با نگاه منتقدانه و بررسی منابع به آنها نزدیک شد. در عین حال، استفاده حرفهای و آگاهانه از این فناوریها ـ از مدلهای مکالمهای گرفته تا ابزارهای تولید تصویر ـ میتواند مزیت رقابتی ایجاد کند؛ به همین دلیل خیلی از کاربران حرفهای به سراغ خرید اکانت های هوشمصنوعی و استفاده تخصصی از این سرویسها رفتهاند.
در نهایت این پرونده یادآوری میکند که همزمان با قدرتمندتر شدن هوش مصنوعی، مهارت سواد رسانهای و بررسی صحت اطلاعات نیز باید ارتقا یابد؛ وگرنه حتی روزنامهنگاران حرفهای هم ممکن است قربانی «افشاگران» قلابی شوند.
منبع خبر: TechCrunch
