پس از کنار رفتن نیکلاس مادورو از قدرت در ونزوئلا، موجی از ویدئوها و تصاویر دستکاریشده با هوش مصنوعی در شبکههای اجتماعی این کشور و فراتر از آن منتشر شده است؛ محتوایی که مرز میان واقعیت و روایتهای ساختگی را بیش از پیش مخدوش میکند.
دیپفیکها در خلأ اطلاعاتی چه میکنند؟
گزارشها حاکی از آن است که در روزهای پرتلاطم پس از تغییر قدرت، کلیپها و تصاویر مختلفی با استفاده از ابزارهای تولید محتوای هوش مصنوعی منتشر شده که در برخی از آنها مقامهای سابق یا نیروهای نظامی در حال بیان جملات بحثبرانگیز یا انجام اقداماتی نشان داده میشوند که راستیآزمایی آنها برای کاربران عادی تقریباً ناممکن است. ترکیب شایعات قدیمی با قابلیتهای جدید تولید تصویر و ویدئوی هوشمصنوعی، بستر مناسبی برای گسترش کارزارهای اطلاعات نادرست فراهم کرده است.
کارشناسان میگویند بحرانهای سیاسی و امنیتی معمولاً با کمبود شفافیت خبری و حجم بالای شایعات همراه است و ابزارهای تولید محتوای مبتنی بر هوش مصنوعی این روند را تشدید میکند. از آنجا که ساخت یک ویدئوی قانعکننده با چهره و صدای فردی شناختهشده اکنون برای کاربران عادی نیز در دسترس است، گروههای مختلف – از بازیگران سیاسی داخلی گرفته تا مخاطبان بینالمللی – میتوانند روایتهای دلخواه خود را سریع و گسترده منتشر کنند.
پیامدها برای صنعت فناوری و کاربران
افزایش استفاده از دیپفیک در منازعات سیاسی، فشار زیادی بر پلتفرمهای اجتماعی و شرکتهای فناوری وارد میکند تا ابزارهای تشخیص محتوای جعلی، برچسبگذاری و راستیآزمایی را تقویت کنند. این اتفاق برای صنعت هوش مصنوعی نیز یک زنگ خطر است؛ چراکه توسعهدهندگان مدلهای مولد باید میان نوآوری و پیشگیری از سوءاستفاده تعادل برقرار کنند. در عین حال، بسیاری از کاربران حرفهایتر برای درک بهتر توان و محدودیت این ابزارها به سراغ سرویسهای تخصصی میروند و حتی در ایران هم تقاضا برای خرید اکانتهای هوشمصنوعی و آزمایش مستقیم این فناوریها رو به افزایش است.
برای مخاطبان ایرانی، تحولات ونزوئلا میتواند نمونهای عینی از این باشد که چگونه در شرایط سیاسی حساس، مرز میان خبر واقعی، پروپاگاندا و محتوای تولیدشده توسط ماشین تقریباً از بین میرود. این وضعیت اهمیت سواد رسانهای، آشنایی پایهای با مفاهیم هوش مصنوعی مولد و اتکا به منابع خبری معتبر را دوچندان میکند.
در نهایت، کارشناسان هشدار میدهند که بدون چارچوبهای شفاف حقوقی و مسئولیتپذیری پلتفرمها و توسعهدهندگان، چنین رویدادهایی میتواند به بیاعتمادی گسترده نسبت به هر نوع محتوای دیجیتال منجر شود؛ وضعیتی که هم برای دموکراسی و هم برای صنعت فناوری چالشی جدی به شمار میآید.
منبع خبر: CNBC
