تغییرات اخیر در الگوریتم نمایش پستهای لینکدین، بهویژه پس از استفاده گستردهتر این شبکه از مدلهای زبانی بزرگ (LLM)، باعث شده بسیاری از کاربران از افت چشمگیر بازدید و تعامل پستهای خود گلایه کنند. گروهی از زنان کارآفرین و فعالان حوزه کسبوکار حتی ادعا میکنند که این تغییرات به ضرر محتوای منتشرشده توسط زنان تمام شده است.
آزمایش #WearthePants و نگرانی از تبعیض
به گزارش تککرانچ، چند زن فعال در لینکدین در قالب کمپینی با نام #WearthePants جنسیت پروفایل خود را از زن به مرد تغییر دادند تا بررسی کنند آیا الگوریتم جدید این پلتفرم نسبت به زنان تبعیض دارد یا نه. یکی از این افراد میگوید پس از تغییر جنسیت پروفایل، تعداد ایمپرشن پستهایش ظرف یک روز بهطور چشمگیری جهش کرده و چند صد درصد افزایش یافته است؛ ادعایی که افراد دیگری نیز تجربههای مشابهی از آن گزارش کردهاند.
این کاربران میگویند در ماههای گذشته، همزمان با عمومیشدن تغییرات الگوریتم، افت قابلتوجهی در دیدهشدن و نرخ تعامل پستهای خود داشتهاند؛ در حالی که بسیاری از آنها سالها با برنامهریزی منظم در لینکدین تولید محتوا کرده و دنبالکنندگان زیادی دارند.
پاسخ لینکدین: الگوریتم جنسیت را نمیبیند
لینکدین در پاسخ به این انتقادها اعلام کرده است که الگوریتم و سامانههای هوش مصنوعی این شرکت از اطلاعات جمعیتشناختی مانند سن، نژاد یا جنسیت بهعنوان سیگنال برای تعیین میزان دیدهشدن محتوا در فید استفاده نمیکنند. این شرکت میگوید نمونههای محدود و مقایسههای موردیِ کاربران لزوماً به معنای وجود تبعیض در سیستم نیست و برای ارزیابی، باید کل رفتار شبکه و دادههای گستردهتر را در نظر گرفت.
با این حال، کارشناسان الگوریتم و اخلاق داده به تککرانچ گفتهاند حتی اگر جنسیت بهصورت مستقیم وارد فرمول الگوریتم نشده باشد، ممکن است سوگیریهای ضمنی از طریق سبک نوشتار، نوع تعاملات یا الگوهای تاریخی رفتار کاربران وارد سیستم شود. از آنجا که مدلهای زبانی و سیستمهای پیشنهاددهنده بر اساس دادههای تولیدشده توسط انسانها آموزش میبینند، احتمال انتقال کلیشههای جنسیتی و نژادی به این مدلها بالاست.
ابهام در کارکرد LLM و پیامدها برای صنعت
یکی از نکات مهم این گزارش، اشاره به شفافنبودن نحوه آموزش و تنظیم مدلهای زبانی بهکاررفته در شبکههای اجتماعی و پلتفرمهای حرفهای است. متخصصان میگویند این سیستمها مانند یک «جعبه سیاه» عمل میکنند و مشخص نیست کدام سیگنالها دقیقاً باعث تقویت یا تضعیف دیدهشدن یک پست میشود. لینکدین تنها گفته است صدها سیگنال از جمله اطلاعات پروفایل، شبکه ارتباطی و رفتار کاربر را برای تصمیمگیری در مورد محتوا بررسی میکند و تستهای مداومی برای بهبود «محتوای مرتبط و مفید» انجام میدهد.
این موضوع برای صنعت فناوری و بهویژه خدمات مبتنی بر هوش مصنوعی اهمیت زیادی دارد، چون نشان میدهد گذار گسترده شبکههای اجتماعی و سرویسهای حرفهای به الگوریتمهای مبتنی بر LLM، میتواند پیامدهای پیشبینینشدهای برای دیدهشدن صداهای مختلف، از جمله زنان و اقلیتها، داشته باشد. برای کاربران ایرانی نیز که از لینکدین بهعنوان ابزار شبکهسازی شغلی و تولید محتوای حرفهای استفاده میکنند، درک این تغییرات و آزمونوخطا در نوع محتوا، لحن و موضوعات میتواند در حفظ یا افزایش دیدهشدن پستها مؤثر باشد.
در مجموع، آنچه از گزارش تککرانچ برمیآید این است که هم کاربران و هم پژوهشگران بیش از هر چیز خواهان شفافیت بیشتر درباره نحوه کار این الگوریتمها هستند؛ درخواستی که با توجه به رقابت شدید و نگرانی شرکتها از «دور زدهشدن» سیستمها، برآوردهکردنش آسان به نظر نمیرسد.
منبع خبر: TechCrunch
