چالش الگوریتم ها و هوش مصنوعی بر سوگیری افکار کاربران شبکه های اجتماعی

در اواخر دهه‌های اخیر، با پیشرفت فناوری و انتشار گسترده اینترنت، نقش موتورهای جستجو و شبکه‌های اجتماعی به عنوان ابزارهای مهمی در فرآیندهای تولید و مصرف محتوا در فضای مجازی بیش از پیش به چشم می‌خورد. الگوریتم‌های این موتورها و شبکه‌ها، که بر اساس معیارهای مختلفی از جمله رفتار کاربران، محتوای مورد علاقه و میزان تعامل با محتوا تعیین می‌شوند، تأثیر قابل توجهی بر تولید، توزیع و مصرف محتوا دارند. یکی از چالش های اصلی در این حوزه سانسور و فیلترینگ هدفمند محتوا توسط الگوریتم‌های شبکه‌های اجتماعی برای کنترل و مدیریت محتواها و اطلاعاتی که به کاربران نمایش داده می‌شود، است در واقع این الگوریتم‌ها به صورت خودکار و بر اساس قوانین، سیاست‌ها و معیارهای تعیین شده توسط شرکت یا کشور مربوطه عمل می‌کنند.

مصرف رسانه ای کاربران عموم جهان از شبکه های اجتماعی نمی تواند حتی ذره ای بر روی این الگوریتم ها تاثیر بسزایی بگذارد در واقع حکمران به گونه ای صحنه آرایی کرده است که افکار کاربران را تحت سلطه خود بگیرد.

زمانی که مارک زاکربرگ، مدیر عامل شرکت فیس‌بوک (Facebook)، در سال 2018 به دیدار کمیته مشترک کنگره آمریکا وارد شد، احضارش مورد انتظار بود. در این دیدار، اعضای کنگره از وی درباره مسائل مختلفی از جمله حفظ حریم خصوصی کاربران و تأثیر فیس‌بوک بر انتخابات پرسیدند. این مسائل از قبیل نحوه استفاده از الگوریتم‌ها برای نمایش محتوا، شناسایی و حذف محتوای ترویجی و اطلاعات کاذب، و ایجاد فضایی که افراد در آن مطالبی که با نظرات و عقایدشان هم‌خوانی دارد را مشاهده می‌کنند، مورد بحث بود. به‌عنوان مثال، الگوریتم‌های استفاده شده در فیس‌بوک و دیگر شبکه‌های اجتماعی به طور مداوم به دنبال تطبیق با سلیقه‌ها و علایق فردی کاربران هستند، که ممکن است منجر به ایجاد فیلتر‌باب شود و باعث بسته شدن افراد در یک فضای اطلاعاتی محدود به دیدگاه‌های و نظرات مشابه خودشان شود. این موضوع به عنوان یکی از چالش‌های اساسی مطرح شده است، زیرا می‌تواند به تشدید تقسیم‌ها و اختلافات اجتماعی منجر شود و به‌طور غیرمستقیم تأثیراتی منفی بر فرهنگ دموکراتیک و اجتماعی داشته باشد.

جلسه استنطاق و استیضاح شو چو، مدیرعامل تیک تاک در 31 مارس 2023 به واضح یکی از مصادیق روشن چالش جامعه جهانی به خصوص آمریکا که مدعی و طرفدار جریان آزاد اطلاعات است در حوزه تاثیر الگوریتم ها در نظم حکمرانی و تغییر افکار کاربران است. بنابر آمار رسانه‌های معتبر آمریکایی، ۱۵۰ میلیون کاربر آمریکایی تیک تاک وجود دارد. چالشی که دولتمردان آمریکایی در فیلترینگ این پلتفرم دارند دقیقا مشابه مساله ما در برابر فیلترینگ اینستاگرام است. آنها می گویند در صورت محدودیت تیک تاک بسیاری از کسب و کارها ممکن است با مشکلاتی روبرو شوند. نکته ای که در این خصوص حائز اهمیت است ایجاد وابستگی شریان های اقتصادی و تجاری این پلتفرم هاست و حاکمان را با چالش در این حوزه روبرو می کند.

به‌طورکلی، این موارد نشان می‌دهد که الگوریتم‌های استفاده شده در شبکه‌های اجتماعی توانایی گسترده‌ای در تحت‌تأثیرگذاری بر جریان اطلاعات و دیدگاه‌های افراد دارند و این توانایی می‌تواند به‌طور غیرمستقیم به تقویت یا تضعیف فرهنگ‌ها و ارزش‌های مختلف جوامع کمک کند.

بنابراین حکمرانی الگوریتمی یکی از مواردی است که در فضای مجازی تأثیرگذار است، به ویژه در ارتباط با جریان اطلاعات و ارتباطات بین افراد. در ایران نیز، همچون سایر کشورها، حکمرانی الگوریتمی اثرات متعددی دارد که می‌توان به برخی از آن‌ها اشاره کرد:

1. تأثیر بر جریان اطلاعات و فیلترینگ محتوا: الگوریتم‌های استفاده شده در شبکه‌های اجتماعی و سایر وب‌سایت‌ها، می‌توانند جریان اطلاعات را تحت تأثیر قرار دهند. این الگوریتم‌ها ممکن است با نشان دادن محتواهای خاص به کاربران، دیدگاه‌ها و نگرش‌های خاصی را تقویت کنند یا تغییر دهند. الگوریتم‌های مورد استفاده در شبکه‌های اجتماعی و سایر وب‌سایت‌ها معمولاً به کاربران محتوایی را نشان می‌دهند که ممکن است به سلیقه و علایق آن‌ها بیشتر مرتبط باشد. این فیلترینگ می‌تواند باعث ایجاد یک فضای اطلاعاتی محدود شود که ایده‌ها و دیدگاه‌های متنوع کمتری را نشان می‌دهد.
2. کنترل بر توانایی دسترسی به اطلاعات: حکمرانی الگوریتمی می‌تواند تأثیر گذاری بر ارائه و دسترسی به اطلاعات داشته باشد. این می‌تواند منجر به کنترل دسترسی به محتواهایی با موضوعات خاص، یا حتی سانسور و توقف نمایش برخی محتواها شود. الگوریتم‌ها معمولاً محتواهایی را که تعامل بیشتری با کاربران دارند، تقویت می‌کنند. به عنوان مثال، محتواهایی که باعث تعاملات بیشتری مانند لایک، نظر، و اشتراک گذاری می‌شوند، به راحتی‌تر برای کاربران نمایش داده می‌شوند.
3. تأثیر بر تبلیغات و تجارت الکترونیکی: الگوریتم‌های مورد استفاده در پلتفرم‌های تبلیغاتی می‌توانند به شرکت‌ها کمک کنند تا بهترین راهکارها برای رسیدن به مخاطبان خود را پیدا کنند، اما در عین حال ممکن است با تأثیرگذاری بر تبلیغات متنی و تصویری، نوعی همواره‌سازی اطلاعاتی ایجاد کنند که از دیدگاه‌های مختلف مورد انتقاد قرار گیرد.
4. تأثیر بر حقوق شهروندی دیجیتال: استفاده از الگوریتم‌ها می‌تواند به تضمین حقوق شهروندی دیجیتال کمک کند، اما در عین حال اگر الگوریتم‌ها به نحوی تنظیم شوند که به طور ناعادلانه تأثیر بگذارند، ممکن است منجر به نقض حقوق شهروندی دیجیتال شود.
5. تأثیر بر امنیت اطلاعات: حکمرانی الگوریتمی نقش مهمی در امنیت اطلاعات دارد، زیرا می‌تواند به تشخیص الگوهای ناهنجار در فعالیت‌های آنلاین کمک کند. با این حال، اگر الگوریتم‌ها به درستی تنظیم نشوند، ممکن است به جای حفاظت از امنیت، به تهدیدی برای حریم خصوصی و امنیت اطلاعات تبدیل شوند.

در نهایت، تأثیر حکمرانی الگوریتمی بر فضای مجازی ایران نیازمند مطالعه و تجزیه و تحلیل دقیق‌تر است، زیرا این تأثیرات ممکن است بسته به شرایط فرهنگی، سیاسی و اجتماعی متغیر باشند.