در دنیای امروز، الگوریتم‌های شبکه‌های اجتماعی نقش مهمی در تعیین محتوایی که کاربران مشاهده می‌کنند، ایفا می‌کنند. این الگوریتم‌ها، با تحلیل رفتار کاربران، محتوایی را که احتمالاً برای آنها جذاب است، نمایش می‌دهند. اما این فرآیند همیشه به نفع کاربران نیست و گاهی اوقات می‌تواند به نمایش محتوای نامناسب منجر شود.
یکی از نمونه‌های بارز این مسئله، تجربه‌ی یک نوجوان ۱۶ ساله به نام کای است. او به طور ناگهانی با ویدیوهای خشونت‌آمیز و محتوای نامناسب در شبکه‌های اجتماعی مواجه شد. این مسئله نگرانی‌های زیادی را درباره‌ی ایمنی کاربران جوان‌تر در این پلتفرم‌ها به وجود آورده است.
اندرو کاونگ، تحلیل‌گر سابق ایمنی کاربران در تیک‌تاک، نیز نگرانی‌های خود را درباره‌ی نمایش محتوای خشونت‌آمیز و زن‌ستیزانه به پسران نوجوان بیان کرده است. او معتقد است که الگوریتم‌های این پلتفرم‌ها به گونه‌ای طراحی شده‌اند که محتوای جذاب و بحث‌برانگیز را بیشتر نمایش دهند، حتی اگر این محتوا نامناسب باشد.
هوش مصنوعی نقش مهمی در شناسایی و حذف محتوای مضر دارد، اما این فناوری نیز محدودیت‌هایی دارد. بسیاری از ویدیوها تنها پس از رسیدن به تعداد مشخصی از بازدیدها به صورت دستی بررسی می‌شوند، که ممکن است باعث شود کاربران جوان‌تر در معرض محتوای نامناسب قرار گیرند.
حتی برخی کارها هم نمی تواند الگوریتم های هوش مصنوعی را قانع کند که شما برخی محتواهای پیشنهادی او را دوست ندارید. کای در این خصوص می گوید: روی پست‌ها کامنت گذاشتم تا بگویم که آنها را دوست ندارم، و وقتی به طور تصادفی ویدیوها را لایک کردم، سعی کردم آن را لغو کنم، امیدوار بودم که الگوریتم‌ها را بازنشانی کنم. اما من هم چنان محتوای نامناسبی را که دوست ندارم مشاهده می کنم.
اندرو توضیح می دهد الگوریتم ها میزان تعامل را دنبال می کنند. درست است که ابتدا آنها محتوایی را به شما نمایش می دهند که مطابق با لیست علاقه مندی های خودتان است اما به مرور چیز هایی که شما به آنها توجه بیشتری نشان می دهید، یعنی زمان بیشتری بر روی آنها متوقف می مانید را مد نظر قرار می دهند و این طور برداشت می کنند که شما این محتوا را ترجیح می دهید. از آن زمان است که سر و کله چیزهایی تازه پیدا می شود. خوب است بدانید علاقه مندی های هم سن و سال های شما هم تأثیرگذار است. یعنی الگوریتم بر اساس محتواهایی که گروه های هم سن شما در آن محدوده بیشتر مورد توجه قرار می دهند، چیزهایی را به شما پیشنهاد می دهد..
اندرو کاونگمی گوید: انجام تغییرات و تعدیل های ضروری از درون رسانه های اجتماعی غیر ممکن است زیرا آنها شرکت های خصوصی هستند که می خواهند محصولات خود را هرچه بیشتر تبلیغ کنند و مخاطب را بیشتر جذب کنند. بنابر این اگر کودکان و نوجوانان از گوشی های هوشمند خود استفاده نکنند، زندگی بهتریخواهند داشت. اما کای و دیگر نوجوانان معتقدند گوشی هوشمندبخش جدایی ناپذیر زندگی آنها است. آنها از تلفن های خود برای مسیر یابی، پرداخت و ارتباطات اجتماعی استفاده می کنند. در عوض، او می خواهد که شرکت های رسانه های اجتماعی بیشتر به آنچه نوجوانان نمی خواهند ببینند گوش دهند. او از شرکت‌ها می‌خواهد که ابزارهایی را که به کاربران اجازه می‌دهد ترجیحات خود را نشان دهند مؤثرتر بسازند.
دیدگاهتان را بنویسید