سانسور خودکار به زبان عربی
پالایش ماشینی محتوا و سخن‌هایی که خاموش می‌شوند
این رویداد بخشی از نمایش امکانات لرالینک برای برگزاری رویدادهای دانشی است. محتوای آن با دقت و بر پایهٔ منابع واقعی نوشته شده، اما همایش هنوز برگزار نشده است و شرکت‌کنندگانش، جز دبیر همایش، شخصیت‌هایی ساختگی‌اند.
در ماه مه ۲۰۲۱، هم‌زمان با درگیری‌ها در قدس و غزه، کاربران فلسطینی و عرب از حذف گستردهٔ پست‌هایشان در اینستاگرام و فیس‌بوک خبر دادند. متا بررسی مستقلی را به مؤسسهٔ بی‌اس‌آر سپرد که گزارشش در سپتامبر ۲۰۲۲ منتشر شد. یافتهٔ گزارش روشن بود: محتوای عربی بیش از اندازه حذف شده بود و محتوای عبری کمتر از اندازه، و بخشی از این نابرابری از آنجا می‌آمد که متا برای سخن خصمانه به عربی ابزار شناسایی خودکار داشت و برای عبری نداشت.
دو سال بعد، دیده‌بان حقوق بشر در دسامبر ۲۰۲۳ بیش از هزار مورد از بیش از شصت کشور را بررسی کرد و سانسور محتوای مربوط به فلسطین را «نظام‌مند و جهانی» خواند. این گزارش ریشهٔ مسئله را در سیاست‌های معیوب، اجرای ناهمسان، اتکای بیش از حد به ابزارهای خودکار و نفوذ نابجای دولت‌ها بر حذف محتوا می‌دید. در مارس ۲۰۲۴ هیئت نظارت متا نیز توصیه کرد که حذف یکسرهٔ پست‌های دارای واژهٔ «شهید» کنار گذاشته شود.
لیلا حداد، که سال‌ها در نشر بیروت کار کرده است، می‌گوید مسئله فقط سیاسی نیست؛ زبانی هم هست. عربی خانواده‌ای از گویش‌هاست، گاه با الفبای لاتین نوشته می‌شود، و سرشار از تعبیرهای دینی، شاعرانه و طعنه‌آمیز است. ابزار شناسایی‌ای که با داده‌های محدود و بی‌بافت آموزش دیده، آیه‌ای از قرآن یا واژه‌ای سوگوارانه را تحریک به خشونت می‌خواند و طعنه را جدی می‌گیرد. خطای ماشین در اینجا تصادفی نیست؛ از جایی می‌آید که در آن زبان دیگری مرکز است.
پیامد این وضع برای دانش ژرف است. روزنامه‌نگاران، بایگانان و ناشران پیش از انتشار خود را سانسور می‌کنند. اسناد رویدادها ناپدید می‌شوند، و اینکه از یک دوره چه چیزی در حافظه بماند را ابزاری تعیین می‌کند که به زبان دیگری فکر می‌کند. سارا رابرتز نشان داده است که پالایش محتوا کاری پنهان و برون‌سپاری‌شده است و کارگرانش دیده نمی‌شوند؛ قاعده‌هایش نیز.
حداد چهار پیشنهاد دارد: شفافیت به تفکیک زبان دربارهٔ نرخ حذف و نتیجهٔ اعتراض‌ها؛ بازبینی انسانی به دست کسانی که گویش و بافت را می‌شناسند؛ نگهداری محتوای حذف‌شده برای پژوهش و دادخواهی، به جای نابودی آن؛ و اینکه ناشران و بایگانی‌ها زیرساخت خود را داشته باشند و حافظهٔ خود را به سکوهایی نسپارند که قاعده‌هایشان را در جای دیگری می‌نویسند.
پرسش‌های بحث
- آیا شفافیت به تفکیک زبان باید تکلیف قانونی سکوهای بزرگ باشد؟
- محتوای حذف‌شده‌ای که سند تاریخی است، باید کجا و زیر نظر چه کسی نگهداری شود؟
- یک زیرساخت دانش چگونه می‌تواند از سانسور خودکار در امان بماند بی‌آنکه خود به سکویی بسته بدل شود؟
منابع
BSR. 2022. Human Rights Due Diligence of Meta's Impacts in Israel and Palestine in May 2021. San Francisco: BSR, 22 September 2022.
Human Rights Watch. 2023. Meta's Broken Promises: Systemic Censorship of Palestine Content on Instagram and Facebook. New York: Human Rights Watch, 21 December 2023.
Oversight Board. 2024. Policy Advisory Opinion on the treatment of the term "shaheed" (PAO 2023-01). 26 March 2024.
Roberts, Sarah T. 2019. Behind the Screen: Content Moderation in the Shadows of Social Media. New Haven: Yale University Press.