آدم‌های پشت دادهٔ «پاکیزه»

وقتی یک دستیار گفت‌وگومحور از توصیف خشونت سر باز می‌زند، رفتارش طبیعی به نظر می‌رسد، چنان‌که گویی ادب از خود ماشین برخاسته است. ولی پیش از آنکه ماشین بیاموزد چه چیزی را نگوید، کسانی آن خشونت را خوانده و نام‌گذاری کرده‌اند. در ژانویهٔ ۲۰۲۳ بیلی پریگو در مجلهٔ تایم گزارش داد که کارگران یک شرکت برون‌سپاری در نایروبی، برای ساختن صافی محتوای زیان‌بار یکی از مشهورترین این دستیارها، روزانه شرح سوءاستفادهٔ جنسی، شکنجه و خودآزاری را می‌خواندند و برچسب می‌زدند. دستمزد بسیاری از آنان کمتر از دو دلار در ساعت بود.

مانیل بیش از یک دهه است که یکی از مرکزهای اصلی این کار در جهان است. مستند «پاک‌کنندگان» در ۲۰۱۸ زندگی جوانانی را نشان داد که هر روز هزاران تصویر را برای شبکه‌های اجتماعی غربی پاک یا نگه می‌داشتند. سارا رابرتز در کتاب «پشت صفحه» این کار را «پالایش تجاری محتوا» نامید و نشان داد که پنهان بودنش تصادفی نیست، بخشی از الگوی کسب‌وکار است. مری گری و سیدارت سوری هم آن را «کار شبح» خواندند: کاری که محصول را ممکن می‌کند ولی در هیچ‌جای محصول دیده نمی‌شود.

استدلال من این است که «ایمنی» محصولات هوش مصنوعی حاصل صدور آسیب روانی است. نوعی تقسیم کار جهانی در کار است: کسانی که از مدلی پاکیزه بهره می‌برند بیشتر در شمال‌اند، و کسانی که آن را پاکیزه می‌کنند بیشتر در جنوب. طنز تلخ ماجرا در زبان است. برچسب‌زنی بیشتر برای انگلیسی انجام می‌شود و زبان‌های خود این کارگران، تاگالوگ یا سواحیلی، کمتر از همه پالایش می‌شوند. پس همان مردمی که آسیب پالایش را می‌کشند، در فضای مجازی زبان خودشان کمتر از همه محافظت می‌شوند.

این کارگران خاموش نمانده‌اند. در ماه مه ۲۰۲۳ بیش از صد و پنجاه پالایشگر محتوا در نایروبی رأی دادند که اتحادیه‌ای برای پالایشگران محتوای آفریقا بسازند، و شکایت‌های حقوقی آنان علیه شرکت‌های بزرگ هنوز در دادگاه‌های کنیا جریان دارد. سازمان‌یابی آنان یادآوری می‌کند که پشت هر «دادهٔ پاکیزه» کار سازمان‌یافته و حق‌خواهی هست.

برای کسانی که نظام‌های دانش می‌سازند، از این ماجرا دو نتیجه بیرون می‌آید. نخست اینکه کار نامرئی باید در ثبت منشأ دیده شود: اینکه چه کسی، کجا و با چه شرایطی داده‌ای را برچسب زده، بخشی از تاریخ آن دانش است، نه جزئیاتی فنی. دوم اینکه پالایش محتوا در هر زبان باید به دست جامعهٔ همان زبان و با دستمزد و پشتیبانی روانی منصفانه ساخته شود. دانشی که بر شانهٔ آدم‌های نادیده ساخته شود، هر قدر هم «ایمن» باشد، عادلانه نیست.

پرسش‌های بحث

منابع

Perrigo, Billy. 2023. “Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic.” TIME, 18 January 2023.

Roberts, Sarah T. 2019. Behind the Screen: Content Moderation in the Shadows of Social Media. New Haven, CT: Yale University Press.

Gray, Mary L., and Siddharth Suri. 2019. Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. Boston: Houghton Mifflin Harcourt.

Block, Hans, and Moritz Riesewieck, dirs. 2018. The Cleaners. Documentary film. Berlin: gebrueder beetz filmproduktion.