تنظیم ابزار، نادیده‌گرفتن قدرت
تمرکز توان محاسباتی و سیاست «هوش مصنوعی قابل‌اعتماد»
این رویداد بخشی از نمایش امکانات لرالینک برای برگزاری رویدادهای دانشی است. محتوای آن با دقت و بر پایهٔ منابع واقعی نوشته شده، اما همایش هنوز برگزار نشده است و شرکت‌کنندگانش، جز دبیر همایش، شخصیت‌هایی ساختگی‌اند.
گروه کارشناسان عالی‌رتبهٔ کمیسیون اروپا در ۲۰۱۹ «رهنمودهای اخلاقی برای هوش مصنوعی قابل‌اعتماد» را منتشر کرد: هفت الزام، از عاملیت و نظارت انسانی تا شفافیت و پاسخ‌گویی. از آن پس «قابل‌اعتماد» نشان تجاری سیاست هوش مصنوعی اروپا شد و قانون هوش مصنوعی نیز بر همین زمینه بنا شد.
متئو فراندی می‌پرسد: اعتماد به چه کسی؟ رهنمودها و پس از آن قانون، «سامانه‌ها» را تنظیم می‌کنند؛ یعنی محصولاتی که به بازار عرضه می‌شوند. اما واقعیت تعیین‌کنندهٔ این دوره محصول نیست. تمرکز ابزار تولید است: توان محاسباتی، داده و نیروی متخصص در دست شمار اندکی از شرکت‌ها، که بیشترشان آمریکایی‌اند. مردیت ویتاکر در ۲۰۲۱ نشان داد که حتی پژوهش دانشگاهی در هوش مصنوعی به منابع همین شرکت‌ها وابسته شده است و نام این وضع را «تسخیر» گذاشت. کیت کرافورد هوش مصنوعی را صنعتی استخراجی توصیف می‌کند که از معدن و کار و داده تغذیه می‌شود.
پیامدش این است که مقرراتی که محصول را گواهی می‌کند، ممکن است همان تمرکز را مشروع کند. هزینهٔ انطباق برای غول‌ها تحمل‌پذیر است و برای بازیگران کوچک، عمومی و غیرانتفاعی سنگین. «هوش مصنوعی قابل‌اعتماد» ممکن است به مُهری بدل شود که فقط قدرتمندان از عهدهٔ هزینه‌اش برمی‌آیند.
این وضع برای نهادهای دانش پیامدی مستقیم دارد. دانشگاه‌ها، کتابخانه‌ها و ناشران روزبه‌روز بیشتر مدل‌ها را از همین چند شرکت اجاره می‌کنند، و زیرساخت خواندن و نوشتن به اشتراکی ماهانه بدل می‌شود. شوشانا زوبوف از «مازاد رفتاری» سخن گفته است: آنچه کاربران انجام می‌دهند به مادهٔ خام شرکت بدل می‌شود. در نهاد دانش، این مادهٔ خام کار خوانندگان و نویسندگان است.
پیشنهاد فراندی اقتصاد سیاسی هوش مصنوعی است، نه اخلاق محصول: توان محاسباتی عمومی به‌مثابه یکی از مشترکات، مدل‌های باز که نهادهای عمومی بر آن‌ها حکمرانی کنند، قواعد خرید عمومی که خدمات تعامل‌پذیر و جایگزین‌پذیر را مقدم بدانند، و این اصل که هیچ نهاد دانشی نباید به تأمین‌کننده‌ای وابسته باشد که نتواند از آن جدا شود. تنظیم خطر بی‌آنکه قدرت تنظیم شود، تنظیم نشانه است، نه بیماری.
پرسش‌های بحث
- آیا قاعدهٔ «حق ترک تأمین‌کننده» را می‌توان برای کتابخانه‌ها و دانشگاه‌ها الزامی کرد؟
- توان محاسباتی عمومی را چه کسی باید اداره کند تا به ابزار دولت یا بازار بدل نشود؟
- اگر اعتماد را نتوان به محصول سپرد، به کدام نهاد باید سپرد؟
منابع
High-Level Expert Group on Artificial Intelligence. 2019. Ethics Guidelines for Trustworthy AI. Brussels: European Commission.
Whittaker, Meredith. 2021. "The Steep Cost of Capture." Interactions 28 (6): 50–55.
Crawford, Kate. 2021. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press.
Zuboff, Shoshana. 2019. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. New York: PublicAffairs.