رده‌های خطر و زبانِ غایب

مقررهٔ ۲۰۲۴/۱۶۸۹ اتحادیهٔ اروپا، که به «قانون هوش مصنوعی» شهرت یافته، از اوت ۲۰۲۴ لازم‌الاجرا شد و گام‌به‌گام به کار می‌افتد: ممنوعیت‌ها از فوریهٔ ۲۰۲۵، تکالیف مدل‌های همه‌منظوره از اوت ۲۰۲۵، و بیشتر قواعد سامانه‌های پرخطر از اوت ۲۰۲۶. معماری آن بر رده‌بندی خطر استوار است: کاربردهای ممنوع، سامانه‌های پرخطر، سامانه‌هایی که فقط تکلیف شفافیت دارند، و باقی.

آنه‌لیزه برانت این قانون را با یک پرسش می‌خواند: زبان کجای آن است؟ سامانه‌هایی که در آموزش برای پذیرش و ارزیابی، در مهاجرت و پناهندگی، و در دسترسی به خدمات عمومی ضروری به کار می‌روند، در پیوست سوم پرخطر شمرده شده‌اند. در همهٔ این حوزه‌ها زبان شخص تعیین‌کننده است: پناه‌جویی که مصاحبه‌اش را ماشین آوانویسی یا ترجمه می‌کند، یا دانشجویی که مقالهٔ نوشته‌شده به زبان دومش را سامانه‌ای خودکار نمره می‌دهد. با این همه، قانون شکاف کارکرد سامانه‌ها در زبان‌های گوناگون را خطری جداگانه نمی‌شناسد. مادهٔ ۱۰ از داده‌هایی می‌خواهد که «به اندازهٔ کافی نماینده» باشند، اما معیار این نمایندگی کاربرد مورد نظر سامانه است، نه زبان‌های کسانی که از آن آسیب می‌بینند.

شواهد این شکاف پنهان نیست. جوشی و همکارانش در ۲۰۲۰ زبان‌های جهان را بر پایهٔ منابع داده و ابزار رده‌بندی کردند و نشان دادند که بیشتر زبان‌ها تقریباً هیچ ندارند. بندر، گبرو و همکارانشان در ۲۰۲۱ هشدار دادند که بزرگ‌تر شدن مدل‌ها پرسش «دادهٔ چه کسانی؟» را پاسخ نمی‌دهد. سامانه‌ای که به انگلیسی یا آلمانی خوب کار می‌کند و به تیگرینیا یا دری خطا می‌کند، برای متقاضی دری‌زبان سامانه‌ای پرخطر است، حتی اگر میانگین دقتش درخشان باشد.

سخنران سه پیشنهاد مشخص دارد. یکم، ارزیابی انطباق سامانه‌های پرخطر باید کارکرد را به تفکیک زبان کسانی گزارش کند که سامانه دربارهٔ آنان تصمیم می‌گیرد. دوم، هرجا سامانه‌ای پرخطر گفتار یا نوشتهٔ شخصی را به زبانی غیر از زبان‌های رسمی اتحادیه پردازش می‌کند، آن شخص باید حق داشتن مترجم انسانی داشته باشد. سوم، نهادهای استانداردگذار اروپایی باید پوشش زبانی را جزئی از دقت و استحکام سامانه بدانند، نه موضوعی فرعی در حاشیهٔ آن.

اروپا چندزبانگی را برای بیست‌وچهار زبان رسمی‌اش ارزشی نهادی کرده است. در تنظیم هوش مصنوعی حتی همین ارزش هم کم‌صداست، و زبان‌های مهاجران، یعنی زبان کسانی که بیش از همه در معرض سامانه‌های پرخطرند، یکسره غایب‌اند. قانونی که خطر را می‌سنجد ولی زبان را نمی‌بیند، بخشی از خطر را بیرون از دیدرس خود نگه داشته است.

پرسش‌های بحث

منابع

Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union L, 12 July 2024.

Joshi, Pratik, Sebastin Santy, Amar Budhiraja, Kalika Bali, and Monojit Choudhury. 2020. "The State and Fate of Linguistic Diversity and Inclusion in the NLP World." In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, 6282–6293.

Bender, Emily M., Timnit Gebru, Angelina McMillan-Major, and Shmargaret Shmitchell. 2021. "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610–623.