۱۴۰۰ خرداد ۱۲, چهارشنبه

هوش مصنوعی برای تشخیص احساسات ‘روی اویغورها آزمایش شده

             چون‌چینگ، یکی از شهرهای هوشمند چین

دروازه یکی از اردوگاه‌هایی در سین‌کیانگ که دولت چین “مرکز بازآموزی مهارت‌های شعلی” می‌خواند

یک مهندس نرم افزار به بی‌بی‌سی گفت در کلانتری‌های استان سین‌کیانگ چین، هوش‌مصنوعی و فناوری شناسایی صورت، برای تشخیص وضعیت عاطفی افراد نصب و به کار گرفته شده است.

شواهد این مهندس به یک فعال حقوق بشر نشان داده شد و او آنها را تکان‌دهنده توصیف کرد. سفارت چین در لندن پاسخ مستقیمی به این ادعاها نداده است ولی می‌گوید حقوق سیاسی و اجتماعی همه اقوام در این کشور تضمین شده است.

در سین‌کیانگ ۱۲ میلیون اویغور زندگی می‌کنند، بیشترشان مسلمان و دائم زیر نظر هستند. اردوگاه‌هایی که دولت چین “مراکز بازآموزی” می‌خواند و فعالان حقوق بشر آن را اردوگاه‌های اجباریِ بسیار امنیتی می‌دانند، در این استان فرار دارند. تخمین زده می‌شود بیش از یک میلیون نفر در این اردوگاه‌ها زندانی‌اند. پکن همیشه استدلال کرده که زیرنظرگرفتن این منطقه ضرورت دارد چون جدایی‌طلبانی که می‌خواهند دولت خود را تشکیل دهند، صدها نفر را در حملاتشان کشته‌اند.

این مهندس نرم افزار که نگران امنیت خود بود، مشروط به اینکه هویتش فاش نشود، پذیرفت با بی‌بی‌سی صحبت کند. نام شرکتی هم که در آن کار می‌کند ذکر نمی‌شود.

او پنج عکس از زندانیان اویغور را نشان داد که این سامانه هوش مصنوعی رویشان آزمایش شده است و گفت: “دولت چین از اویغورها برای آزمایش‌های مختلف استفاده می‌کند، دقیقا همانطور که از موش در آزمایشگاه استفاده می‌شود”.

او کار خود در نصب دوربین‌ در کلانتری‌ها را اینگونه شرح داد: “ما دوربین‌های تشخیص عواطف را در سه متری سوژه قرار می‌دادیم. مثل دستگاه دروغ‌سنج است ولی با فناوری بسیار پیشرفته‌تر”.

او گفت ماموران پلیس از “صندلی مهار” استفاده می‌کردند که در کلانتری‌های سراسر چین به‌وفور بکار می‌روند؛ صندلی‌هایی با”حلقه‌های فلزی” که دور مچ دست و قوزک پا “قفل” می‌شوند.

او شواهدی ارائه داد که نشان می‌دادند سامانه هوش مصنوعی چگونه یاد می‌گیرد کوچکترین تغییر در حالت صورت یا منافذ پوست را شناسایی کند. به ادعای او، این نرم افزار برای “پیش‌داوری بدون هیچ مدرک معتبر” طراحی شده است و یک نمودار دایره‌ای ترسیم می‌کند و در آن وضعیت ذهنی منفی یا اضطراب فرد را به رنگ قرمز نشان می‌دهد.

اویغورها که هستند؟

چین ‘یک میلیون اویغور را در مراکز بازآموزی نگه می‌دارد’

رویای اویغورستان

سفارت چین در لندن پاسخی به سوال‌های ما درباره استفاده از نرم‌افزار تشخیص عواطف در استان سین‌کیانگ نداد ولی گفت: “حقوق سیاسی، اقتصادی، و اجتماعی و آزادی عقاید مذهبی تمام اقوام در سین‌کیانگ کاملا تضمین شده است. مردم بدون توجه به قومیت،‌ در صلح و ثبات در کنار هم زندگی می‌کنند، بدون هیچ محدودیت آزادی‌های فردی”.

سوفی ریچاردسون، مدیر امور چین در دید‌بان حقوق بشر، پس از دیدن شواهد این مهندس گفت: “اینها اطلاعات تکان‌دهنده‌ای هستند، نه فقط برای اینکه آدم‌ها به یک نمودار دایره‌ای تقلیل داده شده‌اند؛ این افراد زیر سرکوب شدید و فشارهای عظیم هستند، معلوم است که عصبی هستند و این نشانه گناه‌کاری آنها تلقی می‌شود، این به نظر من مشکل بسیار بزرگی است”.

رفتار مشکوک

به گفته دارن بیلر، پژوهشگر انسان‌شناسی در دانشگاه کلرادو، اویغورها دائم مجبورند نمونه دی‌ان‌ای بدهند، مرتب اسکن دیجیتال بشوند و بیشترشان باید یک اپلیکیشن دولتی را در موبایل‌هایشان نصب کنند که اطلاعات از جمله لیست تماس و پیامک‌ها را جمع آوری می‌کند:

“همه زندگی اویغورها اکنون شده جمع‌آوری اطلاعات. همه می‌دانند باید همیشه تلفن هوشمند به همراه داشته باشند وگرنه ممکن است بازداشت شوند، آنها می‌دانند که با موبایل خودشان ردیابی می‌شوند و احساس می‌کنند هیچ راه فراری ندارند”.

بیشتر اطلاعات جمع‌آوری‌شده وارد سامانه‌ای می‌شوند به نام “پایگاه عملیات یکپارچه مشترک” که به ادعای دیدبان حقوق بشر رفتارهای بظاهر مشکوک را شناسایی می‌کند.

خانم ریچاردسون می‌گوید: “اطلاعاتی که این سامانه جمع آوری می‌کند شامل ده‌ها رفتاری می‌شود که کاملا قانونی‌اند، مثلا اینکه آیا افراد به جای بیرون رفتن از در جلو از در پشتی خارج می شوند، آیا به ماشینی که مال خودشان نیست بنزین می‌زنند. اکنون جلوی در خانه مردم کدهای کیو آر می‌گذارند تا به راحتی بفهمند چه کسی آنجا هست و چه کسی نیست”.

‘فراتر از تصور’ جورج ارول

این بجث مدت‌ها مطرح است که رابطه شرکت‌های فناوری در چین چقدر با دولت نزدیک است. یک گروه تحقیقاتی مستقر در آمریکا به نام آی‌پی‌وی‌ام مدعی است شواهدی را در درخواست‌های شرکت‌های فناوری چینی برای صدور پروانه‌‌ ثبت امتیاز یافته که نشان می‌دهند نرم‌افزارهایی مختص تشخیص چهره اویغورها طراحی شده‌اند.

در ژوئیه ۲۰۱۸ شرکت هوآوی و فرهنگستان علوم چین برای درخواست ثبت امتیاز، ابداع خود را نوعی فناوری تشخیص چهره توصیف کردند که افراد را بر اساس قومیت‌شان شناسایی می‌کند.

شرکت هوآوی در پاسخ ما گفت “استفاده از فناوری برای تبعیض یا سرکوب اعضای هیچ جامعه‌ای را نمی‌پذیرد” و هر جا این فناوری بکار گرفته شده “مستقل از دولت” بوده است.

گروه آی‌پی‌وی‌ام همچنین می‌گوید سندی را پیدا کرده که ظاهرا نشان می‌دهد شرکت هواوی مشعول ساخت سامانه برای فناوری موسوم به “هر نفر، یک پرونده” است. کانر هیلی از آی‌پی‌وی‌ام می‌گوید:

دولت اطلاعات شخصی، فعالیت سیاسی و روابط همه را ثبت و ضبط می‌کند… هر چیزی که شناختی بدهد از اینکه فرد چگونه ممکن است رفتار کند یا چه خطرهایی ممکن است ایجاد کند. به این ترتیب هر نوع ابراز نارضایتی عملا غیرممکن می‌شود و واقعا دولت را قادر می‌کند رفتار شهروندان را پیش‌بینی کند. فکر نمی‌کنم حتی (جورج) اورل هم تصورش می‌کرد که دولت بتواند به چنین حدی برسد”.

شرکت هوآوی به سوالات مربوط به مشارکتش در توسعه سامانه “هر نفر، یک پرونده” پاسخ مشخصی نداد، فقط تکرار کرد که هر جا فعالیتی دارد “مستقل” از دولت‌ها است. سفارت چین در لندن هم گفت “هیچ اطلاعی” از این برنامه‌ها ندارد.

گروه آی‌پی‌وی‌ام همچنین مدعی است تبلیغات بازاریابی شرکت چینی هیک‌ویژن را یافته که یک دوربین هوش مصنوعی تشخیص چهره اویغورها را تبلیغ می‌کند.

شرکت هیکویژن گفت برخی جزئیات در وب‌سایتش نادرستند و “بدون بررسی مناسب در اینترنت منتشر شده‌اند”. این شرکت اضافه کرد که نه فروشنده “فناوری‌های عملی و تحلیلی برای شناسایی اقلیت‌ها” است نه چنین محصولاتی را بین تولیداتش دارد.

گروه آی‌پی‌وی‌ام همچنین می‌گوید پروانه ثبت امتیاز شرکت عظیم فناوری داهوآ را برای نرم‌افزاری یافته است که اویغورها را شناسایی می‌کند.

شرکت داهوآ گفت اختراعش مربوط به تمام ۵۶ قومیت شناخته‌شده چین است و هیچ قومیت خاصی را هدف قرار نداده است. این شرکت اضافه کرد که محصولات و خدماتش “برای کمک به امنیت مردم” است و کاملا از “قوانین و مقررات هر بازاری که در آن فعالیت می‌کند” تبعیت می‌کند، از جمله در بریتانیا.

دکتر لان ژو، رییس کمیته ملی نظارت بر هوش مصنوعی چین، به بی‌بی‌سی گفت از ثبت حق امتیاز چنین ابداعاتی اطلاع ندارد: “بیرون از چین از این اتهام‌ها ریاد است و بسیاری از آنها دقیق و صحیح نیستند. به نظر من این مسئولیت دولت محلی سین‌کیانگ است که مراقب امنیت مردم باشد… اگر از فناوری به این منظور استفاده شده، کاملا قابل درک است”.

سفارت چین در بریتانیا اما به بی‌بی‌سی گفت: “هیچ نوع فناوری به اصطلاح تشخیص چهره مجهز به تجزیه و تحلیل اویغورها وجود ندارد”.

نظارت هرروزه

از تقریبا ۸۰۰ میلیون دوربین نظارتی در دنیا، تخمین زده می‌شود نیمی در چین هستند. چین شهرهای هوشمند زیادی مانند چون‌چینگ دارد که هوش مصنوعی در بنیان‌های محیط شهری تنیده شده است.

هو لیو، روزنامه نگار تحقیقی مستقر در چون‌چینگ، از تجربه شخصی خود گفت: “به محض اینکه از خانه خارج و وارد آسانسور می‌شوید، دوربین شما را می‌گیرد. همه جا دوربین هست. وقتی از خانه بیرون می‌روم، تاکسی می‌گیرم، شرکت تاکسی‌رانی اطلاعات را برای دولت بارگذاری می‌کند. بعد ممکن است برای دیدن چند دوست به یک کافه بروم و آنها از دوربین کافه از جای من خبردار می‌شوند. مواردی بوده که دوستی را ملاقات کرده‌ام و بلافاصله فردی از دولت با من تماس گرفته و هشدار داده با فلانی ملاقات نکن یا این کار و آن کار را انجام نده”.


“با وجود هوش مصنوعی، ما جایی برای پنهان شدن نداریم”.