بخش اول
بررسی یک پروژه هدفمند چینی برای اقدامات وسیع اجتماعی
برای بررسی این موضوع خبرگزاری جمهوری اسلامی ایران (ایرنا) سابقه و قدمت بیشتری نسبت به سایرین داشته است.
از نظر نویسنده تمرکز و توجه تحقیقاتی این خبرگزاری، در زمینه های سنجش، بررسی و اقدامات مرتبط با اجتماع عامل اصلی بشمار می آید.
پیش از بررسی تحقیقات مرتبط با خبرگزاری ایرنا، از شما دعوت می کنم مقاله مجله وایرد ترجمه حسین رحمانی پیرامون موضوع گزارش را مطالعه کنید.
«برادر بزرگ» وارد میشود
داستان سیستم اعتبار سنجی اجتماعی از کجا شروع شد؟
روز چهاردهم ژوئن ۲۰۱۴ (۲۴ خرداد ۱۳۹۳)، شورای دولتی چین سندی با عنوان «طرح کلی ایجاد یک نظام اعتبارسنجی اجتماعی» منتشر کرد که در نوع خود شوم و بدیمن به نظر می‌رسید. این سند هم مانند دیگر اسناد مربوط به سیاست‌گذاری‌های دولت چین، متنی طولانی و خسته کننده بود، ولی شامل ایده‌ای افراطی می‌شد، چه می‌شد اگر نوعی نمره‌ی اعتمادپذیری ملی وجود داشت و مشخص می‌کرد چه نوع شهروندی هستید؟
جهانی را تصور کنید که بسیاری از فعالیت‌های روزانه‌ی شما دائماً زیر نظر باشد و سنجیده شود؛ در فروشگاه‌های محلی و آنلاین چه چیزهایی می‌خرید؟ در هر لحظه کجا هستید؟ دوستانتان چه کسانی هستند و با آنها چه تعامل‌هایی دارید؟ روزی چند ساعت به تماشای محتوای ویدئویی و انجام بازی‌های کامپیوتری می‌نشینید و چه حق اشتراک‌ها و مالیات‌هایی می‌پردازید (یا نمی‌پردازید)؟
تصور چنین جهانی دشوار نیست، چون بخشی از این جهان هم اکنون هم به لطف هیولاهای جمع آوری کننده‌ی اطلاعات از جمله گوگل، فیسبوک و اینستاگرام و نیز اپ‌های تندرستی مانند «فیت بیت»(Fitbit) محقق شده است. اما بیایید سیستمی را تصور کنیم که در آن همه‌ی این فعالیت‌ها و رفتارها براساس مجموعه‌ای از قواعد و قوانین دولتی، به شکل مثبت و منفی ارزش گذاری و در نهایت به صورت یک عدد واحد جمع بندی شده‌اند.
این فرایندی است که «امتیاز شهروندی» (Citizen Score) شما را مشخص می‌کند و اعتماد پذیر بودن یا نبودنتان را به اطلاع دیگران می‌رساند.
افزون بر این، امتیاز شما در یک جدول رده‌بندی عمومی متشکل از امتیازهای کل جمعیت کشور قرار می‌گیرد تا از این طریق شایستگیتان برای دریافت وام، استخدام، فرستادن فرزندانتان به مدرسه‌ای خاص یا حتی دسترسی به اطلاعات مشخص شود.
آیا با تصوری آینده‌نگرانه از «برادر بزرگ» ( Big Brother، در رمان «۱۹۸۴» جورج اورول، نماد حکومتی است که به شیوه‌های گوناگون بر زندگی مردم نظارت دارد) طرفیم که از کنترل خارج شده؟ خیر. قرار است این سیستم در چین اجرا شود؛ دولت چین مشغول توسعه دادن سیستمی به نام «نظام اعتبارسنجی اجتماعی» (Social Credit System یا SCS است تا به کمک آن، اعتماد پذیر بودن جمعیت یک میلیارد نفری‌اش را بسنجد.
دولت چین این سیستم را روشی مطلوب برای «سنجش و تقویت اعتماد» در سراسر کشور می‌داند و آن را ابزاری برای ایجاد فرهنگ «بیریا بودن» معرفی می‌کند. این سیستم به عنوان سیاستی دولتی، فضایی در افکار عمومی پدید می‌آورد که در آن حفظ اعتماد پذیری شکوهمند است. این سیستم بیریا بودن و خلوص نیت را در امور دولتی، تجاری، اجتماعی و ایجاد اعتبار قضایی تقویت می‌کند.
دیگران درباره‌ی اهداف گسترده‌تر این سیستم خوش‌بینی کمتری دارند. «جان لاگرکویست» (John Lagerkvist)، کارشناس اینترنت چینی در «مؤسسه‌ی امور بین‌الملل» سوئد، نظام ارزش دهی اجتماعی را این گونه توصیف می‌کند: «این سیستم، چه از نظر عمق و چه از نظر گستردگی، بسیار بلند پروازانه است و زیر نظر گرفتن رفتار افراد و کتاب‌هایی که می‌خوانند را شامل میشود. این چیزی شبیه به رهگیری مصرف‌کنندگان آمازون است با اهداف سیاسی اورولی.»
«روگیر کریمرز» (Rogier Creemers)، پژوهشگر مقطع پست دکترا و متخصص قوانین و حکومت چین در «موسسه ی ویولن هوون» (Van Vollenhoven Institute) در دانشگاه «لیدن» (Leiden)، این سیستم را با «نوشتن نظری در سایت yelp در حالی که دولت مراقبی از پشت سر زیر نظرتان گرفته» مقایسه می‌کند (yelp.com پایگاهی است برای نقدها و نظرهای مردم عادی درباره‌ی کسب‌وکارهای محلی).
در حال حاضر، از نظر فنی عضو شدن در سیستم امتیازدهی شهروندی چین داوطلبانه است، اما تا سال ۲۰۲۰ (۱۴۰۰) اجباری خواهد شد. رفتار هر شخصیت حقیقی و حقوقی (که شامل تمام شرکت‌ها و نهادها میشود) در چین امتیازدهی و رده‌بندی میشود. فرقی هم نمی‌کند با این کار موافق باشند یا مخالف.
به اکنون باز می گردیم و سال های حوالی 1400 شمسی
یک کار گروهی
چه شرکت‌های مطرحی در این راه به دولت چین کمک می‌کنند؟
پیش از عمومی شدن این سیستم در سال ۲۰۲۰ (۱۴۰۰)، رویکرد دولت چین تماشا و یادگیری خواهد بود. دولت چین که نظارت کمونیستی را با توانایی‌های سرمایه داری ترکیب کرده، به هشت شرکت خصوصی مجوز داده است تا سیستم‌ها و الگوریتم‌های لازم برای سنجش اعتبار اجتماعی را تهیه کنند.
همان‌طور که میشود حدس زد، غول‌های «داده»، اجرای دو مورد از شناخته شده‌ترین پروژه‌ها را به عهده دارند. پروژه‌ی اول بر عهده‌ی شرکتی است به نام «China Rapid Finance» که شریک هلدینگ «تنسنت» (Tencent غول چینی و ارائه دهنده‌ی خدمات شبکه‌های اجتماعی) و توسعه دهنده‌ی «وی‌چت» (WeChat، پیام‌رسانی با بیش از ۸۵۰ میلیون کاربر) است.
پروژه‌ی دوم «Sesame Credit» نام دارد و اجرای آن به عهده‌ی «Ant Financial Services Group» (یا AFSG که شرکتی است وابسته به شرکت «علی بابا») گذاشته شده است. این شرکت خدمات بیمه ارائه می‌کند و به کسب‌وکارهای کوچک و متوسط وام میدهد. در هر صورت، خدمت اصلی AFSG، «علی پی» (AliPay) است؛ خدمات پرداختی‌ای که کاربران برای خرید آنلاین، پرداخت پول رستوران و تاکسی، پرداخت هزینه‌های تحصیل، خرید بلیت سینما و حتی تبادل پول با یکدیگر از آن استفاده می‌کنند.
پروژه‌ی «سسمی کردیت» از همکاری پلتفرم‌های تولید داده‌ی دیگر از جمله «Didi Chuxing» و «Baihe» هم استفاده می‌کند. «Didi Chuxing» شرکت تاکسی یاب آنلاینی است که تا سال گذشته رقیب اصلی «اوبر» در چین بوده؛ سال گذشته هم این شرکت تمام فعالیت شرکت اوبر در چین را خرید و از آن خود کرد. «Baihe» هم بزرگترین سایت دوست یابی آنلاین چین است. تصورش سخت نیست که این سرویس‌ها چگونه مجموعه‌ی بسیار عظیمی از کلان داده‌ها (Big Data) را در اختیار پروژه‌ی «سسمی کردیت» می‌گذارند تا رفتار مردم ارزیابی و امتیازدهی شود.
جاسوس‌های پراکنده
امتیازدهی به مردم در این سیستم چگونه است؟
اما مردم در این سیستم چگونه امتیازدهی می‌شوند؟ در این پروژه، هر شخص امتیازی بین ۳۵۰ تا ۹۵۰ می‌گیرد. علی بابا «الگوریتم پیچیده‌ای» را که برای محاسبه‌ی این عدد به کار می گیرد، افشا نکرده، اما پنج عامل مؤثر در این امتیاز را اعلام کرده است.
عامل نخست سابقه‌ی اعتبار است. برای نمونه، آیا شهروند قبض برق و تلفنش را به موقع پرداخت می‌کند؟ مؤلفه‌ی بعدی ظرفیت انجام کار است که به این شکل تعریف میشود: «توانایی یک کاربر برای به انجام رساندن تعهدهای قرارداد». مؤلفه‌ی سوم مشخصاتی از قبیل شماره‌ی تلفن و نشانی است.
اما مؤلفه‌ی چهارم، یعنی رفتارها و اولویت‌ها، جالب‌تر از همه‌ی این‌هاست. در این سیستم، فعالیت ساده و بی‌ضرری مانند عادت‌های خرید شهروندان، به معیاری برای ارزیابی آنها تبدیل می شود. در حقیقت، علی بابا پذیرفته است که آدم‌ها را از روی نوع محصول‌هایی که می‌خرند، قضاوت می‌کند.
«لی پینگیان» (Li Yingyun)، مدیر تکنولوژی سسمی کردیت، می‌گوید: برای نمونه، کسی که روزانه ۱۰ ساعت بازی ویدئویی انجام میدهد، به عنوان فردی تنبل در نظر گرفته میشود. کسی که به طور مرتب پوشک بچه می‌خرد، احتمالاً پدر یا مادر است و شاید پس از در نظر گرفتن همه‌ی جوانب، بشود گفت احساس مسئولیت بیشتری دارد.
از این رو این سیستم نه تنها رفتار مردم را زیر نظر می‌گیرد، بلکه به این رفتارها شکل میدهد و شهروندان را از خریدها و رفتارهایی که دولت دوست ندارد، رفته رفته دور می‌کند.
دوستان هر فرد هم در این بین اهمیت دارند. پنجمین مؤلفه به روابط بین افراد مربوط میشود. دوستان آنلاین فرد و تعامل‌های آنها درباره‌ی آن فرد چه می‌گویند؟ به اشتراک گذاشتن چیزهایی که سسمی کردیت آنها را «انرژی مثبت» می‌نامد -نوشته‌هایی خوب درباره‌ی دولت یا این که عملکرد اقتصادی مملکت چقدر خوب است- باعث بالارفتن امتیاز هر فرد میشود.
علی بابا مدعی است که در حال حاضر دیدگاه‌ها و مطالب منفی‌ای که در شبکه‌های اجتماعی گذاشته می‌شوند، تأثیری روی امتیاز فرد ندارند. نمی‌توان تأیید کرد که این ادعا صحت دارد یا نه، چون الگوریتم امتیازدهی محرمانه است. ولی خودتان میتوانید تصور کنید که در سال ۲۰۲۰ (۱۴۰۰) که سیستم امتیازدهی خود دولت آغاز به کار می‌کند، اوضاع چگونه ممکن است پیش برود.
با این که هنوز معلوم نیست که آیا هیچ کدام از هشت شرکت خصوصی دخیل در مرحله‌ی آزمایشی این طرح، در نهایت اجرای سیستم دولت را بر عهده خواهند داشت یا نه، ولی باور این موضوع دشوار است که دولت نخواهد داده‌های لازم برای سیستم امتیازدهی اجتماعی خودش را از طریق این شرکت‌ها تأمین کند. اگر چنین اتفاقی بیفتد، به معنای آن است که این پلتفرم‌های خصوصی عملاً به عنوان نهادهای جاسوسی دولت در بین مردم فعالیت می‌کنند.
منتشر کردن نظرهای سیاسی مخالف یا لینک‌هایی درباره‌ی کشتار میدان «تیان آنمن» (Tiananmen) هیچ وقت کار عاقلانه‌ای در چین نبوده است، ولی اکنون این کار میتواند به طور مستقیم در امتیاز فرد تأثیر منفی داشته باشد. اما نکته‌ی غیرمنتظره این جاست: امتیاز شخصی یک فرد میتواند تحت تأثیر حرف‌ها و فعالیت‌های دوستان آنلاینش تغییر کند، بدون آن که حتی خود فرد با دوستانش ارتباطی داشته باشد. اگر کسی از دوستان آنلاین فرد اظهار نظری منفی منتشر کند، امتیاز خود آن فرد هم پایین خواهد آمد.
بیان واضح این رخداد
گزارش تهیه شده توسط فرانس 24
امتیازم را بده
چرا مردم داوطلبانه عضو این سامانه می‌شوند؟
اما چرا تاکنون میلیون‌ها نفر در سامانهای ثبت‌نام کرده‌اند که نسخه‌ی آزمایشی چیزی است که علناً گفته میشود یک سیستم نظارت دولتی خواهد بود؟ ممکن است دلایل نامشخص و بدتری در کار باشد (مانند ترس از انتقام جویی دولت از کسانی که داوطلب نشده‌اند)، ولی نوعی وسوسه برای انجام این کار وجود دارد؛ به این شکل که پاداش‌ها و «امتیازهای ویژه‌ای» برای شهروندانی در نظر گرفته شود که «اعتمادپذیر» بودنشان را به سامانه‌ی سسمی کردیت اثبات کرده باشند.
اگر امتیاز این شهروندان به ۶۰۰ برسد، می‌توانند تا پنج هزار یوان (حدود ۷۵۵ دلار) اعتبار برای خرید از سایت‌های علی بابا دریافت کنند. رسیدن به امتیاز ۶۵۰ به معنای آن است که شخص میتواند بدون وثیقه، ماشین اجاره کند. این داوطلبان همچنین می‌توانند از مزایایی مانند پذیرش سریع‌تر در هتل‌ها یا پذیرش VIP در فرودگاه بین المللی پکن بهره‌مند شوند.
کسانی هم که به امتیاز ۶۶۶ و بالاتر می‌رسند، می‌توانند وامی نقدی تا سقف ۵۰ هزار یوان (معادل ۷۵۵۰ دلار) از شرکت AFSG دریافت کنند. با رسیدن به امتیاز بالای ۷۰۰ هم این امکان به وجود می‌آید که شخص بدون نیاز به مدارکی مانند نامه‌ی اشتغال به کار، به سنگاپور سفر کنند. هر کسی هم که به امتیاز ۷۵۰ برسد، می تواند درخواستی ویژه برای دریافت ویزای «شنگن» (Schengen) پر کند.
روگیر کریمرز می‌گوید: «به گمان من، بهترین استعاره برای درک چنین سیستمی این است که بگوییم به نوعی فرزند نامشروع یک طرح وفاداری است.» امتیازهای بالا همین الان هم به نماد افتخار تبدیل شده‌اند؛ طی چند ماهی که از آغاز به کار این سامانه می‌گذرد، تقریبا ۱۰۰ هزار نفر در «Weibo» (معادل چینی توییتر) به امتیاز بالایشان نازیده‌اند.
نمره‌ی یک شهروند حتی ممکن است بر بخت و اقبال او برای یافتن همسر آینده‌اش تأثیر بگذارد. زیرا هرچه امتیاز فرد در سامانه‌ی سسمی بالاتر باشد، پروفایل بهتری در سایت دوست یابی «Baihe» خواهد داشت.
سسمی کردیت توصیه‌هایی هم برای بالا بردن امتیاز دارد؛ توصیه‌هایی که شامل هشدار نسبت به تأثیر منفی دوست بودن با کم امتیازها میشود. این فرایند ممکن است به پیدایش کسانی منتهی شود که کارشان نوشتن و منتشر کردن نکته‌هایی برای دریافت امتیاز باشد یا مشاورانی که به طور تخصصی استراتژی‌های مؤثر برای بالا بردن امتیاز یا خارج شدن از فهرست‌های سیاه اعتمادناپذیری را آموزش بدهند.
سسمی کردیت در اصل نسخه‌ای از روش‌های نظارتی حزب کمونیست (پرونده‌ی آزاردهنده) است که به کمک کلان داده به شکل نوعی بازی در آمده است. رژیم کمونیستی چین برای هر کسی که خطا یا تخلفی سیاسی یا شخصی داشت، دوسیه‌ای ترتیب میداد و این پرونده در تمام طول زندگی، از دوران تحصیل تا کار، همراه این افراد بود. آدم‌ها درباره‌ی دوستان و حتی افراد خانواده‌ی خودشان گزارش میدادند که باعث افزایش بدگمانی و کاهش اعتماد اجتماعی در چین شده بود.
با پدید آمدن دوسیه‌های دیجیتال، دوباره همان اتفاق‌ها خواهد افتاد. مردم برای آن که به دوستان، همسر، خانواده و همکارانشان بگویند «آن مطلب را منتشر نکن، چون نمی‌خواهم امتیاز خودم و خودت را خراب کنی»، به اندازه‌ی کافی انگیزه خواهند داشت.
ما همه خوبیم
آیا اعلام رضایت مردم چین از سیستم جدید از روی ترس است؟
سامانه‌ی جدید نشان دهنده‌ی یک تغییر پارادایم حیله‌گرانه است، همان طور که اشاره کردیم، به جای تلاش برای برقراری پایداری و اطاعت اجتماعی به کمک یک چماق بزرگ و مقدار معینی ترس از بالا به پایین، دولت چین می‌کوشد فرمانبرداری را به نوعی بازی تبدیل کند. این فرایند شیوه‌ای برای کنترل اجتماعی است که به لباس یک سامانه‌ی مبتنی بر امتیاز و پاداش در آمده است؛ نوعی فرمانبرداری بازی‌گون شده.
در سال ۲۰۱۵ (۱۳۹۴)، خبرنگار بی بی سی به یکی از خیابان‌های شلوغ پایین شهر پکن رفت تا از مردم درباره‌ی امتیاز سسمی کردیتشان پرسوجو کند. بیشتر مردم نظر مثبتی درباره‌ی آن داشتند. اما چه کسی حاضر است درباره‌ی چنین سامانهای در ملاعام نظر بدهد، آن هم در حالی که ممکن است امتیازش پایین بیاید. به طرز نگران کننده‌ای، به نظر می‌رسد کسانی متوجه شده باشند که امتیاز پایین میتواند در آینده به ضررشان باشد.
موضوع نگران کننده‌تر این که تعداد زیادی نمیدانستند که دائماً در حال ارزیابی شدن هستند. در حال حاضر، سسمی کردیت مردم را به خاطر «اعتمادپذیر» نبودن جریمه نمی‌کند؛ این سیستم بیشتر برای هدایت مردم به سمت رفتار خوب مؤثر است. اما «هو تائو» (Hu Tao)، مدیر سسمی کردیت، به مردم هشدار داده است که این سیستم طوری طراحی شده که «آدم‌های اعتمادناپذیر نتوانند ماشین اجاره کنند، پول قرض بگیرند یا حتی شغلی پیدا کنند.»
خانم هو تائو حتی افشا کرده‌است که سسمی کردیت حتی سراغ اداره‌ی آموزش و پرورش چین رفته است تا فهرستی از دانش آموزان متقلب در آزمون‌های سراسری داشته باشد، با این انگیزه که این دانش‌آموزان را وادار کند بهای نداشتن صداقت را در زندگی آینده‌شان بپردازند.
یک تصویر زیبا
این سیستم چه تغییراتی در رفتار انسان‌ها ایجاد خواهد کرد؟
در ۲۵ سپتامبر ۲۰۱۶ (۴ مهر ۱۳۹۵) دفتر شورای عمومی دولت چین سیاست‌هایش را طی اطلاعیه‌ای با عنوان «سازوکارهای هشدار و جریمه برای کسانی که شامل اعتمادشکنی باشند» به روزرسانی کرد. اساس کار ساده است. این سند تصریح می کند: «اگر در یک جا اعتماد شکسته شود. همه‌جا محدودیت اعمال خواهد شد.» برای نمونه، کسانی که امتیاز پایینی داشته باشند سرعت اینترنت پایین‌تری خواهند داشت، دسترسی آنها به رستوران‌ها، باشگاه‌های شبانه یا زمین‌های گلف محدود خواهد بود. و از طریق اهرم‌هایی مانند «کنترل محدود بر مصرف در منطقه‌های تفریحی یا سفرهای تجاری» حقشان برای سفر آزادانه از بین خواهد رفت.
شهروندانی که امتیاز پایینی داشته باشند، نمی‌توانند به خدمت شرکت‌های خاص در بیایند و نمی‌توانند مشاغلی در زمینه‌های خدمات عمومی، روزنامه‌نگاری و حقوق (حوزه‌هایی که مشخصاً باید اعتمادپذیر بود) داشته باشند.
شهروندان کم امتیاز برای ثبت نام خودشان و فرزندانشان در آموزشگاه‌های خصوصی پرهزینه محدود خواهند بود. این، فهرستی ساختگی یا خیالی نیست و واقعیتی است که مردم چین با آن روبرو خواهند شد. طبق سند دولت چین سامانه‌ی اعتبار اجتماعی «امکان میدهد اعتمادپذیری در همه جای کشور جاری شود و بی اعتبار‌ها به‌سختی بتوانند حتی یک قدم بردارند».
به گفته‌ی «لوچیانو فلوریدی» (Luciano Floridi) استاد فلسفه و اخلاق اطلاعات در «دانشگاه آکسفورد»، سه «انتقال از مرکز» (de-centering shifts) اساسی نگاهمان نسبت به «خودفهمی» (self-understanding) را تغییر داده است: مدل کوپرنیکی چرخش زمین به دور خورشید، نظریه‌ی انتخاب طبیعی داروین و ادعای فروید درباره‌ی این که کنش‌های روزانه‌ی ما با ذهن ناخوادگاهمان کنترل میشود. فلوریدی معتقد است ما اکنون با توجه به اینکه هر کاری که به صورت آنلاین و آفلاین انجام می‌دهیم در قالب نوعی «زیست برخط» (onlife) ادغام میشود، مشغول تجربه‌ی چهارمین انتقال هستیم.
فلوریدی ادعا می‌کند با حرکت روزافزون جامعه‌ی ما به سوی یک «اینفوسفر» (infosphere) که ترکیبی است از تجربه‌های فیزیکی و مجازی، انسان‌ها شخصیت‌های زیست برخطی پیدا می‌کنند که با آنچه که در «جهان واقعی» هستیم، تفاوت دارد. این موضوع را می‌توانیم به شکلی گسترده در فیسبوک ببینیم. جایی که آدم‌ها تصویری ویرایش شده و ایده آل از زندگیشان را به نمایش می‌گذارند. به تجربه‌ی استفاده از اوبر و تاکسی‌های آنلاین دیگر فکر کنید. آیا به خاطر آنکه می‌دانستید در پایان سفر راننده به شما امتیاز خواهد داد رفتارتان کمی بهتر نبوده است؟
حساب‌های ناتمام
دلیل اصلی چین برای راه‌اندازی سیستم اعتبار سنجی چیست؟
فوریه‌ی ۲۰۱۷ (بهمن ۱۳۹۵)، دادگاه عالی چین اعلام کرد ۶۱۵ میلیون نفر از شهروندان این کشور طی چهار سال گذشته و به خاطر بدرفتاری‌های اجتماعی از سفر با هواپیما محروم شده‌اند. گفته میشود این محروم سازی به عنوان گامی به سوی ایجاد فهرست‌های سیاه در قالب سیستم اعتبارسنجی اجتماعی است.
«منگ شیانگ» (Nfeng Xiang)، رئیس بخش اجرایی دادگاه عالی، می‌گوید: «ما با بیش از ۴۴ نهاد دولتی یادداشت تفاهم‌هایی امضا کرد‌ه‌ایم تا افراد «بی‌اعتبار» را در سطح‌های مختلف محدود کنیم.» این نوع سیستم‌ها آن‌جایی وارد حوزهای کابوس‌وار می‌شوند که الگوریتم‌های سنجش اعتمدپذیری به کار رفته در آنها به شکل غیرمنصفانه‌ای تقلیل دهنده‌اند.
این الگوریتم‌ها پس‌زمینه‌ی رفتارهای فرد را در نظر نمی‌گیرند. برای نمونه، ممکن است یک نفر به خاطر بستری بودن در بیمارستان موفق نشود قبض آب یا برقش را به موقع بپردازد. البته در این جا چالشی وجود دارد که نه تنها به چینی‌ها، بلکه به همه‌ی ما مربوط میشود. اگر قرار است الگوریتم‌های ارزیابی کننده‌ی زندگی به کارشان ادامه بدهند، لازم است دقیقاً مشخص کنیم این الگوریتم‌ها چگونه می‌توانند ریزه کاری‌های ناسازگاری‌ها و ناپایداری‌های موجود در ذات انسان را درک کنند و چگونه می‌توانند منعکس کننده‌ی زندگی واقعی باشند.
میتوانید آنچه را که چینی‌ها طرح اعتماد می‌نامند، به عنوان نقطه‌ی برخورد «رمان ۱۹۸۴» و نظریه‌ی «سگ پاولف» در نظر بگیرید؛ مانند یک شهروند خوب رفتار کنید تا پاداش بگیرید، و فکر کنید همه چیز خوب است. در هر حال، باید به این نکته هم اشاره کنیم که سامانه‌های امتیازدهی شخصی از چند دهه‌ی پیش در غرب رواج داشته است. بیش از ۷۰ سال پیش، دو نفر به نام‌های «بیل فیر» (Bill Fair) و «هرل ایزاک» (Earl Isaac) امتیاز اعتباری را پدید آوردند.
امروزه شرکت‌هایی از امتیاز «FICO» برای بسیاری از تصمیم‌گیری‌های مالی استفاده می‌کننده؛ تصمیم‌گیری‌هایی شامل مشخص کردن نرخ بهره‌ی رهن یا اینکه اصلاً یک مشتری میتواند وام بگیرد یا نه. بیشتر مردم چین، هیچ‌وقت امتیاز اعتباری نداشته‌اند و در نتیجه هیچ‌وقت اعتبار دریافت نکرده‌اند.
«اون گوان» (Wen Quan) وبلاگ‌نویس تاثیرگذاری که درباره‌ی تکنولوژی و اقتصاد می‌نویسد، می گوید:«بسیاری از مردم چین خانه، ماشین یا کارت اعتباری ندارند. لذا چنین داده‌هایی برای بررسی وجود ندارد. بانک مرکزی چین اطلاعات مالی مربوط به ۸۰۰ میلیون نفر را دارد. اما سابقه‌ی اعتباری سنتی تنها برای ۳۲۰ میلیون نفر ثبت شده است.» به گفته‌ی وزارت بازرگانی چین، زیان اقتصادی ناشی از فقدان اطلاعات اعتباری سالانه معادل ۶۰۰ میلیارد یوان (بیش از ۹۰ میلیارد دلار) است.
دلیل اشتیاق دولت چین به امتیازهای شهروندان، نارسایی‌های سامانه‌ی اعتبار ملی این کشور است. در بازاری که قوانین ضعیفی دارد، فروختن جنس تقلبی و زیر استاندارد رواج دارد. به گزارش «سازمان همکاری و توسعه‌ی اقتصادی» (Organization for Economic Co-operation and Development)، ۶۳ درصد از تمام کالاهای تقلبی، از ساعت گرفته تا کیف دستی و غذای بچه، در چین تولید میشود. کریمرز می‌گوید: «تعداد بسیار زیادی شرکت کوچک وجود دارد. اگر این طرح خاص به نظارت و پاسخگویی بیشتر منجر شود، آن وقت احتمالاً استقبال گرمی از آن خواهد شد.»
پروفسور «وانگ شوکین» (Wang Shugin)، عضو دفتر فلسفه و علوم اجتماعی در دانشگاه «کپیتال نرمال» (Capital Normal) چین، به تازگی برنده‌ی مزایده‌ی دولت برای کمک به توسعه‌ی این سامانه شده است.
سامانهای که او از آن با عنوان «نظام وفاداری اجتماعی چین» یاد می‌کند. به باور وانگ شوکین، بدون چنین سازوکاری مدیریت کسب‌وکار در چین کار پرخطری است، چون حدود نیمی از قراردادهای امضا شده، نقض می‌شوند.
خانم شوکین می‌گوید: با توجه به سرعت پیشرفت اقتصاد دیجیتال، بسیار مهم است که مردم بتوانند اعتبار یکدیگر را به سرعت ارزیابی کنند. رفتار بیشتر مردم از جهان فکری‌شان ناشی میشود. شخصی که به ارزش‌های اصلی سوسیالیستی باور داشته باشد، رفتار بهتری از خود نشان میدهد.» در حقیقت، هدف شورای دولتی ارتقای «ذهنیت صادقانه و سطح اعتبار در سراسر جامعه» به منظور بهبود «رقابت پذیری کلی کشور» است. آیا این امکان وجود دارد که سامانه‌ی اعتبارسنجی اجتماعی در واقع رویکردی شفاف‌تر بر نظارت همگانی باشد، آن هم در کشوری که سابقه‌ی طولانی زیر نظر گرفتن شهروندانش را دارد؟
«رسول مجید» (Rasul Majid)، وبلاگ‌نویسی چینی که درباره‌ی طراحی رفتار و روانشناسی بازی می‌نویسد می‌گوید: «به عنوان یک چینی، آیا با دانستن این که همه‌ی فعالیت‌های آنلاینم ردگیری میشود، نسبت به جزئیات اطلاعات جمع آوری شده آگاه‌تر می‌شوم و سعی می‌کنم با استفاده از این آگاهی با قوانین کنار بیایم یا این که ترجیح می‌دهم در جهل بمانم و امیدوار باشم یا آرزو کنم که حریم خصوصی همچنان وجود داشته باشد و بدنه‌ی قانون‌گذار ما به اندازه‌ی کافی به ما احترام بگذارد و از این داده‌ها بهره برداری نکند؟»
به بیان ساده‌تر، مجید گمان می‌کند این سامانه تنها باعث میشود نظارت و کنترل او براطلاعات شخصی‌اش کمی دقیق‌تر شود. وقتی با غربی‌ها درباره‌ی سامانه‌ی ارزیابی اعتبار اجتماعی در چین حرف می‌زنیم، واکنش آنها پر حرارت و از عمق وجود است. با این حال خود غربی‌ها همین حالا هم به رستوران‌ها، فیلم‌ها، کتاب‌ها و حتی پزشکان امتیاز می‌دهند. در عین حال، فیسبوک میتواند شما را در عکس‌ها تشخیص بدهد بدون آن که لازم باشد، چهره‌ی شما را ببیند. دولت‌های کشورهای جهان هم وارد کسب و کار دیده‌بانی و امتیازدهی شده‌اند.
در آمریکا، «سازمان امنیت ملی» یا «NSA» تنها چشم دیجیتال رسمی‌ای نیست که حرکت‌های شهروندان را زیر نظر دارد. در سال ۲۰۱۵ (۱۳۹۴)، «اداره‌ی امنیت حمل و نقل آمریکا» پیشنهاد داد بررسی شبکه‌های اجتماعی، داده‌های جغرافیایی و سابقه‌ی خرید افراد به فرایند بررسی سوابق اضافه شود. این ایده پس از انتقادهای شدید کنار گذاشته شده اما به این معنا نیست که کاملا از بین رفته باشد.
ما اکنون در جهانی از الگوریتم‌های پیش‌بینی کننده زندگی می‌کنیم که مشخص می‌کنند آیا ما خطرناکیم، شهروند خوبی هستیم یا حتی اعتمادپذیر هستیم یا نه. ظاهراً ما هم رفته رفته به سوی سامانه‌ی چینی‌ها می‌رویم، حتی اگر خودمان خبر نداشته باشیم پس آیا به سوی آینده‌ای می‌رویم که در آن نشان‌گذاری آنلاین و داده کاوی میشویم؟
مشخصا حرکتمان به چنین سمتی است. گذشته از چند حرکت مدنی برای پس گرفتن حریم خصوصی، به طور کلی در حال ورود به دورانی هستیم که کنش‌های فرد براساس استاندارد‌هایی خارج از کنترل او داوری می‌شوند و امکان پاک کردن این داوری ها هم وجود ندارد، نه تنها پیامدهای این داوری‌ها ناراحت کننده‌اند، بلکه این پیامدها دائمی هم هستند. به بیان دیگر، حق فراموش شدن یا از بین رفتن نتایج برخی رفتارها را فراموش کنید و تجربه‌های دوران جوانی و رفتارهای احمقانه را کنار بگذارید.
شفاف باشید
نقش مردم برای تصحیح این سیستم چه میتواند باشد؟
در حالی که شاید تلاش برای ایستادگی در برابر این دوران جدید، دیر باشد انتخاب‌ها و حقوقی داریم که اکنون می‌توانیم به کار ببریم. یکی از این کارها این است که به امتیاز دهندگان، امتیاز بدهیم.
«کوین کلی» (Kevin Kelly) در کتابی با عنوان «اجتناب ناپذیر» (The Inevitable)، آینده‌ای را توصیف می‌کند که نگاه کننده و نگاه شونده به طور شفاف یکدیگر را زیر نظر دارند. کوین کلی می‌نویسد: «اکنون انتخاب مرکزی ما این است که آیا این نظارت، محرمانه و یک‌طرفه باشد یا این که به شکل نوعی نظارت دوطرفه باشد که نظارت بر نظارت کنندگان را هم شامل شود.».
پیش از هر چیز برای این که به افراد داخل دولت (یا هر کسی که کنترل سیستم را به دست دارد) اعتماد داشته باشیم به سازوکارهای اعتمادپذیری نیاز داریم تا مطمئن شویم امتیازدهی‌ها و داده‌ها همراه با احساس مسئولیت و با اجازه‌ی خود ما استفاده میشود. برای اعتماد کردن به سیستم، لازم است از تعداد مجهول‌ها بکاهیم. یعنی باید گام‌هایی برای شفاف‌تر کردن الگوریتم‌ها برداریم.
استدلال علیه افشای اجباری چنین اطلاعاتی این است که اگر مشخص شود سیستم چگونه کار می‌کند. آن وقت امکان فریب دادن با هک کردن سیستم به وجود می‌آید اما اگر قرار باشد انسان‌ها به امتیازهایی تقلیل یابند که بتواند بر زندگیشان تأثیر مستقیم داشته باشد، باید نحوه‌ی کارکرد این امتیازدهی شفاف و روشن باشد.
در چین، برخی شهروندان، مانند اعضای دولت، احتمالاً از این سامانه معاف خواهند بود. واکنش مردم وقتی ببینند رفتارهای ناپسند دولتمردان در امتیاز آنها تأثیری ندارد، چگونه خواهد بود؟ این امکان وجود دارد که شاهد رسوایی‌هایی در حد اسناد پاناما با موضوع تقلب در سوابق باشیم.
اکنون زود است که بدانیم یک فرهنگ مبتنی بر نظارت و امتیازدهی دائمی چگونه از آب در خواهد آمد. اگر سامانه‌های جدول بندی سوابق اجتماعی، اخلاقی و مالی کل یک کشور، با تمام قوا مشغول به کار شونده چه خواهد شد؟ حریم خصوصی و آزادی بیان (که مدت‌هاست در چین محدودشده) تا چه حد محدودتر خواهد شد؟
این‌ها مسائلی هستند که به زودی باید در برابرشان قرار بگیریم. امروز در چین و فردا در جایی نزدیک‌تر، پرسش‌های واقعی درباره‌ی آینده‌ی اعتماد و اعتمادپذیری به فناوری و اقتصاد مربوط نمی‌شود بلکه پرسش‌هایی اخلاقی است.
اگر به اندازه‌ی کافی مراقب نباشیم، اعتماد توزیع شده میتواند به ننگ مشترک تبدیل شود و زندگی میتواند به شکل مسابقه‌ی بی‌پایان محبوبیت درآید، و ما به گونه‌ای تب‌زده به دنبال بالاترین امتیازها باشیم، امتیازهایی که تنها آدم‌های محدودی میتواند به دست بیاورند.