تحذير من دراسة: الذكاء الاصطناعي قد يحوّل نظام الائتمان الاجتماعي في الصين إلى أداة مراقبة

تحذر دراسة صينية من أن إدخال الذكاء الاصطناعي (AI) في نظام الائتمان الاجتماعي الحالي قد يكون خطأً. وقد نُشرت هذه الدراسة في "مجلة جامعة سيتشوان للمعلمين"، مشيرة إلى أن ذلك قد يحوّل نظام التقييم إلى نوع من "أداة المراقبة الجماعية". ومن الجدير بالذكر أن هذه الدراسة تم تمويلها من قبل مشروع مدعوم من الحكومة الصينية، يهدف إلى استكشاف الحوكمة الاجتماعية والابتكار المؤسسي.

حالياً، يتكون نظام نقاط الائتمان الاجتماعي في الصين من برامج مختلفة. يجمع بين نظام الائتمان المالي الذي يشبه تقييمات الائتمان أو التقارير الغربية، ويشمل أيضاً قوائم سوداء تنظيمية للأفراد أو الشركات التي تم معاقبتها بسبب انتهاكات قانونية. كما يتضمن النظام تجارب سلوكية محلية، حيث يتم مكافأة أو معاقبة الأفراد بناءً على معايير محددة، ويحتوي على مجموعة من آليات المساءلة الحكومية لمراقبة امتثال وسلوك الموظفين العموميين. هذه البرامج ليست متصلة بنقطة وطنية موحدة لكل مواطن، ولكنها قد تعيق فرص الأفراد في الحصول على قروض وغيرها من الفرص من خلال اتخاذ قرارات تلقائية.

التأثيرات المحتملة للذكاء الاصطناعي

تعتبر الدراسة أن إدخال الذكاء الاصطناعي قد يحوّل هذا النظام إلى ما يعتبره العديد من النقاد الغربيين نظاماً شبيهاً بنظام أورويل. هل يعد الجمع بين نقاط الائتمان الاجتماعي والذكاء الاصطناعي فكرة جيدة؟ وفقاً لتقرير، يمكن أن يكون هذا النظام المدعوم بالذكاء الاصطناعي قادراً على تحليل أنشطة الأفراد، والتاريخ المالي، والعلاقات، وغيرها من البيانات المتاحة على نطاق واسع. ومن ثم، قد يحكم النظام على شخص ما بأنه مشابه لأشخاص قد يثيرون مشاكل. في هذه الحالة، قد لا يكون لدى الفرد أي سلوك غير لائق، لكن النظام قد يعامله بطرق مختلفة. سيؤدي ذلك إلى تحول النظام من كونه استجابة رئيسية إلى كونه أكثر تنبؤية، مشابهة لمؤامرة فيلم "تقارير الأقلية"، ولكن بشكل أكثر تطرفاً.

يحذر الباحث لين جيان شينغ من أن هذا التحول المحتمل قد ينتقل من تقييم السلوك الفعلي إلى تحليل ملفات الأفراد، واتخاذ قرارات إدارية بناءً على المخاطر المتوقعة من خلال الخوارزميات. تحدث كل هذه العمليات دون علم المعنيين، وفي ظل عدم ارتكابهم لأي انتهاك رسمي، قد يتعرض الأفراد لـ "عقوبات" من خلال تقليل فرصهم أو زيادة تدقيقهم. والأهم من ذلك، أن هذا ليس مجرد نظرية. فقد استعرضت دراسة أجرتها جامعة ستانفورد في عام 2025 النظام الحالي للائتمان الاجتماعي، حيث تم التحقيق في نظام الائتمان الاجتماعي في مدينة صينية، حيث كانت النقطة الابتدائية للبالغين 1,000 نقطة، ثم تتغير بناءً على الالتزام بـ 389 قاعدة مكافأة وعقوبة.

تشمل هذه القواعد السلوكيات السياسية، مثل تقديم التماس للسلطات الحكومية. كما وجدت الدراسة أن الأفراد الذين يحصلون على أدنى تصنيف قد يواجهون مراقبة الشرطة. وبالمقارنة مع سكان المدن، يبدو أن سكان الريف يواجهون عيوباً غير عادلة، حيث تقل فرصهم في الحصول على المكافآت. بشكل عام، وجدت الدراسة أنه على الرغم من عدم وجود نظام "الأخ الأكبر" على مستوى البلاد، إلا أن بعض الأنظمة المحلية تبدو أنها تعاقب الناس بما يتجاوز نطاق الجرائم الجنائية البسيطة. ومع ذلك، قد يجعل إدخال الذكاء الاصطناعي هذه المخاوف حقيقة واقعة للجميع.

الاحتمالات والتحديات المستقبلية

من المهم الإشارة إلى أنه لا توجد حالياً أدلة على وجود خطط لإدخال نظام تقييم اجتماعي موحد مدعوم بالذكاء الاصطناعي على مستوى البلاد. ومع ذلك، تستكشف الصين بالفعل تطبيقات الذكاء الاصطناعي في الإدارة العامة. تعتبر هذه الدراسة بمثابة تحذير، فإذا حدث ذلك في المستقبل، فلن تكون النتائج مرضية. من ناحية أخرى، قد يجادل المؤيدون بأن التعرف بشكل موثوق على المجرمين المحتملين يمكن أن يفيد المجتمع ويساعد في تحديد الأشخاص الأكثر حاجة للمساعدة. إذا كان من المقرر إدخال الذكاء الاصطناعي، تشير الدراسة إلى أنه يجب القيام بذلك بطريقة لا تعاقب الأبرياء ولا تتسبب في تدخل مفرط.

هل هذه مهمة مستحيلة؟ سيقرر القارئ بنفسه.

مخاطر إدخال الذكاء الاصطناعي في نظام الائتمان الاجتماعي

قد يؤدي إدخال الذكاء الاصطناعي في نظام الائتمان الاجتماعي في الصين إلى تأثيرات عميقة، خاصة في مجالات الخصوصية الفردية والمراقبة. تشير الدراسة إلى أن هذا النظام قد يتحول من كونه استجابة إلى كونه تنبؤياً، مما يؤدي إلى معاقبة الأبرياء. على الرغم من عدم وجود خطط حالياً لتنفيذ نظام وطني، إلا أن المخاطر المستقبلية لا يمكن تجاهلها مع تطور التكنولوجيا. كيف يمكن تحقيق التوازن بين تطبيق التكنولوجيا وحقوق الأفراد سيكون موضوعاً مهماً في حوكمة المجتمع الصيني.