Anthropic قدمت يوم الاثنين الماضي ملف S-1A المعدل، حيث كانت الأنظار متجهة بشكل كبير نحو البيانات المالية: زيادة كبيرة في الإيرادات، وزيادة مماثلة في النفقات. ومع ذلك، هناك جملة واحدة في الملف تستحق المزيد من الاهتمام: الشركة قريبة جدًا من تطوير نموذج يمتلك القدرة على تحسين الذات بشكل متكرر (RSI). يشير مصطلح RSI الذي تستخدمه Anthropic إلى الزيادة المفاجئة في القدرات التي يمكن أن يحققها الذكاء الاصطناعي بعد الوصول إلى مستوى معين من التدريب الذاتي. بالنسبة لأولئك القلقين من فقدان السيطرة، يُعتبر RSI نوعًا من الكارثة التي لا يمكن عكسها: يصبح الذكاء الاصطناعي قويًا بما يكفي من خلال التكرار الذاتي، مما يؤدي في النهاية إلى الخروج عن سيطرة البشر، حتى أنه لا يأخذ في الاعتبار الأضرار الناتجة عن سعيه لتحقيق الأهداف.
بينما يرى المتفائلون أن هذا يعني إنتاجية واكتشافات علمية لا يمكن تصورها.
تتراوح تعبيرات Anthropic بين الطرفين. يشير الملف إلى أن الشركة تستخدم الذكاء الاصطناعي بشكل كبير في البحث والتطوير، ولكنه يحذر في الوقت نفسه: "استخدام الذكاء الاصطناعي للمساعدة في بناء نماذج أقوى قد يؤدي إلى مخاطر أمان كبيرة، خاصة عندما تتسارع وتيرة التقدم." يتم تضمين هذه المخاطر في سياسة "التوسع المسؤول" (RSP) الخاصة بالشركة للمراقبة. في وقت سابق من هذا العام، كانت RSI موضوعًا شائعًا، حيث اعتقد الكثيرون أنه مجرد مصطلح رائج، أو على الأقل هدف يصعب تحقيقه وتعريفه والتحقق منه.
كما أضافت Anthropic نقطتين جديدتين في قسم عوامل المخاطر: الأولى هي أن الشركة قد طورت نماذج جديدة باستخدام الذكاء الاصطناعي، ولم يتم ملاحظة تحسين قدراتها في ذلك الوقت؛ والثانية هي أنه وفقًا للتقديرات الداخلية والتوقعات بشأن النماذج المستقبلية، وليس بناءً على أداء النماذج الحالية، قد تكون الشركة قريبة جدًا من تحقيق تعريف "التقدم السريع الناتج عن الذكاء الاصطناعي" في RSP.
Anthropic تعمل على تطوير نماذج ذات قدرة على تحسين الذات بشكل متكرر
يعترف الملف أيضًا بوجود حالات سابقة، وقد تحدث حالات مستقبلية، حيث يتم اكتشاف "التسارع بعد حدوثه". ومع ذلك، تؤكد Anthropic أنه لا يوجد أي نموذج حالي قد تجاوز هذه الحدود، وتتعهد بإبقاء البشر في عملية البحث والتطوير في المستقبل المنظور. "لا نعتقد أنه يمكن السماح لـ Claude بتصميم وبناء النماذج المتقدمة القادمة بشكل كامل ومستقل دون إشراف أو فهم بشري ذي مغزى." يشير الملف إلى أن الشركة تفكر في تعديل RSP لضمان أن تطوير النماذج المتقدمة يبقى دائمًا تحت سيطرة البشر.
علاوة على ذلك، هناك وجهات نظر تشير إلى أن ملفات مثل S-1 هي في الأساس إعلانات معلوماتية، وكذلك نوع من التسويق، بينما التقدم الذي حققه Claude في البرمجة والرياضيات وأمن الشبكات هو بالفعل أمر واضح للجميع.