Anthropic ได้ยื่นเอกสาร S-1A ที่แก้ไขแล้วในวันจันทร์ที่ผ่านมา โดยความสนใจจากภายนอกส่วนใหญ่จะมุ่งไปที่ข้อมูลทางการเงิน: รายได้เพิ่มขึ้นอย่างรวดเร็ว ขณะที่ค่าใช้จ่ายก็เพิ่มขึ้นเช่นกัน อย่างไรก็ตาม มีประโยคในเอกสารที่น่าสนใจกว่าที่ควรให้ความสนใจ: บริษัทได้เข้าใกล้การพัฒนาโมเดลที่มีความสามารถในการปรับปรุงตนเองแบบถอยหลัง (RSI) อย่างมาก RSI ที่ Anthropic กล่าวถึง หมายถึง AI ที่มีการฝึกฝนตนเองจนถึงระดับหนึ่งแล้ว ความสามารถจะเพิ่มขึ้นอย่างรวดเร็ว ในสายตาของผู้ที่กังวลเกี่ยวกับการควบคุม RSI ถือเป็นภัยพิบัติที่ไม่สามารถย้อนกลับได้: AI ผ่านการทำซ้ำตนเองจะมีพลังมากพอที่จะหลุดพ้นจากการควบคุมของมนุษย์ และแม้จะสร้างความเสียหายในการ追求เป้าหมายก็ไม่สนใจ
ในขณะที่ผู้ที่มองโลกในแง่ดีเชื่อว่านี่หมายถึงผลผลิตและการค้นพบทางวิทยาศาสตร์ที่ยากจะจินตนาการ
การแถลงของ Anthropic เองอยู่ระหว่างสองมุมมองนี้ เอกสารระบุว่าบริษัทใช้ AI ในการวิจัยและพัฒนาอย่างมาก แต่ก็เตือนว่า “การใช้ AI เพื่อช่วยสร้าง AI ที่มีความสามารถสูงขึ้น อาจนำมาซึ่งความเสี่ยงด้านความปลอดภัยที่สำคัญ โดยเฉพาะเมื่อความก้าวหน้ามีความรวดเร็ว” ความเสี่ยงเหล่านี้ถูกนำเข้ามาใน “นโยบายการขยายอย่างรับผิดชอบ” (RSP) ของบริษัทเพื่อทำการตรวจสอบ ในช่วงต้นปีนี้ RSI เคยเป็นที่นิยมอย่างมาก หลายคนเชื่อว่ามันเป็นเพียงคำศัพท์ที่ร้อนแรง หรืออย่างน้อยก็เป็นเป้าหมายที่ยากจะบรรลุ ยากที่จะกำหนด และยากที่จะตรวจสอบ
นอกจากนี้ Anthropic ยังได้เพิ่มคำอธิบายสองจุดในส่วนของปัจจัยความเสี่ยง: หนึ่งคือบริษัทได้ใช้ AI ในการพัฒนาโมเดลใหม่ ซึ่งความสามารถที่เพิ่มขึ้นในขณะนั้นไม่ได้ถูกสังเกตเห็น; สองคือ ตามการประเมินภายในและความคาดหวังต่อโมเดลในอนาคต แทนที่จะเป็นผลการดำเนินงานของโมเดลในปัจจุบัน บริษัทอาจจะสามารถตอบสนองต่อการกำหนด “ความก้าวหน้าที่เกิดจาก AI ที่เร่งความเร็วอย่างมาก” ใน RSP ได้ในไม่ช้า
Anthropic กำลังพัฒนาโมเดลที่มีความสามารถในการปรับปรุงตนเองแบบถอยหลัง
เอกสารยังยอมรับว่ามีการเกิดขึ้นในอดีตและอาจเกิดขึ้นในอนาคตว่า “จะมีการค้นพบหลังจากที่ความเร่งรีบได้เกิดขึ้นแล้ว” อย่างไรก็ตาม Anthropic ยืนยันว่าในขณะนี้ไม่มีโมเดลใดที่ข้ามเส้นนี้ไป และสัญญาว่าในอนาคตอันใกล้จะยังคงให้มนุษย์มีส่วนร่วมในกระบวนการพัฒนา “เราไม่เชื่อว่าสามารถปล่อยให้ Claude ออกแบบและสร้างโมเดลชั้นนำรุ่นถัดไปได้อย่างปลอดภัยโดยไม่มีการควบคุมหรือความเข้าใจจากมนุษย์” เอกสารระบุว่าบริษัทกำลังพิจารณาที่จะปรับปรุง RSP เพื่อให้แน่ใจว่าการพัฒนาโมเดลชั้นนำจะถูกควบคุมโดยมนุษย์เสมอ
นอกจากนี้ยังมีมุมมองที่เตือนว่าเอกสารประเภท S-1 เป็นทั้งการเปิดเผยข้อมูลและการตลาด และความก้าวหน้าของ Claude ในด้านการเขียนโปรแกรม คณิตศาสตร์ และความปลอดภัยทางไซเบอร์ก็เป็นที่ประจักษ์อย่างชัดเจน