- Claude ปรับปรุงความจำและความสามารถในการเรียนรู้โดยการทบทวนประสบการณ์ในช่วงเวลาที่ไม่มีการทำกิจกรรม
- ความท้าทายในการจัดการความจำคือการเลือกข้อมูลที่ควรเก็บรักษาเพื่อหลีกเลี่ยงความยุ่งเหยิง
- กระบวนการความฝันสามารถแก้ไขความผิดพลาดและเพิ่มประสิทธิภาพการทำงานของ Claude
- Claude สามารถเปลี่ยนเอกสารจำนวนมากให้เป็นฐานความรู้ที่เชื่อมโยงกัน เพิ่มความแม่นยำอย่างมีนัยสำคัญ
Anthropic ได้ทำการวิจัยล่าสุดเกี่ยวกับวิธีที่ปัญญาประดิษฐ์ Claude สามารถทบทวนประสบการณ์ในอดีต แก้ไขความจำที่ผิดพลาด และจัดระเบียบสิ่งที่เรียนรู้เพื่อใช้ในการสนทนาในอนาคต แม้ว่ากระบวนการนี้จะถูกเรียกว่า "ความฝัน" แต่ก็ไม่มีความสัมพันธ์โดยตรงกับความฝันของมนุษย์ วิธีนี้ทำให้ Claude สามารถทบทวนการโต้ตอบที่ผ่านมาในช่วงเวลาว่าง ระบุข้อมูลที่ไม่ถูกต้อง ปรับปรุงบันทึกที่มีอยู่ และสร้างความรู้ที่มีโครงสร้างเพื่อใช้ในการสนทนาในอนาคต กระบวนการนี้ได้รับแรงบันดาลใจจากการที่สมองของมนุษย์เสริมสร้างความจำในระหว่างการนอนหลับ การวิจัยของ Anthropic สำรวจหลายส่วนประกอบของระบบ ผลการทดลองแสดงให้เห็นว่าความจำที่เลือกสรรและการบำรุงรักษาเป็นประจำสามารถเพิ่มประสิทธิภาพการทำงานของ Claude ในภารกิจที่ซับซ้อนในระยะยาว
ความท้าทายในการจัดการความจำ
ในระหว่างการทำภารกิจ Claude สามารถเก็บข้อมูลที่มีประโยชน์ไว้ในไฟล์ความจำ อย่างไรก็ตาม การตัดสินใจว่า ข้อมูลใดที่ควรเก็บรักษาเป็นความท้าทาย การบันทึกการโต้ตอบทุกครั้งอาจทำให้เกิดความยุ่งเหยิง ในขณะที่การมองข้ามรายละเอียดที่สำคัญอาจทำให้การสนทนาในอนาคตขาดบริบทที่มีประโยชน์ Anthropic ได้สำรวจปัญหานี้ผ่านการทดสอบ Pokémon Red โดยที่ Claude ต้องนำทางในโลกของเกมและได้รับเหรียญรางวัล นักวิจัยได้เปรียบเทียบโมเดลสองตัวหลังจากประมาณ 10,000 ขั้นตอนการเล่น ความจำช่วยให้ Claude เรียนรู้จากประสบการณ์
ในบทความบล็อกวิศวกรรมล่าสุด Anthropic ได้แบ่งปันว่า "ความฝัน" ช่วยให้ Claude จัดระเบียบสิ่งที่เรียนรู้ แก้ไขข้อผิดพลาด และค้นหาข้อมูลที่ต้องการได้ง่ายขึ้นในครั้งถัดไป
Sonnet 3.7 บันทึกเนื้อหาที่พบเกือบทั้งหมด โดยมีดัชนีความจำประกอบด้วย 413 ไฟล์ แบ่งออกเป็น 225 โฟลเดอร์ โดยมีจำนวนตัวอักษรเกือบ 978,000 แม้จะรักษาบันทึกขนาดใหญ่เช่นนี้ โมเดลนี้ได้รับเหรียญรางวัลเพียงหนึ่งเหรียญ ในทางตรงกันข้าม Claude Fable 5 ใช้แนวทางที่แตกต่างออกไป โดยรักษาเพียง 10 ไฟล์ แบ่งออกเป็นสามตำแหน่ง ใช้ตัวอักษรประมาณ 43,400 ในระหว่างการดำเนินการได้รับเหรียญรางวัลสี่เหรียญ ระบบความจำที่เล็กกว่านี้ให้ความสำคัญกับกลยุทธ์การนำทางและประสบการณ์การเรียนรู้ในเกม พร้อมทั้งรักษาไฟล์ศูนย์กลางเพื่อบันทึกเป้าหมายและแผนการปัจจุบัน
วิธีการนี้ช่วยให้ Claude หลีกเลี่ยงการประมวลผลข้อมูลซ้ำซ้อนที่สามารถดึงจากอินเทอร์เฟซเกมได้ ในขณะเดียวกันก็เก็บรักษาความค้นพบที่มีประโยชน์ซึ่งอาจหายไประหว่างการสนทนา
ฟังก์ชันการแก้ไขของความฝัน
ความฝันช่วยในการแก้ไขข้อผิดพลาด ไฟล์ความจำอาจมีข้อมูลที่ไม่ถูกต้อง เมื่อการสนทนาในอนาคตถือว่ารายละเอียดเหล่านี้เป็นข้อเท็จจริงที่ตั้งอยู่ จะก่อให้เกิดปัญหา Anthropic ได้แสดงให้เห็นว่า ความฝันสามารถแก้ไขปัญหานี้ได้ผ่านการทดลอง Pokémon อีกครั้ง Claude ได้บันทึกตำแหน่งของ Pokémon Center ใกล้ภูเขาดวงจันทร์อย่างผิดพลาด ซึ่งทำให้มันเข้าใจตำแหน่งของตนเองผิดหลังจากออกจากอาคาร และเดินกลับไปตามเส้นทางเดิมอย่างต่อเนื่อง การตรวจสอบออฟไลน์ได้เปลี่ยนผลลัพธ์ Claude เปรียบเทียบบันทึกที่เก็บไว้กับบันทึกการสนทนาเดิม และระบุตำแหน่งที่ไม่ถูกต้อง จากนั้นจึงอัปเดตไฟล์ความจำด้วยข้อมูลที่ถูกต้อง
ผ่านการแก้ไขนี้ Claude กลับเข้าสู่ภูเขาดวงจันทร์และในที่สุดก็ไปถึงเมืองน้ำลึก ในขณะที่เวอร์ชันที่ใช้ความจำผิดพลาดยังคงประสบกับอุปสรรคเดียวกันและไม่สามารถทำภารกิจให้สำเร็จได้
การเปลี่ยนแปลงฐานความรู้
Anthropic ยังได้สำรวจว่าความฝันสามารถเปลี่ยนเอกสารจำนวนมากให้เป็นฐานความรู้ที่เชื่อมโยงกันได้หรือไม่ ระบบเหล่านี้คล้ายกับวิกิ โดยแต่ละหน้าเชื่อมโยงข้อมูลที่เกี่ยวข้อง หนึ่งในการทดลองเกี่ยวข้องกับเอกสารภายในประมาณ 350,000 ฉบับจากบริษัทซอฟต์แวร์ Stainless ซึ่งรวมถึงแท็กประมาณ 420 ล้านแท็ก ใน 128 การสนทนา Claude ค่อยๆ พัฒนาและปรับปรุงวิกิที่ใช้ข้อมูลจากเอกสารนี้ ผลการประเมินใน 25 คำถามจาก 13% เพิ่มขึ้นเป็น 48%
การทดลองรวมเอกสารอีกครั้งยังประสบความสำเร็จอย่างมาก Claude ใช้วิกิเพื่อตอบคำถามที่ต้องการข้อมูลจากเอกสารหลายฉบับ โดยมีความแม่นยำสูงถึง 87% ในขณะที่ความแม่นยำจากการค้นหาเอกสารโดยตรงอยู่ที่ 73% ความฝันยังสามารถจัดระเบียบข้อมูลสำหรับการสนทนาในอนาคต Claude สามารถย้ายรายละเอียดที่จำเป็นบ่อยๆ ไปยังบริบทที่เข้าถึงได้ตลอดเวลา ในขณะที่เก็บข้อมูลที่ไม่เกี่ยวข้องไว้ในไฟล์ที่สามารถค้นหาได้
Anthropic ยอมรับว่าวิธีการนี้ยังต้องการการจัดการอย่างระมัดระวัง การบำรุงรักษาความจำใช้ทรัพยากรการคำนวณ และข้อมูลมากเกินไปอาจทำให้การสนทนาในอนาคตรู้สึกหนักหน่วง นักวิจัยเชื่อว่า ตัวแทนต้องเรียนรู้ว่าเมื่อใดควรเก็บข้อมูลและเมื่อใดควรตรวจสอบใหม่ ผลการทดลองแสดงให้เห็นว่าการจัดการความจำที่ดียิ่งขึ้นสามารถช่วย Claude ในการจัดการภารกิจที่ซับซ้อนมากขึ้นในหลายการสนทนา
วิธีการเพิ่มประสิทธิภาพการเรียนรู้ของ Claude
กระบวนการ "ความฝัน" ของ Claude ไม่เพียงแต่สามารถทบทวนและแก้ไขความจำ แต่ยังสามารถจัดระเบียบความรู้ได้อย่างมีประสิทธิภาพ ซึ่งเป็นสิ่งสำคัญต่อการเพิ่มประสิทธิภาพการทำงานในภารกิจที่ซับซ้อน ผ่านการเลือกความจำและการบำรุงรักษา Claude สามารถรักษาความสามารถในการเรียนรู้ที่มีประสิทธิภาพในหลายการสนทนา และหลีกเลี่ยงการรับข้อมูลมากเกินไป ความสำเร็จของวิธีการนี้ไม่เพียงแต่แสดงให้เห็นถึงศักยภาพของปัญญาประดิษฐ์ในด้านการจัดการความจำ แต่ยังเปิดทางให้กับการปรับปรุงการเรียนรู้และการรวมความรู้ในระบบ AI ในอนาคต