Google ขยายชุด TPU รุ่นที่ 8 เพิ่มระบบเฉพาะเพื่อรองรับความต้องการการคำนวณ AI ขององค์กร

Google ได้เพิ่มระบบเฉพาะสองรุ่นในชุด Tensor Processing Unit (TPU) รุ่นที่ 8 เพื่อตอบสนองต่อการคำนวณ AI ที่ปลอดภัยและความต้องการที่มีหน่วยความจำขนาดใหญ่ การขยายในครั้งนี้ทำให้ Google มี TPU ที่แตกต่างกันสี่รุ่นในรุ่นเดียวกัน ซึ่งสะท้อนถึงความต้องการที่เพิ่มขึ้นในโครงสร้างพื้นฐาน AI ขององค์กร ระบบใหม่ TPU 8tx และ TPU 8i Max ตอบโจทย์ความท้าทายที่เกิดขึ้นเมื่อองค์กรนำ AI ตัวแทนไปใช้งาน

หนึ่งในรุ่นมุ่งเน้นไปที่การจัดการงานที่ละเอียดอ่อนด้วยการคำนวณที่ปลอดภัย ขณะที่อีกหนึ่งรุ่นมุ่งเน้นการจัดการโมเดลที่มีข้อมูลบริบทจำนวนมาก Google ระบุว่า ธุรกิจ TPU ของตนให้บริการลูกค้าเกือบ 100 ราย ซึ่งรวมถึงห้องปฏิบัติการวิจัย AI บริษัทการเงิน ผู้ค้าปลีก และมหาวิทยาลัย โดยผู้ใช้สามารถนำ TPU ไปใช้งานได้โดยตรงในศูนย์ข้อมูลของตนเอง

ฟังก์ชันการคำนวณที่ปลอดภัยของ TPU 8tx

TPU 8tx มุ่งเน้นการจัดการข้อมูลที่ละเอียดอ่อนหรือการดำเนินงานภายใต้ข้อกำหนดด้านการควบคุมที่เข้มงวด Google ได้รวมฟังก์ชันการคำนวณที่ปลอดภัยในระดับฮาร์ดแวร์ในระบบนี้ เพื่อปกป้องข้อมูลและน้ำหนักของโมเดลในระหว่างกระบวนการจัดการข้อมูล โดยทั่วไปแล้ว โปรเซสเซอร์จะต้องถอดรหัสข้อมูลก่อนที่จะจัดการ ซึ่งอาจทำให้เกิดการเปิดเผยที่อาจเกิดขึ้นแม้ในขณะที่ใช้เทคนิคการเข้ารหัสในระบบจัดเก็บและการเชื่อมต่อเครือข่าย Google กล่าวไว้ว่า "วันนี้ เราได้ขยายชุดผลิตภัณฑ์ TPU รุ่นที่ 8 โดยเปิดตัวระบบใหม่สองรุ่นที่สร้างขึ้นสำหรับยุคของตัวแทน ทำให้จำนวนระบบ TPU รุ่นที่ 8 ที่เราเปิดตัวในปีนี้เพิ่มขึ้นเป็นสี่รุ่น"

การเพิ่มแบนด์วิดธ์ของหน่วยความจำใน TPU 8i Max

TPU 8i Max มุ่งแก้ไขข้อจำกัดด้านแบนด์วิดธ์ของหน่วยความจำ โดยเฉพาะอย่างยิ่งงาน AI ขนาดใหญ่ที่ต้องการให้โปรเซสเซอร์เข้าถึงข้อมูลจำนวนมากโดยไม่ต้องรอการถ่ายโอนข้อมูล Google ได้รวมชิป TPU 8i สองตัวในบรรจุภัณฑ์เดียวเพื่อแก้ไขปัญหานี้ ระบบที่เกิดขึ้นจึงมีความสามารถในการคำนวณ, SRAM บนชิป และแบนด์วิดธ์หน่วยความจำที่สูงขึ้นเป็นสองเท่า และสามารถรองรับชิปได้มากขึ้นในรูปแบบการจัดเรียงที่มีอยู่ ทำให้ศูนย์ข้อมูลสามารถบรรจุความสามารถในการคำนวณได้มากขึ้นในพื้นที่ทางกายภาพเดียวกัน

ชุดผลิตภัณฑ์ที่ขยายออกไปในขณะนี้ครอบคลุมถึงขั้นตอนต่าง ๆ ของการพัฒนาและการนำ AI ไปใช้ TPU 8t ใช้สำหรับการฝึกอบรมโมเดลขนาดใหญ่ ขณะที่ TPU 8i มุ่งเน้นการอนุมานและการคาดการณ์ที่มีความล่าช้าต่ำ TPU 8tx เพิ่มความสามารถในการคำนวณที่ปลอดภัย TPU 8i Max มุ่งเน้นไปที่การใช้งานที่ต้องการหน้าต่างบริบทจำนวนมากและความหนาแน่นในการคำนวณที่สูง Google ได้นำเสนอ TPU 8t และ TPU 8i ในงาน Cloud Next เมื่อเดือนเมษายนที่ผ่านมา โดยรายงานว่า TPU 8t มีประสิทธิภาพการฝึกอบรมเพิ่มขึ้นสูงสุดถึง 2.7 เท่า ขณะที่ TPU 8i มีประสิทธิภาพการอนุมานที่ดีกว่ารุ่นก่อนถึง 80%

การปรับปรุงฮาร์ดแวร์เป็นเพียงส่วนหนึ่งของกลยุทธ์ที่กว้างขึ้นของ Google บริษัทกำลังพยายามลดความเชี่ยวชาญด้านซอฟต์แวร์ที่จำเป็นในการนำงานไปใช้งานบนเร่งความเร็วของตน โครงการ TorchTPU ที่เป็นโอเพนซอร์สของบริษัทได้นำการสนับสนุน PyTorch มาใช้ในแพลตฟอร์ม ทำให้นักพัฒนาสามารถเรียกใช้โค้ด PyTorch ที่มีอยู่และโมเดล Hugging Face ได้โดยไม่ต้องเขียนโปรแกรมใหม่ Google ยังได้เปิดตัวตัวแทนการพัฒนา TPU ที่เข้ากันได้กับ Claude Code, Cursor และ Google Antigravity ซึ่งเครื่องมือเหล่านี้สามารถทำให้กระบวนการเริ่มต้นอัตโนมัติ, ระบุปัญหาด้านประสิทธิภาพ และปรับแต่งเคอร์เนลที่กำหนดเอง

ฟังก์ชันใหม่อีกอย่างคือ TPU Sync ที่สร้างสถาปัตยกรรมหน่วยความจำที่เป็นเอกภาพ ซึ่งครอบคลุมหน่วยความจำ TPU, หน่วยความจำหลัก และการจัดเก็บข้อมูลร่วม Google ระบุว่าสามารถลดความล่าช้าของการถ่ายโอนค่าและเวลาของโทเค็นแรกได้มากกว่า 90% บริษัทยังขยายเครื่องมือการจัดการโครงสร้างพื้นฐานของตน Cloud Pathways และ GKE Dynamic Slicing ช่วยให้นักพัฒนาสามารถประสานกลุ่ม TPU ขนาดใหญ่และปรับเปลี่ยนทรัพยากรการคำนวณได้อย่างมีประสิทธิภาพ กลยุทธ์ที่กว้างขึ้นของ Google คือโครงสร้างพื้นฐาน AI ต้องก้าวข้ามความเร็วที่เร็วขึ้นของโปรเซสเซอร์เดียว เนื่องจากตัวแทนอิสระจัดการกับงานที่ซับซ้อนมากขึ้น หน่วยความจำ, เครือข่าย และความปลอดภัยจะมีบทบาทสำคัญเช่นกัน