Google เพิ่งเปิดตัวชิปเร่งความเร็ว AI ตัวใหม่ TPU (Tensor Processing Unit) รุ่นที่ 7 ที่ชื่อว่า “Ironwood”! 🚀 เขาบอกว่านี่คือ TPU ที่แรงที่สุดและสเกลได้ใหญ่ที่สุดของ Google เท่าที่เคยมีมา และเป็นรุ่นแรกที่ออกแบบมาเพื่อ “ยุคแห่งการอนุมาน” (age of inference) โดยเฉพาะเลยครับ ซึ่งหมายถึงยุคที่ AI จะคิด วิเคราะห์ และให้ข้อมูลเชิงลึกได้เอง ไม่ใช่แค่ตอบสนองตามคำสั่ง
มาดูสเปคและความสามารถเด่นๆ ของ Ironwood ที่ทำให้มันโหดขนาดนี้กันครับ:
- พลังประมวลผลมหาศาล: เขาเคลมว่า Ironwood เมื่อรวมกัน 9,216 ชิปในหนึ่ง Pod (ที่ระบายความร้อนด้วยของเหลว และเชื่อมต่อกันด้วย ICI networking) จะให้พลังประมวลผลรวมถึง 42.5 Exaflops (FP8)! แรงกว่าซูเปอร์คอมพิวเตอร์ที่ใหญ่ที่สุดในโลกอย่าง El Capitan ถึง 24 เท่า! (ส่วนชิปเดี่ยวๆ ก็แรงถึง 4,614 TFLOPs (FP8)) 🤯 รองรับโมเดล AI ขนาดใหญ่และซับซ้อนได้สบายๆ ทั้งงาน Training และ Inference
- หน่วยความจำและแบนด์วิดท์จัดเต็ม: แต่ละชิปมี HBM (High Bandwidth Memory) สูงถึง 192 GB (เยอะกว่ารุ่น Trillium 6 เท่า) และ แบนด์วิดท์ HBM 7.2 TBps (มากกว่า Trillium 4.5 เท่า) การเชื่อมต่อระหว่างชิป (ICI) ก็เร็วถึง 1.2 Tbps (มากกว่า Trillium 1.5 เท่า) ช่วยให้ข้อมูลไหลลื่น รองรับโมเดลใหญ่ๆ ได้ดีขึ้น ⚡
- ประหยัดพลังงานและเย็น: Ironwood มีประสิทธิภาพต่อวัตต์ (Perf/Watt) ดีกว่า Trillium ถึง 2 เท่า และประหยัดพลังงานกว่า TPU รุ่นแรกถึง 30 เท่า! 💡 ใช้ระบบระบายความร้อนด้วยของเหลว (liquid cooling) ทำให้ทำงานหนักๆ ได้ต่อเนื่อง
- เน้นงาน Inference และอื่นๆ: เป็น TPU ตัวแรกที่รองรับ FP8 เต็มรูปแบบ และมี SparseCore ที่ปรับปรุงใหม่ ช่วยเร่งงานเฉพาะทางอย่างระบบแนะนำ (recommendation) ได้ดีขึ้น ขยายไปสู่งานด้านการเงินและวิทยาศาสตร์ได้ด้วย
- สถาปัตยกรรม AI Hypercomputer: Ironwood เป็นส่วนหนึ่งของสถาปัตยกรรม AI Hypercomputer ของ Google Cloud และใช้ซอฟต์แวร์ Pathways จาก Google DeepMind ช่วยให้การเขียนโปรแกรมเพื่อใช้งาน TPU จำนวนมหาศาล (หลักหมื่น หลักแสนชิป!) ทำได้ง่ายขึ้น
ถือเป็นอีกก้าวสำคัญของ Google ในการพัฒนาฮาร์ดแวร์สำหรับ AI โดย Ironwood จะพร้อมใช้งานในช่วงปลายปี 2025 นี้ครับ! 👍
