NVIDIA GH200 GPU เสริมด้วยหน่วยความจำ HBM3e ที่เร็วที่สุดในโลก มอบแบนด์วิธ 5 TB/s

NVIDIA เพิ่งประกาศเปิดตัว GH200 GPU ซึ่งตอนนี้มาพร้อมกับ HBM3e ซึ่งเป็นโซลูชั่นหน่วยความจำที่เร็วที่สุดในโลก

NVIDIA ติดตั้ง AI GPU ที่เร็วที่สุดในโลกด้วยหน่วยความจำที่เร็วที่สุดในโลก: พบกับ GH200 HBM3e Edition!

จากข้อมูลของ NVIDIA Hopper GH200 GPU เป็นชิป HBM3e ตัวแรกของโลก ซึ่งไม่เพียงให้แบนด์วิธหน่วยความจำที่สูงกว่า แต่ยังให้ความจุหน่วยความจำที่สูงกว่าด้วย ตอนนี้ระบบ Grace Hopper แบบคู่มีความจุเพิ่มขึ้น 3.5 เท่าและแบนด์วิธสูงกว่าข้อเสนอเดิมถึง 3 เท่า ขณะนี้ระบบสามารถเสนอหน่วยความจำ HBM3e ได้สูงสุด 282 GB

หน่วยความจำ HBM3e นั้นมีความเร็วสูงกว่ามาตรฐาน HBM3 ที่มีอยู่ถึง 50% โดยมอบแบนด์วิธสูงสุด 10 TB/s ต่อระบบ และแบนด์วิธ 5 TB/s ต่อชิป ตอนนี้หน่วยความจำ HBM3e จะถูกใช้เพื่อขับเคลื่อนระบบที่ขับเคลื่อนด้วย GH200 (400 และเพิ่มขึ้นเรื่อย ๆ) ซึ่งรวมถึงการผสมผสานที่หลากหลายของสถาปัตยกรรม CPU, GPU และ DPU ล่าสุดของ NVIDIA รวมถึง Grace, Hopper, Ada Lovelace และ Bluefield เพื่อตอบสนอง ความต้องการที่เพิ่มขึ้นในกลุ่ม AI

NVIDIA ยังไม่ได้ประกาศเป็นพิเศษว่าใครจะเป็นผู้จัดหาหน่วยความจำ HBM3e ใหม่ล่าสุดสำหรับใช้กับ GH200 AI GPU แต่เมื่อเร็ว ๆ นี้ SK Hynix ได้รับรายงานว่าได้รับคำขอจาก NVIDIA เพื่อทดลองใช้ HBM3e DRAM รุ่นถัดไป ในขณะเดียวกัน Samsung ยังมีชิป HBM3 ที่เร็วกว่า ซึ่งสามารถให้แบนด์วิดท์ได้สูงสุด 5 TB/s ต่อสแต็ค แม้ว่าดูเหมือนว่า SK Hynix อาจเป็นตัวเลือกสำหรับ GPU GH200

NVIDIA ประกาศในวันนี้ถึงแพลตฟอร์ม NVIDIA GH200 Grace Hopper เจนเนอเรชั่นใหม่ ซึ่งใช้ Grace Hopper Superchip ใหม่พร้อมโปรเซสเซอร์ HBM3e ตัวแรกของโลก สร้างขึ้นสำหรับยุคของการประมวลผลแบบเร่งความเร็วและ AI กำเนิด

สร้างขึ้นเพื่อจัดการกับเวิร์กโหลด AI เชิงกำเนิดที่ซับซ้อนที่สุดในโลก ซึ่งครอบคลุมโมเดลภาษาขนาดใหญ่ ระบบผู้แนะนำ และฐานข้อมูลเวกเตอร์ แพลตฟอร์มใหม่นี้จะพร้อมใช้งานในการกำหนดค่าที่หลากหลาย

การกำหนดค่าแบบคู่ — ซึ่งให้ความจุหน่วยความจำเพิ่มขึ้นสูงสุด 3.5 เท่า และแบนด์วิธมากกว่ารุ่นปัจจุบันถึง 3 เท่า — ประกอบด้วยเซิร์ฟเวอร์เดียวที่มี 144 Arm Neoverse cores, ประสิทธิภาพ AI แปด petaflops และ 282GB ของเทคโนโลยีหน่วยความจำ HBM3e ล่าสุด

หน่วยความจำ HBM3e ซึ่งเร็วกว่า HBM3 ปัจจุบัน 50% มอบแบนด์วิธรวมกันทั้งหมด 10TB/วินาที ทำให้แพลตฟอร์มใหม่สามารถเรียกใช้โมเดลที่ใหญ่กว่าเวอร์ชันก่อนหน้า 3.5 เท่า ในขณะที่ปรับปรุงประสิทธิภาพด้วยแบนด์วิดท์หน่วยความจำที่เร็วขึ้น 3 เท่า

ผ่านทาง NVIDIA

NVIDIA ยังระบุด้วยว่าความพร้อมใช้งานของระบบแรกที่ใช้ GPU Hopper GH200 พร้อมเทคโนโลยีหน่วยความจำ HBM3e ใหม่จะวางจำหน่ายในไตรมาสที่ 2 ปี 2024 ซึ่งช้ากว่า GPU AMD Instinct MI300X เล็กน้อยซึ่งจะมีแบนด์วิธ HBM3 5 TB/s+ ใกล้เคียงกัน ความจุ VRAM ถึง 192 GB

แหล่งที่มา : wccftech.com