Microsoft Azure เปิดตัว NVIDIA H100 GPU Powered VM ที่กำหนดเป้าหมายเพื่อเร่ง AI เจนเนอเรทีฟ รวมถึง ChatGPT

Microsoft Azure ได้ประกาศ Virtual Machines ใหม่ล่าสุดที่ ขับเคลื่อนโดย GPU H100 ระดับแนวหน้าของ NVIDIA เพื่อเร่ง AI กำเนิด เช่นChatGPT

GPU H100 ของ NVIDIA กำลังขับเคลื่อน Microsoft Azure Virtual Machines ล่าสุด ซึ่งขับเคลื่อนเนื้อหา AI ทั่วไป รวมถึง ChatGPT

ข่าวประชาสัมพันธ์:การส่งมอบตามคำมั่นสัญญาของ AI ขั้นสูงสำหรับลูกค้าของเรานั้นต้องการโครงสร้างพื้นฐานด้านการประมวลผลขั้นสูง บริการ และความเชี่ยวชาญเพื่อจัดการกับขนาดและความซับซ้อนที่เพิ่มขึ้นอย่างทวีคูณของรุ่นล่าสุด

ที่ Microsoft เรากำลังเผชิญกับความท้าทายนี้โดยการใช้ประสบการณ์กว่าทศวรรษในด้านซูเปอร์คอมพิวเตอร์และสนับสนุนเวิร์กโหลดการฝึกอบรม AI ที่ใหญ่ที่สุดเพื่อสร้างโครงสร้างพื้นฐาน AI ที่มีประสิทธิภาพการทำงานขนาดใหญ่ตามขนาด ระบบคลาวด์ Microsoft Azure และโดยเฉพาะหน่วยประมวลผลกราฟิก (GPU) เร่งเครื่องเสมือน (VM) ของเรา เป็นรากฐานสำหรับความก้าวหน้าด้าน AI เชิงสร้างสรรค์มากมายจากทั้ง Microsoft และลูกค้าของเรา

“ การออกแบบซูเปอร์คอมพิวเตอร์ร่วมกับ Azure มีความสำคัญต่อการขยายความต้องการการฝึกอบรม AI ของเรา ทำให้การวิจัยและการจัดตำแหน่งของเราทำงานบนระบบเช่น ChatGPT ได้ ”—Greg Brockman ประธานและผู้ร่วมก่อตั้ง OpenAI

ชุดเครื่องเสมือน AI ที่ทรงพลังและปรับขนาดได้จำนวนมากที่สุดของ Azure

วันนี้ Microsoft ขอแนะนำ ND H100 v5 VM ซึ่งเปิดใช้งานตามต้องการในขนาดตั้งแต่แปดถึงหลายพันNVIDIA H100 GPUsที่เชื่อมต่อกันด้วยเครือข่าย NVIDIA Quantum-2 InfiniBand ลูกค้าจะได้เห็นประสิทธิภาพที่เร็วขึ้นอย่างมากสำหรับโมเดล AI เมื่อเทียบกับ ND A100 v4 VM รุ่นล่าสุดของเรา ด้วยเทคโนโลยีที่เป็นนวัตกรรม เช่น:

8x NVIDIA H100 Tensor Core GPUs เชื่อมต่อกันผ่าน NVSwitch และ NVLink 4.0 รุ่นถัดไป
400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand ต่อ GPU พร้อม 3.2Tb/s ต่อ VM ในเครือข่าย fat-tree แบบไม่ปิดกั้น
NVSwitch และ NVLink 4.0 พร้อมแบนด์วิธแบบ 2 ส่วน 3.6TB/s ระหว่าง 8 GPU ภายในแต่ละ VM
โปรเซสเซอร์ Intel Xeon Scalable เจนเนอเรชั่น 4
โฮสต์ PCIE Gen5 กับ GPU เชื่อมต่อกันด้วยแบนด์วิธ 64GB/s ต่อ GPU
16 ช่องของ 4800MHz DDR5 DIMM

ส่งมอบซูเปอร์คอมพิวเตอร์ AI ที่เกินขนาดไปยังระบบคลาวด์

แอปพลิเคชันเจเนอเรทีฟ AI กำลังพัฒนาอย่างรวดเร็วและเพิ่มมูลค่าที่ไม่เหมือนใครในเกือบทุกอุตสาหกรรม ตั้งแต่การคิดค้นการค้นหาใหม่ด้วย Microsoft Bing และ Edge ที่ขับเคลื่อนด้วย AI ไปจนถึงความช่วยเหลือที่ขับเคลื่อนด้วย AI ใน Microsoft Dynamics 365 AI กำลังกลายเป็นองค์ประกอบที่แพร่หลายอย่างรวดเร็วของซอฟต์แวร์และวิธีที่เราโต้ตอบกับมัน และโครงสร้างพื้นฐาน AI ของเราจะอยู่ที่นั่นเพื่อปูทาง .

ด้วยประสบการณ์ของเราในการส่งมอบซูเปอร์คอมพิวเตอร์ ExaOP หลายเครื่องแก่ลูกค้า Azure ทั่วโลก ลูกค้าจึงวางใจได้ว่าจะได้รับประสิทธิภาพของซูเปอร์คอมพิวเตอร์ที่แท้จริงด้วยโครงสร้างพื้นฐานของเรา สำหรับ Microsoft และองค์กรต่างๆ เช่น Inflection, NVIDIA และ OpenAI ที่มีความมุ่งมั่นที่จะปรับใช้ขนาดใหญ่ ข้อเสนอนี้จะช่วยให้โมเดล AI ขนาดใหญ่ระดับใหม่

” การมุ่งเน้นที่ AI เชิงสนทนาทำให้เราต้องพัฒนาและฝึกอบรมโมเดลภาษาขนาดใหญ่ที่ซับซ้อนที่สุดบางส่วน โครงสร้างพื้นฐาน AI ของ Azure ให้ประสิทธิภาพที่จำเป็นแก่เราในการประมวลผลโมเดลเหล่านี้อย่างมีประสิทธิภาพและเชื่อถือได้ในสเกลขนาดใหญ่ เรารู้สึกตื่นเต้นเกี่ยวกับ VM ใหม่บน Azure และประสิทธิภาพที่เพิ่มขึ้นจะนำมาสู่ความพยายามในการพัฒนา AI ของเรา ”—Mustafa Suleyman, CEO, Inflection

AI ในระดับต่างๆ ถูกสร้างขึ้นใน DNA ของ Azure การลงทุนเริ่มต้นของเราในการวิจัยโมเดลภาษาขนาดใหญ่ เช่น Turing และเหตุการณ์สำคัญทางวิศวกรรม เช่น การสร้างซูเปอร์คอมพิวเตอร์ AI เครื่องแรกในระบบคลาวด์ ทำให้เราพร้อมสำหรับช่วงเวลาที่ปัญญาประดิษฐ์เชิงกำเนิด (generative) เป็นไปได้

บริการ Azure เช่น Azure Machine Learning ช่วยให้ลูกค้าสามารถเข้าถึงซูเปอร์คอมพิวเตอร์ AI ของเราสำหรับการฝึกอบรมแบบจำลอง และบริการ Azure OpenAI ช่วยให้ลูกค้าสามารถเข้าถึงพลังของแบบจำลอง AI เชิงกำเนิดขนาดใหญ่ได้ ขนาดเป็นดาวเด่นของเราเสมอในการปรับ Azure สำหรับ AI ให้เหมาะสม ขณะนี้เรากำลังนำความสามารถด้านซูเปอร์คอมพิวติ้งมาสู่สตาร์ทอัพและบริษัททุกขนาด โดยไม่ต้องลงทุนฮาร์ดแวร์หรือซอฟต์แวร์ทางกายภาพจำนวนมาก

“ NVIDIA และ Microsoft Azure ได้ทำงานร่วมกันผ่านผลิตภัณฑ์หลายรุ่นเพื่อนำนวัตกรรม AI ชั้นนำมาสู่องค์กรทั่วโลก เครื่องเสมือน NDv5 H100 จะช่วยขับเคลื่อนยุคใหม่ของแอปพลิเคชันและบริการ AI กำเนิด ” —Ian Buck รองประธานฝ่ายไฮเปอร์สเกลและการประมวลผลประสิทธิภาพสูงของ NVIDIA

วันนี้เราขอประกาศว่า ND H100 v5 พร้อมใช้งานสำหรับการดูตัวอย่างและจะกลายเป็นข้อเสนอมาตรฐานในพอร์ตโฟลิโอ Azure ซึ่งช่วยให้ทุกคนปลดล็อกศักยภาพของ AI ที่ Scale ในระบบคลาวด์ได้ ลงชื่อสมัครใช้เพื่อขอสิทธิ์เข้าถึง VM ใหม่