VMware Cloud บน AWS กำลังได้รับ GPU เสมือนจริงในขณะที่ บริษัท เป็นพันธมิตรกับ Nvidia

Nvidia

ด้วย AI และการเรียนรู้ของเครื่องเป็นส่วนที่ขาดไม่ได้มากขึ้นในการประมวลผลสมัยใหม่ปัจจัยพื้นฐานทางธุรกิจของ Nvidia ยังคงแข็งแกร่ง พวกเขาเป็นหัวหอกในความพยายามที่จะเป็นกำลังสำคัญในธุรกิจเซิร์ฟเวอร์ที่สร้างความร่วมมือกับ บริษัท เทคโนโลยีหลายแห่ง เมื่อเร็ว ๆ นี้ Nvidia และ VMware ได้ประกาศความร่วมมือกันซึ่งจะนำ vGPU (Virtual GPU Technology) ของ Nvidia มาสู่สแต็ก vSphere ของ VMware บน AWS

GPU ได้รับการออกแบบโดยคำนึงถึงการประมวลผลแบบขนานข้อมูลซึ่งช่วยเร่งการทำงานของเวกเตอร์และเมทริกซ์ ทำให้เหมาะสำหรับปริมาณงาน AI

ก่อนหน้านี้ จำกัด เฉพาะ CPU เท่านั้นขณะนี้เวิร์กโหลด AI สามารถปรับใช้บนสภาพแวดล้อมเสมือนจริงเช่น VMware vSphere ด้วยใหม่ vComputeServer ซอฟต์แวร์และ NVIDIA NGC . ผ่านไฟล์ ความร่วมมือกับ VMware สถาปัตยกรรมนี้จะช่วยให้องค์กรสามารถโยกย้ายปริมาณงาน AI บน GPU ระหว่างศูนย์ข้อมูลลูกค้าและ VMware Cloud บน AWS ได้อย่างราบรื่น

- ANNE HECHT (Nvidia)

ปริมาณงานที่เร่งด้วย GPU มักจะทำงานบนเซิร์ฟเวอร์จริงแบบผู้เช่ารายเดียว แต่ด้วย บริษัท vComputeServer สามารถเรียกใช้ปริมาณงาน AI ในสภาพแวดล้อมเสมือนจริงสิ่งนี้มอบความยืดหยุ่นและประหยัดเงินมากขึ้น (ถึงระดับหนึ่ง) Nvidia รองรับไฮเปอร์ไวเซอร์ที่ใช้ KVM อยู่แล้วซึ่งรวมถึง Red Hat และ Nutanix vSphere ของ VMware เป็นส่วนเสริมล่าสุด

คุณสมบัติของ vComputeServer ได้แก่ :

• ประสิทธิภาพของ GPU: การฝึกอบรมการเรียนรู้เชิงลึกเร็วขึ้นถึง 50 เท่าเมื่อเทียบกับ CPU เท่านั้นประสิทธิภาพใกล้เคียงกับการรัน GPU บนโลหะเปลือย
• การประมวลผลขั้นสูง: การแก้ไขรหัสข้อผิดพลาดและการยกเลิกหน้าแบบไดนามิกช่วยป้องกันความเสียหายของข้อมูลสำหรับปริมาณงานที่มีความแม่นยำสูง
• การย้ายข้อมูลสด: เครื่องเสมือนที่ใช้ GPU สามารถโอนย้ายได้โดยมีการหยุดชะงักหรือหยุดทำงานน้อยที่สุด
• เพิ่มความปลอดภัย: องค์กรสามารถขยายผลประโยชน์ด้านความปลอดภัยของการจำลองเสมือนเซิร์ฟเวอร์ไปยังคลัสเตอร์ GPU
• การแยกผู้เช่าหลายราย : สามารถแยกปริมาณงานเพื่อรองรับผู้ใช้หลายคนอย่างปลอดภัยบนโครงสร้างพื้นฐานเดียว
• การจัดการและการตรวจสอบ : ผู้ดูแลระบบสามารถใช้เครื่องมือการจำลองเสมือนของไฮเปอร์ไวเซอร์เดียวกันในการจัดการเซิร์ฟเวอร์ GPU โดยสามารถมองเห็นได้ที่ระดับโฮสต์เครื่องเสมือนและแอป
• GPU ที่รองรับในวงกว้าง: vComputeServer รองรับ NVIDIA T4 หรือ V100 GPUs เช่นเดียวกับ Quadro RTX 8000 และ 6000 GPU และ Pascal-architecture P40, P100 และ P60 GPUs รุ่นก่อน ๆ

- Nvidia

ผู้ใช้ VMware vSphere จะได้รับการสนับสนุน Nvidia GPU Cloud ซึ่งเป็นแพลตฟอร์มคลาวด์ที่เร่งด้วย GPU ที่ปรับให้เหมาะสมสำหรับการเรียนรู้เชิงลึกและการประมวลผลทางวิทยาศาสตร์ Anne Hecht จาก Nvidia เขียนว่า“ NVIDIA NGC ศูนย์กลางของเราสำหรับซอฟต์แวร์ที่ปรับแต่ง GPU สำหรับการเรียนรู้เชิงลึกแมชชีนเลิร์นนิงและ HPC นำเสนอคอนเทนเนอร์กว่า 150 แบบโมเดลที่ผ่านการฝึกอบรมสคริปต์การฝึกอบรมและขั้นตอนการทำงานเพื่อเร่ง AI จากแนวคิดไปสู่การผลิตรวมถึง RAPIDS ซอฟต์แวร์วิทยาศาสตร์ข้อมูลเร่ง CUDA ของเรา”

ความร่วมมือของ VMware ในสายการผลิตล่าสุด

VMware กำลังจะเข้าซื้อกิจการ Bitfusion ซึ่งจะเพิ่มมูลค่าให้กับแพลตฟอร์มคลาวด์ vSphere ดังที่เราได้กล่าวไว้ก่อนหน้านี้ในบทความการจำลองเสมือนสามารถให้ประโยชน์แก่ บริษัท มากมายโดยมีประสิทธิภาพเพียงเล็กน้อย ด้วยเทคโนโลยีของ Bitfusion บริษัท ต่างๆจะสามารถย้ายออกจากเซิร์ฟเวอร์ bare-metal และทำ GPU เสมือนได้เนื่องจากการจัดเตรียมดังกล่าวจะส่งผลให้สามารถใช้ทรัพยากรที่มีอยู่ได้ดีขึ้น ด้วยการประมวลผลที่รวดเร็วขึ้นซึ่ง บริษัท ต่างๆจะมองหาวิธีในการจำลองสแต็กฮาร์ดแวร์ของพวกเขาเสมือนจริง VMware ตระหนักดีถึงเรื่องนี้และพวกเขากำลังจะทำให้แพลตฟอร์ม vSphere มีความสำคัญในศูนย์ข้อมูล