VMware Cloud on AWS obtiene GPU virtualizadas a medida que la empresa se asocia con Nvidia

Nvidia

Dado que la inteligencia artificial y el aprendizaje automático son una parte cada vez más indispensable de la informática moderna, los fundamentos empresariales de Nvidia siguen siendo sólidos. Han encabezado su esfuerzo por ser una fuerza destacada en el negocio de los servidores forjando asociaciones con múltiples empresas de tecnología. Recientemente, Nvidia y VMware anunciaron una alianza, que llevará la vGPU (tecnología de GPU virtual) de Nvidia a la pila vSphere de VMware en AWS.

Las GPU están diseñadas teniendo en cuenta la computación en paralelo de datos, lo que acelera las operaciones vectoriales y matriciales. Esto los hace ideales para cargas de trabajo de IA.

Antes limitadas a solo CPU, las cargas de trabajo de IA ahora se pueden implementar fácilmente en entornos virtualizados como VMware vSphere con nuevos vComputeServer software y NVIDIA NGC . A través de nuestro asociación con VMware , esta arquitectura ayudará a las organizaciones a migrar sin problemas cargas de trabajo de IA en GPU entre los centros de datos de los clientes y VMware Cloud on AWS.

- ANNE HECHT (Nvidia)

Las cargas de trabajo aceleradas por GPU a menudo se ejecutan en servidores físicos de un solo inquilino, pero con vComputeServer, las empresas pueden ejecutar cargas de trabajo de IA en un entorno virtualizado, esto ofrece más flexibilidad y ahorros monetarios (hasta una cierta escala). Nvidia ya admite algunos hipervisores basados ​​en KVM, incluidos Red Hat y Nutanix. VSphere de VMware es la última incorporación.

Las características de vComputeServer incluyen:

• Rendimiento de la GPU: Entrenamiento de aprendizaje profundo hasta 50 veces más rápido que solo con CPU, rendimiento similar al de ejecutar GPU en bare metal.
• Computación avanzada: El código de corrección de errores y el retiro dinámico de páginas evitan la corrupción de datos para cargas de trabajo de alta precisión.
• Migración en vivo: Las máquinas virtuales habilitadas para GPU se pueden migrar con una interrupción o un tiempo de inactividad mínimos.
• Seguridad incrementada: Las empresas pueden extender los beneficios de seguridad de la virtualización de servidores a los clústeres de GPU.
• Aislamiento de múltiples inquilinos : Las cargas de trabajo se pueden aislar para admitir de forma segura a varios usuarios en una única infraestructura.
• Gestión y seguimiento :  Los administradores pueden usar las mismas herramientas de virtualización de hipervisor para administrar servidores de GPU, con visibilidad a nivel de host, máquina virtual y aplicación.
• Amplia gama de GPU compatibles: vComputeServer es compatible con las GPU NVIDIA T4 o V100, así como con las GPU Quadro RTX 8000 y 6000, y las generaciones anteriores de GPU con arquitectura Pascal P40, P100 y P60.

- Nvidia

Los usuarios de VMware vSphere también obtendrán soporte Nvidia GPU Cloud, que es una plataforma en la nube acelerada por GPU optimizada para aprendizaje profundo y computación científica. Anne Hecht de Nvidia escribe “ NVIDIA NGC , nuestro centro de software optimizado para GPU para aprendizaje profundo, aprendizaje automático y HPC, ofrece más de 150 contenedores, modelos previamente entrenados, scripts de capacitación y flujos de trabajo para acelerar la IA desde el concepto hasta la producción, incluyendo RÁPIDOS , nuestro software de ciencia de datos acelerado por CUDA ”.

Asociación de VMware en línea con una reciente adquisición

VMware adquirirá Bitfusion, que agregará mucho valor a su plataforma en la nube vSphere. Como comentamos anteriormente en el artículo, la virtualización puede ofrecer a las empresas muchos beneficios con un impacto mínimo en el rendimiento. Con la tecnología de Bitfusion, las empresas podrán alejarse de los servidores bare-metal y virtualizar sus GPU, ya que tal arreglo puede resultar en una mejor utilización de los recursos disponibles. Con la computación acelerada en el centro del escenario, las empresas buscarán formas de virtualizar su pila de hardware, VMware es muy consciente de esto y se están moviendo para hacer que la plataforma vSphere sea vital en los centros de datos.