Velocidad Certificada: Los principales OEMs presentan los primeros Sistemas Certificados por NVIDIA que barren con las cargas de trabajo de IA.
Artículo Editorial por Adel El-Hallak
Los principales fabricantes de sistemas están distribuyendo los únicos servidores acelerados con el objetivo de probarlos en experiencias reales para los procesos de Análisis de Datos y Machine Learning.
La Inteligencia Artificial (IA), la tecnología más poderosa de nuestro tiempo, exige una nueva generación de computadores probados y configurados para impulsarla.
A partir de hoy, los Data Centers pueden aprovechar una nueva clase de servidores acelerados por parte de nuestros socios para impulsar sus procesos de IA y Análisis de Datos. Los principales fabricantes de sistemas están distribuyendo la primera serie de sistemas certificados por NVIDIA, los únicos servidores de la industria probados para las cargas de trabajo más modernas.
Estos sistemas aceleran la IA gracias a las GPUs más recientes de NVIDIA que aprovechan las redes NVIDIA Mellanox. Aprovechan las tecnologías de machine learning que descubren información a partir de los crecientes conjuntos de datos corporativos. Esto son resultados muy valiosos que los sistemas tradicionales pasan por alto.
Dell Technologies, GIGABYTE, Hewlett Packard Enterprise (HPE), Inspur y Supermicro ya están distribuyendo Servidores Certificados. NVIDIA colabora con los principales fabricantes de equipos originales del mundo para impulsar la IA en todas las industrias.
Los primeros sistemas fuera de línea que utilizan las GPU NVIDIA A100 Tensor Core son los siguientes:
- Los servidores de rack Dell EMC PowerEdge R7525 y R740.
- Los sistemas GIGABYTE R281-G30, R282-Z96, G242-Z11, G482-Z54 y G492-Z51.
- El sistema HPE Apollo 6500 Gen10 y el servidor HPE ProLiant DL380 Gen10.
- Inspur NF5488A5.
- Los servidores Supermicro A+ AS -4124GS-TNR, AS -2124GQ-NART y AS -4124GO-NART.
Todos llevan la insignia de sistemas certificados por NVIDIA que les da a los clientes la confianza de que están comprando sistemas que cumplen con las mejores prácticas de diseño de NVIDIA. Eso significa que pueden abordar las tareas más difíciles de Machine Learning, Análisis de Datos y más.
los pedidos de las 3,000 millones de pizzas que entrega cada año.
Estas son algunas de las muchas empresas que se conectan a una nueva y poderosa forma de computación, nacida en la web y que ahora se expande a sectores que van desde el comercio minorista y la logística hasta la banca y la atención de la salud.
Gartner estima que el 37% de todas las organizaciones utilizan la IA en producción hoy en día y predice que esta cifra crecerá al 75% para el 2024.
Escalar una Montaña de Big Data.
Las empresas buscan conocimientos estratégicos ocultos en una montaña creciente de datos. Walmart, por ejemplo, procesa la increíble cantidad de 2.5 petabytes de datos cada hora.
Los modelos de IA para analizar esos datos han crecido en tamaño casi 3000 veces en solo cinco años, lo que impulsa la necesidad de contar con la computación acelerada. Además, la diversidad de modelos y cargas de trabajo que los utilizan continúa expandiéndose, por lo que las empresas necesitan la flexibilidad de las GPUs.
La creciente marea de datos y los modelos de IA en expansión para analizarlos están generando un aumento exponencial en el tráfico de red tanto en el data center como en el edge de la red. Para hacer frente a este desafío, las empresas necesitan una infraestructura segura, confiable y de alta velocidad que se amplíe de manera eficiente.
Superar con creces la prueba de IA.
Los sistemas certificados por NVIDIA brindan el rendimiento, la capacidad de programación y la tasa de transferencia segura que la IA empresarial necesita. Combinan la potencia de computación de las GPUs basadas en la arquitectura NVIDIA Ampere con las redes NVIDIA Mellanox seguras y de alta velocidad.
Para aprobar la certificación, los sistemas se prueban en una amplia gama de cargas de trabajo, desde trabajos que requieren múltiples nodos de computación hasta tareas que solo necesitan parte de la potencia de una sola GPU.
Los sistemas están optimizados para ejecutar aplicaciones de IA del catálogo NGC, el centro de NVIDIA para aplicaciones optimizadas para GPUs.
NGC es también el hogar de un creciente grupo de conjuntos de desarrollo de software, que suman la IA en mercados específicos, como la atención de la salud (Clara) y la robótica (Isaac). Además, cuenta con frameworks que ayudan a las empresas a dar sus primeros pasos con los casos de éxito emergentes, como los sistemas de recomendación (Merlin) y el análisis de videos inteligente (Metropolis).
Específicamente, los sistemas certificados por NVIDIA deben aprobar pruebas en los siguientes ámbitos:
- Entrenamiento e inferencia de Deep Learning.
- Algoritmos de Machine Learning.
- Análisis de videos inteligentes.
- Descarga de red y almacenamiento.
Las pruebas se centran en casos de éxito del mundo real. Usan frameworks y contenedores de IA populares, todos disponibles en el catálogo de NGC.
Como resultado, los sistemas certificados por NVIDIA permiten que todas las empresas accedan al mismo hardware y software que potencian algunas de las computadoras de IA más poderosas del planeta.
Todos los proveedores de servicios en la nube más grandes del mundo y ocho de las 10 mejores supercomputadoras del mundo funcionan con tecnología de NVIDIA. Además, los sistemas basados en NVIDIA lideran las evaluaciones de IA como MLPerf.
Un vistazo detrás de bastidores.
Los sistemas certificados por NVIDIA incluyen potentes servidores de Data Centers con hasta ocho GPUs A100 y adaptadores de red Ethernet o InfiniBand de alta velocidad. Otros son sistemas de IA convencionales diseñados para ejecutar la IA en el edge de redes corporativas.
Los fabricantes de equipos originales certifican los sistemas que usan cables, switches y tarjetas de red NVIDIA Mellanox, como los adaptadores ConnectX-6 InfiniBand o Ethernet y las DPU BlueField-2. Además de ofrecer una tasa de transferencia alta con baja latencia, estos adaptadores admiten múltiples capas de seguridad, desde una raíz de confianza de hardware en el momento del arranque hasta el seguimiento de la conexión de las aplicaciones.
Cada sistema está certificado para usar un switch NVIDIA Mellanox 8700 HDR 200G InfiniBand o el switch Mellanox SN3700 Ethernet.
Todos los sistemas certificados por NVIDIA están disponibles con compatibilidad empresarial en toda la cadena de componentes de software y hardware, incluido el código fuente abierto. Esto se debe a que queremos asegurarnos de que las empresas de todos los mercados específicos puedan disfrutar rápidamente de los beneficios de la IA.
Con los últimos sistemas de Dell, HPE, y Supermicro, cada empresa puede iniciar su propio proceso de la IA empresarial.
A la fecha, 14 servidores de seis fabricantes de sistemas están certificados y listos para proporcionar computación acelerada. Son unos de los casi 70 sistemas que ofrecen al menos once de los fabricantes de sistemas que participan en el programa.
No te pierdas las noticias sobre más sistemas certificados por NVIDIA de otros socios.
