NIC de 400G frente a 800G: ¿cuál debería elegir?

Elegir entre una NIC de 400G y una NIC de 800G es una decisión de estructura, no una comparación de páginas-de pago. El adaptador más rápido solo vale la pena cuando el servidor, el conmutador, la óptica y el cableado pueden transportar esa velocidad de un extremo a otro. Esta guía analiza las ventajas y desventajas-desde el punto de vista de la implementación y la adquisición, para que pueda decidir antes de comprometer su presupuesto en adaptadores, conmutadores, transceptores, DAC, AOC, AEC o fibra.

La versión corta: una NIC de 400G es la opción predeterminada madura y rentable-para la mayoría de las cargas de trabajo actuales de IA, HPC, almacenamiento y nube, y se asigna claramente a los hosts NDR InfiniBand y PCIe Gen5. Una NIC de 800G obtiene su prima cuando construyes una estructura de IA de próxima-generación con GPU más densas, mayor tráfico hacia el este-oeste y una hoja de ruta hacia XDR InfiniBand, Ethernet de 800G y, eventualmente, 1,6T.

Tarjeta de red de 400G frente a 800G

Elija una NIC de 400G cuando sus servidores, conmutadores y planta óptica ya estén estandarizados en Ethernet de 400G o NDR InfiniBand, o cuando la carga de trabajo no sature todas las rutas de GPU-a-GPU. También es la llamada más segura cuando la disponibilidad, el presupuesto y el tiempo de calificación importan más que la velocidad máxima del puerto.

Elija una NIC de 800G cuando la red se esté convirtiendo en un cuello de botella para la capacitación a gran-escala, servidores GPU de alta-densidad o aceleradores de próxima-generación. Aproximadamente reduce a la mitad la cantidad de enlaces y módulos ópticos necesarios para una cantidad determinada de ancho de banda y prepara la estructura para la siguiente actualización.

Solo vale la pena comprar un puerto 800G cuando el resto del sistema puede alimentarlo. Si el host no puede exponer suficientes carriles PCIe al adaptador, una NIC de 800G se convierte en un puerto costoso e infrautilizado en lugar de una mejora del rendimiento.

¿Qué es una NIC de 400G?

Una NIC 400G es un adaptador de red que mueve hasta 400 gigabits por segundo por puerto. En entornos de IA y HPC, maneja redes de clústeres de GPU-, capacitación distribuida, acceso al almacenamiento, tráfico MPI, estructuras RoCE y enlaces NDR InfiniBand. Para la mayoría de los operadores, 400G ya representa un gran salto con respecto a 100G o 200G y elimina los cuellos de botella obvios sin forzar un rediseño de los niveles de servidores y conmutadores.

Dónde encajan hoy las NIC de 400G

Los adaptadores 400G son los predeterminados para trabajar en los clústeres de entrenamiento de IA en GPU de-generación actual, HPC y estructuras de computación científica-, redes de almacenamiento de alto-rendimiento, estructuras RoCEv2 Ethernet e InfiniBand, flotas generales de servidores en la nube y actualizaciones de 100G/200G-a-400G en salas de generación mixta. En estos entornos, 400G rara vez es un compromiso. Es simplemente la clase de velocidad adecuada cuando el tamaño del clúster, el número de GPU y el presupuesto no justifican la complejidad adicional de 800G.

Por qué 400G todavía tiene sentido

La selección de NIC es un problema de equilibrio-del sistema. Si un host no puede alimentar un adaptador de 800G, si la carga de trabajo está limitada a la computación- o al almacenamiento-, o si la columna vertebral todavía es de 400G, la instalación de NIC de 800G aumenta el costo sin mover el rendimiento de la aplicación. Un tejido 400G bien construido, con un bajo exceso de suscripción, una topología limpia, RDMA, ópticas de calidad y control de congestión optimizado, aún soporta cómodamente trabajos exigentes de IA y HPC.

¿Qué es una NIC de 800G?

Una NIC de 800G ofrece hasta 800 gigabits por segundo por puerto. Está dirigido a centros de datos de IA de próxima-generación, grandes clústeres de GPU y estructuras de hiperescala donde la demanda de comunicación está superando las redes de servidores convencionales. La generación 800G ya está estandarizada:el estándar IEEE 802.3df, ratificado en 2024, define 800 Gigabit Ethernet y admite sub-velocidad como 1x800G, 2x400G y 8x100G, que es lo que hace que la migración de velocidad mixta-sea práctica.

El valor no es solo la tasa de titulares duplicada:. 800G permite a los arquitectos aumentar la densidad del ancho de banda, reducir el número de enlaces y módulos, y admitir estructuras de capacitación más grandes con un tráfico más agresivo de todo-a-.

Por qué los clústeres de IA se están trasladando a 800G

El entrenamiento de modelos-grandes genera un enorme tráfico de GPU-a-GPU y de servidor-a-servidor. Intercambio de gradientes, todo-reducción, combinación-de-expertos en enrutamiento, puntos de control y almacenamiento-tuberías pesadas, todos martillan el tejido. A medida que los aceleradores se vuelven más rápidos, la red tiene que mantener el ritmo o las GPU costosas permanecen inactivas esperando la sincronización.. 800Las NIC G responden a esto aumentando el ancho de banda por nodo, por acelerador o por riel de red.

800G es una decisión de tejido, no solo un adaptador

Pasar a 800G remodela la selección de interruptores, la óptica, la planificación de alcance, el diseño térmico, el flujo de aire y el diseño del rack. Las opciones ópticas y de cobre en particular se vuelven más estrictas: un puerto 800G puede usar un módulo OSFP o QSFP-DD, y los módulos del lado del conmutador-y del lado NIC-pueden diferir en diseño térmico y mecánico incluso al mismo ritmo. Si su planta utiliza fibra estructurada, confirme los tipos de módulos y conectores con anticipación; nuestroDescripción general del factor de forma QSFP-DDcubre donde encaja en relación con OSFP. Trate 800G como un programa-a nivel de estructura, no como un intercambio de artículos-de una sola línea.

Tarjeta de red de 400G frente a tarjeta de red de 800G

Cuándo elegir una NIC de 400G

Elija una NIC de 400G cuando el objetivo sea una red de alto-rendimiento con hardware maduro, implementación predecible y costos controlados.

Está construyendo sobre la infraestructura 400G existente

Si sus conmutadores, cables, ópticas y plataformas de servidores ya están estandarizados en 400G, quedarse con NIC de 400G elimina una ronda de comprobaciones de compatibilidad y le permite reutilizar la mayor parte del ecosistema actual. Esto es especialmente cierto cuando se actualiza desde 100G o 200G, donde la ganancia de rendimiento es grande y el ecosistema es mucho más maduro que 800G.

Su carga de trabajo de IA no satura la estructura

No todos los trabajos de IA necesitan 800G por servidor. Muchos están limitados por la computación, el almacenamiento, la memoria o la eficiencia del software en lugar del ancho de banda de la red. Si la elaboración de perfiles muestra que la red no es el principal cuello de botella, una NIC de 400G generalmente ofrece el mejor rendimiento.

Necesita HPC-rentable

Muchas cargas de trabajo de HPC son sensibles a la latencia, el comportamiento de paso de mensajes-y la congestión del tejido en lugar del ancho de banda sin procesar. Un tejido de 400G bien-a menudo supera a uno de 800G mal integrado. La pregunta útil no es qué NIC es más rápida, sino qué diseño de red ofrece el mejor rendimiento de aplicación por dólar.

Necesita una adquisición más rápida y con menor-riesgo

Los adaptadores, ópticas y cables de 400G son más fáciles de obtener y calificar en más plataformas de servidores y conmutadores. Cuando el equipo tiene un tiempo limitado para la validación, 400G es la opción de menor-riesgo que aún elimina la mayoría de los cuellos de botella.

Cuándo elegir una NIC de 800G

Elija una NIC de 800G cuando la aplicación, la plataforma GPU y la estructura puedan utilizar el ancho de banda adicional.

Estás diseñando un tejido de formación de IA de próxima-generación

Los grandes grupos de formación generan una intensa comunicación entre-to-todos y de este-oeste. A medida que aumentan el tamaño del modelo, el número de GPU y el paralelismo, la red se convierte en el limitante. Aquí, las NIC de 800G aumentan el ancho de banda por-nodo y reducen el riesgo de que la estructura limite las GPU.

Necesita una mayor densidad de ancho de banda

800G reduce la cantidad de puertos, enlaces y módulos necesarios para ofrecer una cantidad determinada de ancho de banda. Esto es importante en clusters densos donde el espacio en rack, el número de puertos del panel frontal-, la administración de cables y la base del switch están limitados. Menos enlaces y más rápidos pueden simplificar la construcción, siempre que la estructura del conmutador y el plan de cableado estén diseñados para ello.

Estás planificando plataformas GPU de próxima-generación

Si la hoja de ruta incluye servidores GPU de próxima-generación, mayor densidad de potencia de rack, refrigeración líquida y clústeres más grandes, 800G es la opción estratégica más fuerte. Comprar 400G hoy todavía puede ser razonable, pero el tejido debe diseñarse con una ruta de migración a 800G o más.

Quiere reducir las interrupciones en las actualizaciones-a largo plazo

Una estrategia gradual de 800G reduce el dolor de la migración futura. Implemente primero conmutadores con capacidad de 800G-, conecte las NIC de 400G existentes mediante diseños de velocidad rápida o mixta-y luego actualice los servidores a 800G más adelante. Esto protege la inversión actual y al mismo tiempo prepara el tejido para la próxima generación.

Cuándo NO elegir una NIC 800G

Esta suele ser la pregunta más útil y filtra las compras más arrepentidas. Espere 800G cuando se cumpla alguna de las siguientes condiciones:

• El host no puede exponer una ruta x16 completa de clase PCIe Gen6 al adaptador. El puerto funcionará sin capacidad y usted habrá pagado por el ancho de banda que el bus del servidor no puede entregar.
• El lomo está sobresuscrito o aún pesa 400G. Una NIC más rápida no soluciona un tejido restringido; simplemente aleja el cuello de botella un salto.
• La carga de trabajo está limitada a la latencia- o MPI-en lugar de al ancho de banda-. El rendimiento adicional no sirve de mucho para los trabajos controlados por sincronización o por comportamiento de mensajes pequeños-.
• La óptica, el cableado o la refrigeración para 800G no se pueden obtener ni validar en su cronograma. Un módulo no calificado que se mueve bajo carga es peor que un enlace más lento que permanece arriba.
• Actualmente no existe una hoja de ruta de crecimiento concreta que justifique la prima.

Si se aplican dos o más de estos, es casi seguro que 400G sea la respuesta correcta para esta versión, con 800G reservados para la próxima actualización.

NIC de 400G frente a 800G para centros de datos en la nube

Los tejidos de nubes rara vez corren a la misma velocidad en todas partes. Segmentan por clase de tráfico y la elección de NIC sigue el segmento en lugar del centro de datos en su conjunto.

• Tráfico frontal-norte-sur:400G suele ser suficiente para los niveles-de API y de usuario, donde el ancho de banda por-flujo es modesto y domina el número de conexiones.
• Almacenamiento y tráfico este-oeste:la respuesta depende de qué tan desagregada esté la arquitectura.. 400G cubre la mayoría de los grupos generales; 800G ayuda cuando las unidades de almacenamiento grandes y distribuidas soportan la carga del este-oeste.
• Inferencia de IA:400G es suficiente para muchas nubes de inferencia, mientras que 800G se adapta a una mezcla densa-de-expertos en enrutamiento o servicio desagregado donde los tokens se mueven a través de muchos nodos.
• Tejido multi-inquilino:aquí, el índice de sobresuscripción y el aislamiento de los inquilinos determinan el rendimiento mucho más que la tasa máxima de NIC. Un tejido equilibrado de 400G con un fuerte aislamiento a menudo supera a uno más rápido pero congestionado.

Dado que el crecimiento de la nube en el este-oeste se basa en la fibra estructurada, planifique el cableado troncal junto con la NIC; nuestroguía de cableado troncal MPO/MTPcubre recorridos de alta-densidad. Como regla general, utilice 400G para la mayoría de los niveles de nube generales y de front-end, y reserve 800G para los segmentos donde dominan los servicios de IA densos o los grandes grupos de datos del este-oeste.

Factores clave de selección más allá de la velocidad del puerto

Una NIC más rápida no garantiza cargas de trabajo más rápidas a menos que toda la plataforma la admita. Cinco factores deciden si un puerto 800G funciona o permanece inactivo.

Generación de PCIe y ancho de banda del host

La NIC llega al host a través de PCIe y ese enlace es un techo rígido. Un puerto de 400 Gb/s necesita aproximadamente 50 GB/s por dirección, que puede transportar una ranura PCIe Gen5 x16, a aproximadamente 63 GB/s utilizables por dirección. Un puerto de 800 Gb/s necesita aproximadamente 100 GB/s por dirección, más allá de una ranura Gen5 x16, razón por la cual los adaptadores de 800G generalmente esperanla especificación PCIe 6.0 de PCI-SIG(64 GT/s, hasta 256 GB/s bidireccionalmente en x16) o un diseño x32 poco común. Antes de comprometerse con 800G, confirme:

• generación PCIe
• Conteo de carriles y cableado de ranuras
• Ubicación de NUMA y ruta de GPU-a-NIC
• Validación del proveedor-del servidor para el adaptador
• Soporte de BIOS y firmware

En los servidores GPU, la ubicación de la NIC en relación con las CPU y las GPU decide qué tan limpiamente se mueven los datos. Una NIC de clase Gen6- colocada en una ranura Gen5 x8 es el cuello de botella autoinfligido más común en el campo.

Cambiar de tejido y sobresuscripción

La velocidad de la NIC debe coincidir con la de la estructura.. 800Los adaptadores G no hacen nada si el lomo de la hoja-tiene un exceso de suscripción o los enlaces ascendentes son delgados. Verifique las velocidades de los puertos de hoja y columna, la tasa de sobresuscripción, la cantidad de rieles de red, el patrón este-oeste, el diseño de dominio- fallido y el ancho de banda de bisección requerido. Para la capacitación, una tasa de sobresuscripción más baja generalmente contribuye más al rendimiento que una NIC más rápida.

RoCE, InfiniBand y Ultra Ethernet

Los tejidos de IA y HPC se basan en RDMA para reducir la sobrecarga de la CPU, y el protocolo da forma a la NIC, el conmutador, el control de la congestión y las operaciones. Hoy en día, NDR InfiniBand funciona a 400 Gb/s por puerto yXDR InfiniBand alcanza los 800 Gb/s por puerto, que se alinea directamente con los niveles de NIC de 400G y 800G. En el lado de Ethernet, el

Especificación 1.0 del Consorcio Ultra Ethernetdefine una pila RDMA-sobre-Ethernet que abarca NIC, conmutadores, ópticas y cableado, dirigida directamente a la escalabilidad horizontal-de IA y HPC.

Elija InfiniBand para obtener un tejido HPC o IA de baja-latencia estrechamente integrado cuando su equipo conozca ese ecosistema. Elija Ethernet o RoCE para una mayor elección de proveedores e integración en la nube. Considere Ultra Ethernet cuando desee una ruta abierta y estandarizada para Ethernet de alto-rendimiento de próxima-generación.

Óptica, factores de forma y cableado

En 400G y 800G, la compatibilidad física importa tanto como la velocidad. Dos módulos pueden compartir la misma velocidad, pero difieren en el factor de forma, el diseño térmico y los requisitos del host. Verifique OSFP frente a QSFP112 frente a QSFP-DD, OSFP superior plana-superior con aletas-superior, requisitos de módulo del lado del conmutador-frente a NIC-lado, DAC, AEC, AOC o alcance óptico, soporte de conexión y codificación y firmware del proveedor. No asuma que un OSFP 800G que funciona en un conmutador se asentará y enfriará correctamente en una NIC; Muchos módulos de conmutadores y NIC utilizan diferentes diseños térmicos y mecánicos.

Potencia, flujo de aire y validación térmica

Los componentes de 800G consumen más energía y se calientan más. Valide la NIC, la óptica, los puertos del conmutador y la ruta del flujo de aire bajo carga sostenida, no en modo inactivo. Confirme la potencia del módulo-óptico y de NIC, la dirección del flujo de aire y el espacio libre de enfriamiento, la temperatura máxima de entrada, la densidad del cable y el bloqueo del flujo de aire, y las suposiciones de enfriamiento- de aire versus líquido-. La inestabilidad térmica se manifiesta como fallas en los enlaces y tasas de error crecientes, el tipo de falla intermitente que es lenta y costosa de solucionar en producción.

Errores comunes que se deben evitar

Comprar 800G solo porque es más rápido

800G no es automáticamente mejor. Si la carga de trabajo, el servidor o la estructura no pueden utilizar el ancho de banda, el costo adicional no se traduce en rendimiento de la aplicación. Haga coincidir el puerto con el cuello de botella que realmente tiene.

Ignorar el ancho de banda PCIe

Una NIC solo puede mover datos tan rápido como lo permita el bus del host. Verifique la generación de PCIe, el número de carriles y la topología del servidor antes de elegir una clase de velocidad, no después de que llegue el hardware.

Elegir el módulo óptico incorrecto

A estas velocidades, el factor de forma del módulo y el diseño térmico son fundamentales. Es posible que una variante de OSFP incorrecta no se ajuste a una jaula determinada, o que se ajuste pero se sobrecaliente bajo un tráfico sostenido, lo que produce errores que parecen un problema de tejido.

Olvidar el alcance del cable

DAC, AEC, AOC, óptica multimodo y óptica monomodo-cada una sirve a diferentes rangos de distancia, y diferentes grados de fibra transportan distancias diferentes; nuestrodesglose de los límites de alcance de OM1 a OM5muestra dónde alcanza su punto máximo cada grado. Elegir la interconexión incorrecta agrega latencia, costo o retrabajo.

Tratar las NIC, los conmutadores y la óptica como compras separadas

Solicite el adaptador, el interruptor, la óptica y el cableado como una lista de materiales validada. Una discrepancia descubierta después de la implementación significa un puerto que se vincula pero falla, o hardware que debe devolverse a mitad de la compilación, lo cual es mucho más perjudicial que detectarlo durante la calificación.

Recomendación final

Elija una NIC de 400G para obtener un adaptador-rentable y probado que se adapta a las estructuras de IA, HPC, almacenamiento y nube actuales. Es la elección práctica para la mayoría de los clústeres de GPU y salas de generación-mixta existentes. Elija una NIC de 800G cuando la densidad de ancho de banda, la comunicación GPU-a gran escala y la disponibilidad de actualización superen el costo inicial, y cuando todo el camino esté diseñado para ello.

La decisión nunca es sólo la velocidad. Se trata de si sus servidores, conmutadores, ópticas, cableado, alimentación y refrigeración pueden convertir esa velocidad en rendimiento de las aplicaciones. La disciplina que protege el presupuesto es simple: valide la NIC, el conmutador, la óptica y el cableado como un solo sistema antes de realizar el pedido.