OpenAI ha dado un salto significativo en su trayectoria tecnológica al integrar los chips de IA avanzados de Cerebras en sus operaciones. Esta colaboración marca un momento crucial, destacando la transformación más amplia del panorama informático, ya que OpenAI revela que su último modelo, el Codex, ahora cuenta con el soporte de Cerebras, además de su dependencia habitual de NVIDIA.
OpenAI alcanza una notable capacidad de 1000 TPS con la tecnología de alta velocidad de Cerebras
A medida que OpenAI avanzaba en su relación financiera con NVIDIA, cabe destacar que su anterior colaboración con Cerebras se ha convertido en un punto de inflexión en el ámbito de la computación. En el reciente lanzamiento de GPT‑5.3‑Codex‑Spark, OpenAI destacó las ventajas del hardware de Cerebras, en particular su excepcional rendimiento de baja latencia en tareas de inferencia. Esta colaboración supone un reto formidable para el dominio de NVIDIA, especialmente en el área de inferencia de modelos.
La variante Codex-Spark se distingue de los modelos Codex tradicionales por su capacidad para mejorar la eficiencia operativa. OpenAI afirma que este modelo está diseñado específicamente para una respuesta inmediata, lo que se traduce en mejoras significativas en la latencia. Al optimizar los canales de procesamiento y utilizar eficazmente el hardware de vanguardia de Cerebras, la compañía afirma una reducción del tiempo hasta el primer token de un asombroso 50 %, lo que subraya sus capacidades. Cabe destacar que Codex-Spark opera con el motor Wafer Scale Engine 3 de Cerebras, con impresionantes especificaciones, como se detalla a continuación:
| Especificación | WSE-3 |
|---|---|
| Nodo de proceso | TSMC 5 nm |
| Transistores | ~4 billones |
| Núcleos de cómputo | 900.000 núcleos optimizados para IA |
| SRAM en chip | 44 GB |
| Ancho de banda de memoria (en chip) | 21 PB/s |
| Tamaño de la oblea | Chip completo a escala de oblea de 300 mm |
| Arquitectura central | Núcleos de procesamiento programables optimizados por IA |
La razón detrás de la elección de Cerebras por parte de OpenAI se debe principalmente al considerable ancho de banda de memoria que ofrece WSE-3, esencial para tareas que requieren un uso intensivo de memoria, como la codificación. Esta alta capacidad permite a Codex-Spark alcanzar un impresionante rendimiento de 1000 transacciones por segundo (TPS), lo que le otorga la capacidad de respuesta de un programador en equipo. Curiosamente, entrenar este modelo en la infraestructura de NVIDIA resultaría económicamente ineficiente debido a su enfoque en el procesamiento por lotes en lugar del rendimiento de baja latencia, por lo que Cerebras resulta una opción lógica.
A pesar de las prometedoras capacidades de Cerebras en escenarios de inferencia, NVIDIA sigue desempeñando un papel dominante en el mercado. Sus anuncios recientes indicaron una reducción de hasta diez veces en el costo de los tokens con su arquitectura Blackwell, consolidando aún más su posición. Sachin Katti, de OpenAI, destacó las «capacidades complementarias» que ofrece Cerebras; sin embargo, parece que la lealtad del laboratorio de IA en el campo de batalla de la computación sigue siendo principalmente de NVIDIA. Sin embargo, la aparición de Codex-Spark pone de relieve un cuello de botella crítico en la latencia, donde el marco tecnológico actual de NVIDIA podría no estar en la mejor posición para competir.
De cara al futuro, el panorama del mercado de inferencia se presenta cada vez más competitivo, con NVIDIA enfrentándose a competidores formidables como Cerebras, así como a innovaciones de otros fabricantes de ASIC y rivales como AMD. Queda por ver cómo estas dinámicas influirán en la estrategia y el posicionamiento de mercado de NVIDIA en los próximos años.