OpenAI lanza Ultrafast: GPT-5.6 acelerado a 14 veces su velocidad habitual gracias a los chips de Cerebras
OpenAI ha presentado Ultrafast, un nuevo nivel de servicio de su API que permite ejecutar el modelo GPT-5.6 Sol hasta 14 veces más rápido que el modo estándar. Esta aceleración se traduce en una capacidad de generar hasta 750 tokens de salida por segundo, una velocidad que supera ampliamente la lectura humana.
Ultrafast no implica la introducción de un nuevo modelo, sino que se basa en el mismo GPT-5.6 Sol utilizando una infraestructura diferente. La clave de esta mejora en la velocidad radica en los chips de Cerebras, conocidos por su arquitectura innovadora que elimina las limitaciones de ancho de banda presentes en las GPU convencionales de Nvidia.
Implicaciones y ventajas de Ultrafast
Esta nueva capa de velocidad ofrecida por OpenAI resuelve un problema común en aplicaciones de inteligencia artificial en tiempo real: la latencia en la respuesta. Con Ultrafast, los usuarios pueden disfrutar de respuestas casi instantáneas a sus consultas, lo que mejora significativamente la experiencia de usuario en una amplia variedad de aplicaciones.
Además, Ultrafast representa una alternativa a la tradicional disyuntiva entre utilizar modelos más pequeños y rápidos o especializados y menos versátiles. De esta manera, las empresas pueden acceder a un modelo altamente capacitado sin comprometer la velocidad de respuesta necesaria en entornos de producción exigentes.
Desarrollo tecnológico y futuro de OpenAI
La asociación de OpenAI con Cerebras para implementar Ultrafast forma parte de su estrategia de construir una infraestructura de inferencia en capas, reduciendo la dependencia de proveedores individuales. Este enfoque incluye la utilización de chips propios en desarrollo para optimizar la eficiencia a largo plazo.
La evolución hacia modelos propios de hardware refleja la apuesta de OpenAI por llevar sus tecnologías a entornos de producción reales. La velocidad se convierte así en un factor clave en la integración de modelos de IA en aplicaciones cotidianas.
Desafíos y precios de Ultrafast
Una de las incógnitas que plantea Ultrafast es su coste, que OpenAI no ha hecho público. Ejecutar el modelo GPT-5.6 Sol a una velocidad tan alta utilizando los chips de Cerebras puede resultar costoso, lo que podría limitar su accesibilidad para startups y empresas medianas.
El desafío para OpenAI será encontrar un equilibrio entre ofrecer un servicio de alta velocidad y mantener precios accesibles para una amplia gama de usuarios. La comunidad estará atenta a cómo evoluciona Ultrafast y si logra competir con otras opciones de inferencia rápida en el mercado.
