Together AI levanta 800 millones y acelera

Together AI acaba de levantar 800 millones de dólares y, más allá del número, lo que deja claro es otra cosa: la infraestructura para correr modelos abiertos ya no es una apuesta de nicho. Es un negocio grande, con clientes grandes y con una pelea bastante seria por capturar la capa que hoy más duele en la factura de IA: inferencia y entrenamiento.

Si tú estás siguiendo el mercado desde Latinoamérica, esta ronda importa por una razón simple. Cada vez más empresas quieren usar modelos abiertos porque les dan control, flexibilidad y menos dependencia de un solo proveedor. Pero usar modelos abiertos no significa correrlos gratis. Al contrario: necesitas cómputo, optimización, redes, almacenamiento, observabilidad y una plataforma que no te haga perder dinero cada vez que escalas una API o reentrenas un modelo.

Qué significa esta ronda para el mercado de IA

La cifra de 800 millones no solo llama la atención por su tamaño. También confirma que el mercado está dispuesto a financiar a los proveedores que resuelven una pregunta muy concreta: ¿cómo haces que los modelos abiertos sean útiles en producción sin que la operación se vuelva un agujero de presupuesto?

Together AI se ha posicionado justo ahí. Su propuesta gira alrededor de ofrecer infraestructura para entrenar, ajustar e inferir modelos abiertos con una capa de optimización que reduce fricción técnica y, en teoría, costo operativo. En un mercado donde los modelos se parecen cada vez más entre sí, la diferencia ya no está solo en el peso del modelo. Está en cuánto te cuesta servirlo, cuánto demora responder y qué tan fácil es moverlo entre entornos.

La ronda también encaja con una tendencia más amplia: el dinero está siguiendo a la infraestructura, no solo a las apps visibles. Ya vimos esa lógica en nube, bases de datos y observabilidad. Ahora la vemos en IA. Si una empresa puede ahorrar 20%, 30% o más en inferencia a escala, ese ahorro se convierte en margen real. Y si además puede entrenar o ajustar modelos sin montar un equipo interno enorme de MLOps, el valor sube todavía más.

Por qué los modelos abiertos necesitan una nube propia

Los modelos abiertos no viven bien en una sola máquina y ya. Cuando pasas de probar un demo a atender miles de requests por minuto, aparecen problemas muy concretos: latencia, colas, saturación de GPU, costos por tokens, balanceo, versionado de modelos y despliegues que no rompan lo que ya funciona.

Ahí es donde entran las nubes especializadas. No compiten solo por vender infraestructura bruta. Compiten por empaquetar una experiencia más simple para equipos que quieren usar modelos como Llama, Mistral, Qwen o Gemma sin construir toda la plataforma desde cero. En la práctica, eso significa:

1. Menor tiempo para poner un modelo en producción.
2. Menos trabajo manual para escalar inferencia.
3. Más opciones para ajustar modelos con datos propios.
4. Costos más predecibles cuando el tráfico crece.

Ese paquete es atractivo para startups, pero también para empresas medianas y grandes que ya sienten presión por bajar el costo por consulta. Si una API interna atiende cientos de miles de solicitudes al día, una diferencia pequeña por request se convierte en una factura bastante seria al final del mes.

La pelea real está en inferencia y entrenamiento

La conversación pública sobre IA suele quedarse en el modelo, pero el negocio grande está debajo. Entrenar y servir modelos consume hardware caro, y el margen depende de qué tan bien aproveches cada GPU. Por eso la competencia entre proveedores de infraestructura se está acelerando: no basta con tener acceso a chips. Hay que exprimirlos mejor que el resto.

En inferencia, el foco está en responder más rápido y con menos costo por token. En entrenamiento, el reto es mover grandes volúmenes de datos y ejecutar jobs largos sin desperdiciar ciclos. Y en ambos casos, la eficiencia manda. Una plataforma que reduce tiempos de arranque, mejora batching o usa mejor la memoria puede marcar una diferencia clara en el costo total.

Esto explica por qué el mercado está premiando a empresas que construyen alrededor de modelos abiertos. No todas van a ganar por tener el modelo más famoso. Muchas van a ganar por ser la capa donde las empresas realmente operan esos modelos. Y esa capa puede ser más defensible de lo que parece, porque integra herramientas, flujos de trabajo, observabilidad y optimización específica para cargas de IA.

Inferencia barata: el punto donde se decide el margen

La inferencia es donde se paga la cuenta todos los días. Cada interacción con un chatbot interno, cada resumen de documentos, cada clasificación automática y cada agente que consulta herramientas externas consume recursos. Cuando el volumen sube, el costo se vuelve visible muy rápido.

En ese contexto, los proveedores compiten con varias palancas:

• batching dinámico para agrupar requests;
• cuantización para reducir uso de memoria;
• serving optimizado para distintos tamaños de modelo;
• autoscaling para no pagar capacidad ociosa;
• rutas de red y cachés para bajar latencia.

Si tú operas un producto con IA, no te basta con que el modelo responda bien. También necesitas que responda a un costo razonable. Por eso plataformas como Together AI, Fireworks AI, Anyscale y otras del ecosistema están peleando por estar en el centro de esa operación. La pregunta ya no es solo qué modelo eliges. Es dónde lo corres y cuánto te cuesta cada millón de tokens.

Qué cambia para startups y empresas en Latinoamérica

Para Latinoamérica, este movimiento tiene una lectura bastante práctica. Muchas empresas de la región no quieren depender por completo de APIs cerradas si pueden evitarlo. Hay razones de costo, de control de datos y de soberanía tecnológica. Pero montar infraestructura propia de IA desde cero sigue siendo caro y lento. Ahí es donde las nubes para modelos abiertos encuentran espacio.

Si tú lideras producto, datos o ingeniería, probablemente ya viste este patrón: empiezas con una API externa para validar, luego quieres más control, después aparece la necesidad de bajar costo y finalmente terminas evaluando modelos abiertos en una infraestructura más flexible. Ese paso intermedio es precisamente el mercado que se está agrandando.

En países como México, Colombia, Chile, Perú o Ecuador, la presión por eficiencia es todavía mayor. Los presupuestos son más ajustados y el costo de error pesa más. Una plataforma que te permite probar varios modelos, medir latencia y mover cargas sin rehacer toda tu arquitectura puede ahorrarte semanas de trabajo y bastante dinero en GPU.

Casos de uso que sí justifican esta infraestructura

No todo proyecto necesita una nube especializada para modelos abiertos. Pero hay escenarios donde sí tiene sentido y bastante:

• asistentes internos para soporte o ventas con alto volumen de consultas;
• búsqueda semántica sobre documentos corporativos;
• extracción de datos desde PDFs, facturas o contratos;
• copilots para equipos de ingeniería o operaciones;
• agentes que combinan LLMs con herramientas y bases de datos.

En esos casos, el costo por request y la estabilidad del servicio importan tanto como la calidad de la respuesta. Si el sistema se cae o se vuelve caro a partir de cierto volumen, la idea deja de cerrar. Por eso el mercado está premiando a quienes pueden ofrecer rendimiento estable con modelos abiertos y una operación más simple.

La señal detrás de los 800 millones

La ronda de Together AI también dice algo sobre la madurez del mercado. Cuando una startup de infraestructura levanta una cantidad tan grande, no se está financiando solo una idea. Se está financiando una tesis de largo plazo: que la capa de serving y entrenamiento para modelos abiertos va a seguir creciendo y va a capturar parte relevante del gasto en IA.

Eso tiene varias implicaciones. Primero, la competencia por talento técnico se vuelve más dura. Segundo, los clientes empresariales tendrán más opciones para negociar precio y rendimiento. Tercero, la presión sobre los grandes proveedores de nube aumenta, porque ya no son los únicos que pueden ofrecer IA a escala.

También hay un efecto colateral interesante. Cuando la infraestructura se abarata o se vuelve más accesible, más equipos se animan a probar modelos abiertos en producción. Eso amplía el mercado. Y cuando el mercado crece, aparecen más herramientas, más integraciones y más especialización. Es una dinámica parecida a lo que pasó con Kubernetes y la nube administrada: primero parecía una capa técnica; después se volvió una industria completa.

Cómo leer esta competencia sin caer en humo

Si tú estás evaluando proveedores, no te quedes con el discurso de marketing. Mira métricas y condiciones concretas:

1. Latencia p50 y p95 en cargas reales.
2. Precio por millón de tokens o por hora de GPU.
3. Compatibilidad con modelos que ya usas.
4. Facilidad para mover workloads entre entornos.
5. Herramientas para observabilidad, logs y control de costos.

También conviene revisar documentación oficial y benchmarks propios. Por ejemplo, la documentación de Hugging Face sobre serving y despliegue de modelos es útil para entender el tipo de problemas que estas plataformas resuelven: https://huggingface.co/docs. Si trabajas con infraestructura de contenedores y escalado, la documentación de Kubernetes ayuda a aterrizar muchos de los conceptos operativos: https://kubernetes.io/docs/home/.

Qué debería mirar tu equipo antes de subirse a esta ola

La discusión no es si los modelos abiertos son una moda pasajera. La discusión es qué tan rápido tu equipo puede capturar valor sin inflar costos. Y ahí conviene tener una checklist simple, porque la tentación de probar todo suele salir cara.

Una forma práctica de evaluarlo es esta:

• Define el caso de uso exacto, no una idea genérica de “usar IA”.
• Estima volumen mensual de requests, tokens o jobs de entrenamiento.
• Compara costo total, no solo precio por hora de GPU.
• Prueba al menos dos modelos abiertos con la misma carga.
• Mide latencia, calidad y estabilidad durante varios días.
• Revisa si el proveedor te deja exportar métricas y mover el workload.

Si tu caso de uso es sensible a latencia, una diferencia de 300ms puede cambiar la experiencia. Si tu caso de uso es de alto volumen, un ahorro pequeño por token puede ser enorme al cierre del mes. Y si tu equipo no tiene una plataforma madura de MLOps, el costo humano de operar todo eso también entra en la ecuación.

Lo que puede pasar en los próximos meses

Es probable que veas más rondas grandes alrededor de infraestructura para IA, especialmente donde haya una propuesta clara de ahorro o simplificación. También es probable que las nubes tradicionales se muevan más agresivamente para no perder terreno en serving y entrenamiento de modelos abiertos.

Para ti, eso puede traducirse en más opciones y mejores precios, pero también en más ruido. Habrá proveedores que prometan optimización sin demostrarla y otros que vendan facilidad de uso sin tener suficiente escala. Por eso el criterio técnico sigue siendo clave. No compres solo la narrativa. Compra la combinación de costo, rendimiento y control que realmente necesitas.

Tabla resumen

Fuentes y documentación útil

Si quieres profundizar en cómo se despliegan y sirven modelos abiertos, estas fuentes oficiales te ayudan a bajar el tema a tierra:

• Hugging Face Docs: https://huggingface.co/docs
• Kubernetes Docs: https://kubernetes.io/docs/home/
• Together AI: https://www.together.ai/

La conclusión práctica es bastante simple. La ronda de Together AI no solo habla de una startup con buena tracción. Habla de una capa de infraestructura que ya tiene demanda real, clientes con presupuesto y una competencia feroz por reducir el costo de correr modelos abiertos. Si tú trabajas en producto, datos o ingeniería, este es el tipo de mercado que conviene seguir de cerca, porque impacta directamente en cuánto cuesta llevar IA a producción.