Together AI desde operaciones

Destacado

Together AI lleva su Compiler con agentes a producción

Together AI presentó Together Compiler, un sistema en el que agentes de IA mantienen ajustado el código de inferencia a medida que cambian los modelos, el tráfico y el hardware. Ya funciona en algunos de sus endpoints serverless más usados. Los clientes pueden pedir acceso a una beta limitada; el ajuste con un clic para endpoints dedicados llegará más adelante.

Qué cambia en operaciones — Si tu equipo llama a modelos abiertos a través de Together AI para responder tickets de soporte, puntuar leads o procesar documentos, la parte serverless ya la ajusta este sistema, así que no hay nada que activar. Lo que sí conviene mover son los endpoints dedicados: el proveedor dice que podrás ajustarlos a tu propia carga con un clic, y hoy el acceso a la beta es por solicitud. Pregunta a tu contacto de cuenta qué ganaría tu tráfico y mide latencia y coste por petición antes y después, porque la fuente no da cifras de rendimiento. Haz la misma comprobación si piensas pasarte a un modelo recién lanzado.

Together AI lanza Post-Training para ajustar modelos abiertos

Para una empresa B2B de 10 a 200 personas, esto solo importa si una tarea concreta y de mucho volumen, como priorizar leads o puntuar candidatos, le cuesta demasiado en un modelo cerrado. El caso de Jack & Jill en la fuente tiene justo esa forma: un modelo abierto igualó a uno cerrado en pruebas offline y sale más barato de servir. Como se factura por GPU-minuto, conviene presupuestar un experimento antes de empezar. Sin personal de ML, habría que apoyarse en los ingenieros desplegados de Together, que la fuente ofrece como opción de acompañamiento.

Together AI publica una receta de 17 dólares para tickets

Para un equipo de soporte que gestiona unos cientos de tickets al día, esto es un plano concreto para un bot de triaje de primera línea: se le pasa el mensaje del cliente junto con la lista de intenciones ya existente y devuelve una única etiqueta con menos de un token de salida, lista para enrutar. El costo de entrenamiento (~17 dólares) y el tiempo (~25 minutos) lo vuelven lo bastante barato como para iterar sobre los tickets históricos propios en lugar de depender de una llamada a un LLM genérico por cada clasificación, y la configuración fija de temperature=0, max_tokens=8 hace que las salidas sean lo bastante predecibles para alimentar directamente una regla de enrutamiento o un webhook del CRM sin revisión humana en los casos de alta confianza.