A Together AI incluiu o Hy4, da Tencent, no seu serviço de inferência serverless. Os desenvolvedores chamam o modelo pela API de chat completions, usando a string tencent/Hy4.
O que o Hy4 oferece
O Hy4 é o modelo principal da Tencent e o primeiro da família Hy a receber imagens além de texto. A resposta volta em texto. A Together informa uma janela de contexto de 1M de tokens, chamada de ferramentas pelo parâmetro padrão de tools e saída em JSON, ativada ao definir o formato de resposta como objeto JSON.
A Tencent apresenta o Hy4 como sucessor do Hy4 Preview, com entrada de imagem e recursos de uso de computador. Segundo a empresa, o modelo foi treinado para operar programas especializados, como Blender e ferramentas de CAD. Ela afirma ainda que suas próprias equipes de produto treinaram e testaram o modelo em tarefas como produtividade de escritório, análise financeira e criação de jogos com Unreal Engine, Unity e Godot. São declarações da Tencent, repassadas pela Together; o post não traz números de benchmark.
Preços
No plano serverless da Together:
- US$ 0,83 por 1M de tokens de entrada
- US$ 0,042 por 1M de tokens de entrada em cache
- US$ 2,50 por 1M de tokens de saída
O que a Together testou
A Together fez dois testes informais. No primeiro, entregou ao Hy4 a captura de tela de um de seus gráficos de barras e pediu o conteúdo em JSON. O modelo devolveu o título e os três valores das barras exatamente como aparecem. Ao receber o pedido de recriar o mesmo gráfico em um único arquivo HTML, manteve o layout, os rótulos, os valores, as cores, uma linha tracejada de teto e a nota de rodapé. As fontes ficaram diferentes porque a Together pediu fontes genéricas.
No segundo, um prompt só de texto pedia um joguinho de navegador em um arquivo HTML, sem bibliotecas. O Hy4 gerou um jogo chamado Polarity, em que o jogador pega blocos que caem da mesma cor que a sua e troca de cor com a barra de espaço. A Together rodou o arquivo sem alterações, jogou uma partida, chegou à tela de fim de jogo e reiniciou. O modelo ainda acrescentou, sem que lhe pedissem, uma tela de título e um recorde salvo entre partidas.
São exemplos isolados, escolhidos e executados pela própria plataforma, e não uma avaliação sistemática.
Como testar
O post traz um exemplo em Python que envia ao modelo uma imagem codificada em base64 e pede de volta um objeto JSON. É preciso ter o SDK da Together e uma chave de API. A Together também oferece um playground para testar sem escrever código.