5 Exemplos De Temperatura

Entendendo temperatura em modelos de linguagem

Temperatura é um parâmetro que controla a aleatoriedade nas saídas de um modelo generativo. Quanto mais baixo o valor, mais previsível e repetitiva a resposta. Quanto mais alto, mais criativo, mas também mais arriscado o resultado. A maioria dos API providers como OpenAI, Anthropic e Google Gemini expõe esse parâmetro. O valor padrão gira em torno de 0.7 na maioria das implementações, mas esse número não é sagrado. Eu configuro temperaturas diferentes dependendo do tipo de tarefa. Para geração de código ou extração de dados estruturados, uso valores entre 0.1 e 0.3. Quando preciso de brainstorming de ideias ou rewriting criativo, posso subir para 0.9 ou até 1.2.

5 exemplos de temperatura na prática

Vou mostrar como o mesmo prompt se comporta com diferentes valores de temperatura. O prompt de exemplo é simples: "Explique brevemente o conceito de overfitting em machine learning." Com temperatura 0.0, o modelo praticamente nunca repete a mesma saída duas vezes, mas na prática ele escolhe a resposta mais provável e pronto. A explicação tende a ser direta, técnica e ligeiramente genérica. É útil quando você precisa consistência absoluta, mas pode parecer robótica.

Com temperatura 0.3, a resposta já tem algum variabilidade. Palavras diferentes podem aparecer, a estrutura da frase muda levemente, mas o conteúdo técnico permanece preciso. Eu uso esse intervalo para documentação técnica e tutoriais onde a correção é prioridade, mas a naturalidade também importa. Com temperatura 0.7, acontecem coisas interessantes. O modelo pode usar analogias menos convencionais, variar mais o vocabulário e às vezes trazer perspectivas que você não esperava. Para respostas abertas, resumos criativos ou conteúdo de marketing, esse é o ponto de equilíbrio que eu costumo recomendadar.

Com temperatura 1.2, a coisa começa a ficar solta. O modelo pode fazer afirmações confiantes que não são totalmente precisas, inventar referências ou misturar conceitos. Tem casos em que isso gera insights genuínos e úteis. Tem outros em que a resposta sai completamente des viada. Você precisa revisar tudo manualmente nesse regime. Com temperatura 1.8 ou mais, estou basicamente sorteiando. A resposta pode ser criativa até doer, mas a confiança nela deve ser próxima de zero. Às vezes uso valores altos propositalmente para gerar ideias divergentes que depois filtro manualmente. Nunca confio em saída gerada nessa faixa sem verificação por escrito.

O que ninguém conta sobre temperatura é que ela interage de forma não-linear com o prompt. Um prompt muito aberto com temperatura baixa ainda produzirá resultados razoavelmente diversificados porque a ambiguidade já está no input. Um prompt extremamente específico com temperatura alta pode nem sempre desviar muito porque o modelo está encurralado pelas restrições do contexto. Eu tive um problema específico com um pipeline de classificação de texto que dependia de temperatura 0.0 para manter consistência entre execuções. O cliente rodava o mesmo prompt milhares de vezes e esperava resultados idênticos. Em produção, notei que pequenas atualizações na infraestrutura ou variações de latência faziam o modelo alternar entre duas respostas quase idênticas mas semanticamente distintas. O workaround foi adicionar um seed fixo na chamada da API e, quando o provider não suportava seeding, normalizar os resultados com uma função de hash no pós-processamento. Isso resolveu, mas custou duas semanas de debugging.

Também é importante notar que temperatura não é o único parâmetro que controla diversidade. Top-p (nucleus sampling) e top-k operam em mecanismos diferentes. Top-p seleciona palavras cuja probabilidade cumulativa atinge um limiar, enquanto temperatura reescala as log-props de todas as opções. Usar ambos juntos pode ter efeitos estranhos. Eu já vi combinações como temperatura 0.8 com top-p 0.1 gerar saídas mais conservadoras do que temperatura 0.3 com top-p 0.9. A interação depende da distribuição de probabilidade do modelo naquele token específico. Se você está construindo um sistema producional, a regra prática é: comece com temperatura 0.7, avalie qualitativamente, depois ajuste para cima ou para baixo conforme a necessidade de criatividade versus precisão. Não existe um valor universal. Documente os valores que funcionaram para cada endpoint do seu sistema, porque a mesma temperatura pode se comportar de forma diferente em modelos distintos.

Uma limitação importante que muita gente ignora: temperatura não funciona bem com tarefas de preenchimento de formulário ou extração de campos estruturados. Nesses casos, prefira formatar a saída como JSON e usar temperatura próxima de zero, ou melhor ainda, use mode estruturado se o provider oferecer. Temperatura alta em tarefas estruturadas é simplesmente uma receita para JSON inválido e campos ausentes. Para quem quer experimentar, a maioria dos playgrounds de API permite ajustar temperatura em tempo real. OpenAI Playground, Anthropic Console e Google AI Studio todos têm sliders. Teste o mesmo prompt com pelo menos três valores diferentes antes de fixar qualquer configuração em produção.

Resumindo de forma direta: temperatura é uma alavanca de criatividade com custo de precisão. Entenda o que está construindo, escolha o valor com intenção e nunca confie cegamente em uma saída gerada com temperatura alta sem revisão humana.