Voltar à wiki
Temperatura
O botão que regula o quanto o modelo se atreve.
A analogia
É como pedir um prato a um cozinheiro. Com temperatura baixa, segue a receita à risca: o prato sai igual todas as vezes. Com temperatura alta, improvisa: às vezes cria algo genial, outras vezes um desastre interessante.
Em detalhe
A temperatura é um parâmetro (tipicamente entre 0 e 2) que ajusta a distribuição de probabilidade na escolha de cada token. Perto de 0, o modelo escolhe quase sempre a opção mais provável: respostas consistentes e previsíveis. Com valores altos, a probabilidade espalha-se: mais diversidade, mais criatividade e mais risco de erro.
Um exemplo
Para extrair datas de uma fatura, temperatura 0. Para propor vinte nomes para o teu café, temperatura alta. O mesmo modelo, afinação diferente.