Parâmetros
Os milhões de “botões” internos onde vive o que foi aprendido.
A analogia
Pensa numa mesa de mistura com milhares de milhões de botões minúsculos. Durante o treino, cada exemplo roda um pouco alguns botões até a “canção” soar bem. O que o modelo aprendeu não está guardado como frases: está guardado como a posição exata de todos esses botões.
Em detalhe
Os parâmetros (ou pesos) são os números ajustáveis da rede neuronal; fixam-se durante o treino e determinam como cada entrada é transformada. “7B” ou “70B” indicam milhares de milhões de parâmetros. Mais parâmetros costumam dar mais capacidade, mas também mais custos de treino e inferência; a qualidade dos dados conta tanto como o tamanho.
Um exemplo
Um modelo “7B” cabe num portátil potente e responde depressa; um com centenas de milhares de milhões precisa de servidores especializados. Por isso existem famílias de modelos de vários tamanhos para usos diferentes.