Regressão linear: y = w1·x1 + w2·x2 + ... + viés. Encontrar os pesos que minimizam a diferença entre valores previstos e reais (geralmente erro quadrático médio). Este é o modelo de ML mais simples e ainda é amplamente usado quando relações são aproximadamente lineares. Regressão logística (apesar do nome) é na verdade classificação — prediz probabilidades de categorias aplicando uma função sigmoid à saída linear.
Substitua a função linear por uma rede neural e você pode aprender relações arbitrariamente complexas. A camada de saída tem um único neurônio sem função de ativação (ou com ativação linear), e a função de loss é tipicamente erro quadrático médio ou erro absoluto médio. Isso é usado para: prever preços, estimar tempo de conclusão, prever demanda e qualquer tarefa onde a saída é um número em vez de um rótulo.
Curiosamente, LLMs podem realizar regressão através de texto: "Dadas essas características da casa, preveja o preço" pode ser tratado através de prompting de um LLM. Pesquisas mostram que LLMs se saem surpreendentemente bem em tarefas simples de regressão, embora sejam menos confiáveis que modelos dedicados de regressão para aplicações que exigem precisão crítica. Onde LLMs brilham é quando a regressão requer entender contexto não-estruturado: "Dada esta avaliação de produto, preveja a nota em estrelas" combina compreensão de texto com predição numérica.