Nem todo projeto de IA Generativa precisa de um modelo gigantesco (um LLM). Muitas vezes, a empresa precisa de uma solução para uma tarefa específica, com mais controle sobre os dados, os custos e a infraestrutura. É nesse cenário que os Small Language Models (SLMs) ganham espaço. São modelos menores, que podem ser especializados e, dependendo do tamanho e da configuração, executados em um notebook ou em um servidor da própria empresa. Aprender a trabalhar com eles amplia suas opções: além de consumir modelos por API, você passa a entender como construir, treinar e ajustar um modelo para o problema que precisa resolver. Para decidir quando usá-los, precisamos conhecer tanto suas capacidades quanto seus limites.

Essa é a proposta do curso de bônus Fine-Tuning de SLMs (Small Language Models): O Guia Prático Completo, da Formação Generative AI Engineer 4.0 e do Programa de Pós-Graduação em Engenharia de IA Generativa. O curso leva você dos fundamentos à implantação. Ao longo de 16 capítulos organizados em quatro partes, você acompanha o processo completo e entende as decisões envolvidas em cada etapa.

O ponto de partida é a implementação dos fundamentos com PyTorch. Você trabalha com tokenização, mecanismos de atenção, organização dos dados em lotes e o loop de treinamento, até construir um GPT do zero e realizar um primeiro fine-tuning com as bibliotecas da Hugging Face. Depois, avança para o treinamento com datasets reais, aprendendo a dimensionar a arquitetura, treinar modelos de 125 a 350 milhões de parâmetros, avaliar os resultados com a métrica de perplexidade e benchmarks e investigar os problemas que surgem durante os experimentos. A ideia é aprender também o que fazer quando o treinamento não sai como esperado.

Na terceira parte, você desenvolve um pipeline inspirado no projeto MiniMind, com três etapas: pré-treinamento, Supervised Fine-Tuning (SFT) e Direct Preference Optimization (DPO). O trabalho inclui tanto o ajuste completo dos parâmetros quanto o uso de LoRA. Na parte final, entram quantização em INT8 e 4 bits, técnicas e formatos como GPTQ e GGUF, além da análise de custos de treinamento e inferência. Três projetos completos conectam esse conhecimento a aplicações do mundo real.

Esse conhecimento ajuda a tomar decisões melhores em projetos de IA Generativa. Como preparar os dados sem contaminar a validação com informações do treinamento? Qual tamanho de modelo faz sentido para os dados e os recursos disponíveis? O que uma curva de loss está mostrando? Quando usar LoRA ou quantização? Como disponibilizar o modelo com FastAPI, vLLM ou Ollama? E quando vale a pena manter um SLM próprio em vez de usar uma API? O curso trabalha essas questões para que você consiga justificar suas escolhas, avaliar alternativas e entender os resultados.

Também há espaço para um cuidado que não pode ficar para depois: o uso responsável. Um modelo apresentar boas métricas não significa que suas respostas sejam confiáveis ou seguras em qualquer situação. Por isso, o curso inclui revisão humana, documentação de limitações em um model card e testes de red team, além de um capítulo dedicado à ética. Aprender a reconhecer os limites de uma solução faz parte do trabalho de quem pretende colocá-la em produção.

Para acompanhar o curso, você precisa de familiaridade com Python e com os conceitos básicos de Deep Learning (o que pode ser obtido no curso gratuito de Python aqui mesmo na DSA). Com essa base, poderá avançar para uma compreensão mais completa de como os modelos de linguagem funcionam e de como adaptá-los a diferentes necessidades.

O curso está disponível como bônus na Formação Generative AI Engineer 4.0 e na Pós-Graduação em Engenharia de IA Generativa. Conheça o programa em www.datascienceacademy.com.br. O curso de bônus oferece certificado em português e/ou inglês.

Caso queira aprender a construir uma arquitetura de LLM a partir do zero, ensinamos no curso de Deep Learning da Formação Engenheiro de Inteligência Artificial 4.0.

Caso queira aprender a Matemática por trás dos LLMs, ensinamos no curso de Matemática da Formação Cientista de Dados 4.0.

No curso IA Generativa e LLMs Para Processamento de Linguagem Natural você encontra um projeto completo de fine-tuning de LLMs.

Bons estudos.

Equipe DSA