Do Zero ao LLM com Delphi
autor Regys Borges da Silveira
Construa, treine e execute seu próprio modelo de linguagem
☆☆☆☆☆seja o primeiro a avaliar
Sinopse
Você já usou um modelo de linguagem. Agora descubra como ele aprende.
Quando fazemos uma pergunta a uma inteligência artificial, recebemos uma resposta em poucos segundos, mas quase todo o mecanismo permanece escondido. Como o texto se transforma em números? O que são embeddings, atenção, Q, K e V? Como um modelo identifica seus erros, ajusta parâmetros e aprende a gerar novas sequências?
Do Zero ao LLM com Delphi abre essa caixa-preta por meio de uma proposta prática: construir, treinar e executar um pequeno modelo de linguagem usando Delphi 13 e Object Pascal.
A jornada começa na preparação do corpus e na tokenização. Em seguida, apresenta vetores, matrizes, tensores, camadas lineares, funções de ativação, cálculo da perda, gradientes, propagação reversa e otimização. Com essas bases, o leitor avança para embeddings, informação de posição, atenção causal, múltiplas cabeças, LayerNorm, conexões residuais e blocos Transformer. Ao final, o modelo aprende padrões, salva checkpoints e gera texto token por token.
Cada conceito é explicado antes de ser usado. A matemática parte de números pequenos e situações concretas, sem pressupor formação em ciência de dados ou inteligência artificial. Diagramas, contas comentadas e exemplos progressivos relacionam a teoria ao código.
Durante o livro, o leitor construirá o DelphiLM, um modelo educacional executado em Win64. Os exemplos utilizam Delphi 13 Florence e apenas recursos da RTL. O código pode ser compilado, executado e testado e está disponível publicamente sob a Apache License 2.0.
O livro foi escrito para desenvolvedores Delphi que desejam compreender os modelos de linguagem por dentro. Quem está começando encontrará uma progressão orientada; quem já conhece os fundamentos encontrará referências, notação e decisões de engenharia apresentadas com rigor.
O objetivo não é competir com grandes modelos comerciais, mas tornar visíveis os dados, cálculos, estruturas e decisões que permitem a um modelo aprender e produzir