IA para Devs 02: O que é um modelo de linguagem ou LLM?

Olá dando sequencia a minha série sobre IA para Devs. Hoje vamos entender como um LLM recebe um pedido, gera uma resposta e qual é seu papel em um agente de IA. Ah e se você perdeu o primeiro artigo ele foi sobre O que significa engenharia de prompt na prática?. Mas dando sequencia, vamos ao assunto de hoje.

LLM é a sigla de Large Language Model (modelo de Linguagem de grande porte). É um modelo treinado para processar sequências de tokens e gerar respostas conforme a mensagem recebida.

Muitos LLMs são modelos fundacionais (foundation models), treinados com grandes volumes de dados para realizar ou serem adaptados a diferentes tarefas. Também existem modelos fundacionais que trabalham com imagens, áudio e outros tipos de dados, são modelos multimodais.

É o processo em que ele aprende padrões a partir de dados. Durante esse processo, são ajustados seus parâmetros, que são valores numéricos internos que influenciam como o modelo processa informações e gera respostas. Esse treinamento pode envolver diferentes etapas e métodos: Pré-treinamento, ajuste fino, treinamento por preferências ou reforço.

Nem todos os modelos utilizam as mesmas etapas ou métodos. Por exemplos, modelos criados para gerar código podem ser treinados com todos os repositórios públicos do github e todas as perguntas e respostas do stack overflow.

Ao receber um prompt, o LLM utiliza os padrões aprendidos e o contexto fornecido para gerar textos, códigos ou formatos estruturados.

Com base no contexto recebido (prompt do usuário) e nos padrões aprendidos no treinamento, um LLM pode:

O usuário escreve uma mensagem e envia ao modelo:

Me explique em uma frase o que é uma LLM Enter fullscreen mode Exit fullscreen mode Passo 2:

O modelo divide a mensagem em vários tokens:

Tokens: são unidades usadas pelo modelo para processar texto; uma palavra pode ser dividida em vários tokens. Cada modelo tem suas regras de divisão e quebra de token.

O modelo usa os parâmetros de treinamento para de forma matemática determinar quais tokens ele pode devolver para gerar uma resposta satisfatória.

O modelo devolve a resposta para o usuário em linguagem natural:

Uma LLM é um modelo de inteligência artificial que processa e gera textos. Enter fullscreen mode Exit fullscreen mode Qual a diferença entre um LLM e um agente de IA? Um LLM recebe um contexto e produz uma saída. Já um agente de IA combina esse modelo com um fluxo de trabalho que pode usar ferramentas da aplicação para realizar uma ou mais tarefas em uma ou mais etapas, inclusive salvando o contexto da conversa.

Qual é a temperatura em São Paulo agora? Enter fullscreen mode Exit fullscreen mode Resposta com o modelo LLM

O modelo pode gerar uma resposta com base no que aprendeu durante o treinamento, mas, sem acesso a dados atualizados, não consegue confirmar a temperatura atual.

O agente identifica que precisa de informações atualizadas, faz consulta a uma ferramenta de previsão do tempo e retorna a temperatura informada naquele momento.

A diferença: o LLM gera respostas com base nos padrões aprendidos e no contexto recebido, enquanto o agente pode utilizar ferramentas para consultar informações externas e assim executar ações.

Podemos comparar o LLM a um cérebro, que processa informações, interpreta e gera respostas a partir dos seus padrões matemáticos aprendidos. Dá mesma forma que um ser humano só consegue responder sobre assuntos que aprendeu durante a vida.

E quando um humano inventa algo que não sabe só para responder uma pergunta? Parabéns você entendeu o que é a alucinação da LLM.

Expand Afonso Pacifer Afonso Pacifer Afonso Pacifer Follow Senior Software Engineer @ Itaú Unibanco | Front-End Specialist Email afonsopolis@gmail.com Location São Paulo - SP, Brazil Joined Feb 16, 2020 • Oct 30 Dropdown menu Copy link Hide Ficou muito bem explicado, parabéns:)