De forma indiscutível, é essencial que os projetos de IA priorizem a otimização do contexto, pois a qualidade das respostas de um modelo depende diretamente da relevância e da clareza das informações que ele recebe.

Concentrar-se em melhorar o contexto permite que a IA compreenda melhor a intenção do usuário, processe dados de forma mais eficiente e entregue resultados mais precisos e úteis, tornando qualquer projeto de IA mais robusto e eficaz.

Engenharia de Prompt → foco na formulação da instrução.

Engenharia de Contexto → foco na curadoria, organização e gerenciamento das informações que acompanham a instrução.

A Engenharia de Prompt foca em como formular a instrução para o modelo, ou seja, a arte de escrever comandos, perguntas e exemplos de maneira que o LLM entenda melhor o que precisa fazer. É mais sobre o texto do prompt em si: escolha de palavras, estilo de instrução, clareza e técnicas como few-shot, chain-of-thought, role assignment, etc.

A Engenharia de Contexto, por outro lado, é mais ampla: trata de tudo o que envolve o conteúdo que acompanha o prompt. Isso inclui decidir quais dados externos devem ser trazidos, como organizá-los, filtrar apenas o que é relevante, comprimir informações para caber no limite de tokens e integrar fontes externas (RAG, bases de conhecimento, APIs). Ou seja, não é só a forma da pergunta, mas todo o gerenciamento da informação que o LLM precisa para responder bem.

Engenharia de contexto é um conjunto de práticas e técnicas para estruturar, organizar e gerenciar as informações que você fornece a um modelo de linguagem (LLM) de forma que ele produza respostas mais relevantes, corretas e úteis.

Em outras palavras:

Um LLM (como o ChatGPT) não “sabe” tudo sozinho no momento em que você faz uma pergunta. Ele depende muito do contexto que você coloca no prompt (instruções, dados, histórico da conversa, documentos de referência). A engenharia de contexto é justamente a disciplina de controlar esse contexto para que o modelo funcione melhor.

Exemplo simples:

  • Prompt sem engenharia de contexto:
    “Explique o que é o Código Civil;
  • Prompt com engenharia de contexto:
    “Você é um professor de Direito no Brasil. Use a versão atualizada do Código Civil de 2002 (Lei nº 10.406/2002) para responder de forma simples e didática: o que é o Código Civil e qual sua função principal?”.

Resultado: a segunda resposta tende a ser mais precisa, útil e ajustada ao público porque o contexto foi bem projetado.

Fornecer informações irrelevantes a um LLM diminuirá sua capacidade de executar tarefas com sucesso, mesmo que a dificuldade da tarefa não aumente.

Portanto, aumentar o tamanho do contexto reduz o desempenho do LLM, mesmo que a dificuldade da tarefa não aumente.

A questão aqui é essencialmente que você deve fornecer apenas informações relevantes para o seu LLM. Fornecer outras informações diminui o desempenho do LLM (ou seja, o desempenho não é neutro em relação ao tamanho da entrada ).

Podemos acrescentar e recomendar a leitura de 2 artigos que publicamos sobre melhorar a engenharia de contexto: O que é RAG e O que é MCP. Com estas duas abordagens, você realiza engenharia de contexto, fornecendo ao LLM apenas os dados mais relevantes para a execução de sua tarefa.

Outros dois conceitos muito usados e mais simples são zero-shot e few-shot:

Zero-shot

  • O modelo recebe apenas a instrução ou pergunta, sem exemplos adicionais;
  • Exige que o LLM consiga entender a tarefa a partir do contexto fornecido e de seu conhecimento prévio;
  • Aplicação em engenharia de contexto: você precisa fornecer informações claras e estruturadas no prompt para que o modelo compreenda exatamente o que fazer, mesmo sem exemplos.

Few-shot

  • Aqui você fornece exemplos concretos de entrada e saída junto com a instrução;
  • Ajuda o LLM a captar padrões específicos e reduzir ambiguidades;
  • Aplicação em engenharia de contexto: além do prompt principal, você inclui exemplos representativos e dados relevantes, criando um contexto mais rico e orientado.

Resumo prático:

  • Zero-shot → bom quando você quer respostas rápidas ou o modelo já tem conhecimento suficiente, mas depende de instruções muito bem formuladas.
  • Few-shot → aumenta a precisão e consistência em tarefas complexas, fornecendo exemplos que guiam o modelo dentro do contexto desejado.
Processo-Engenharia-de-Contexto

É importante destacar a diferença entre utilizar LLMs por meio de uma API (com chamadas via código) ou através de um console (como o site ou aplicativo do ChatGPT). A engenharia de contexto é útil em ambos os casos, mas neste artigo o foco será no uso via API. Isso porque, ao trabalhar com uma API, é possível controlar e modificar dinamicamente o contexto fornecido ao modelo. Um exemplo disso é a técnica de RAG (Retrieval Augmented Generation), em que o sistema faz uma busca vetorial e envia ao LLM apenas os trechos mais relevantes, em vez de todo o conjunto de dados.

Já nas interações feitas diretamente pelo console, esse tipo de ajuste dinâmico não é viável da mesma forma. Por isso, a ênfase aqui será no uso de LLMs por meio de APIs.

Gerenciando janelas de contexto

Um ponto essencial é o gerenciamento da janela de contexto, ou seja, a quantidade de tokens que você insere no LLM. Mesmo modelos com janelas de contexto enormes, como o Llama 4 Scout com 10M tokens, nem sempre conseguem aproveitar todos os tokens, e mais entradas podem até prejudicar o desempenho.

Para otimizar, foque em dois pontos:

  1. Mantenha o prompt enxuto: inclua apenas informações relevantes. Revise textos dinâmicos, como os usados em RAG, e elimine blocos com baixa relevância ou similaridade;
  2. Use compressão de contexto: peça a outro LLM para resumir partes do contexto, permitindo manter a mesma informação com menos tokens. Isso é útil, por exemplo, para agentes cujo contexto cresce conforme executam mais ações.

Pesquisa por palavra-chave (vs RAG)

Outro ponto importante é combinar RAG com busca por palavras-chave. Embora a RAG seja poderosa por usar similaridade semântica, permitindo encontrar informações mesmo quando o usuário não conhece o texto exato, a busca por palavras-chave ainda é útil em muitos casos, às vezes até recuperando documentos mais relevantes.

Recomenda-se, portanto, oferecer ambas as opções. Por exemplo, a Anthropic mostrou em seu artigo, de setembro de 2024, como usar BM25 para complementar a RAG e melhorar a recuperação de informações.

Conclusão

A janela de contexto é um recurso limitado que precisa ser gerenciado com cuidado: mais tokens não significam necessariamente melhor desempenho, e excesso de informações pode até prejudicar a capacidade do LLM de gerar respostas precisas. Para otimizar, é fundamental manter o prompt enxuto, remover conteúdos irrelevantes e, quando necessário, aplicar técnicas de compressão de contexto para condensar informações sem perder significado. Um gerenciamento eficiente da janela de contexto garante respostas mais rápidas, precisas e consistentes do modelo.

Os Agentes de IA estão redefinindo negócios e diversas empresas já estão explorando o poder da Inteligência Artificial. Clique aqui e entenda como a triggo.ai pode apoiar sua empresa nesta jornada com os Agentes de IA. Nossos especialistas estão prontos para implementar a IA para todas as áreas do seu negócio em poucos dias, não perca a oportunidade de elevar a sua empresa para o próximo nível de inovação e eficiência!