IA
LLMs explicados para gestores de TI
O que são os grandes modelos de linguagem e onde faz sentido usá-los.
Os grandes modelos de linguagem, os LLMs, viraram assunto em toda reunião. Para o gestor de TI, a pergunta útil não é "isso é incrível?", e sim "onde isso resolve um problema meu sem criar outro?".
O que um LLM faz, em uma frase
Um LLM é um modelo treinado com enorme quantidade de texto para prever a continuação mais provável de uma sequência de palavras. Dessa habilidade simples surgem capacidades úteis: resumir, explicar, classificar, traduzir e escrever.
Onde costuma funcionar bem
- Resumo de chamados e incidentes longos.
- Base de conhecimento conversável, respondendo com base na documentação interna (a técnica conhecida como RAG).
- Primeira análise de logs e mensagens de erro.
- Redação de relatórios, comunicados e procedimentos.
Onde exige cuidado
- Informação inventada: o modelo pode responder com confiança algo errado. Para decisões técnicas, a resposta precisa vir ancorada em dados reais.
- Dados sensíveis: credenciais, dados pessoais e informações de clientes não devem ir para serviços sem garantia contratual e técnica.
- Ações automáticas: um LLM que executa comandos precisa de limites claros e aprovação humana.
Um bom ponto de partida
Escolha um processo repetitivo, com dados que você controla, e meça o antes e o depois. Projetos pequenos e medidos ensinam mais do que uma transformação anunciada.
