Perguntas frequentes sobre IA nas empresas
Estas são as perguntas que as empresas mais fazem ao pôr IA em produção. Cada resposta é concreta e verificável, não genérica.
Como construir uma base de conhecimento de IA?
Separe «conhecimento» de «documentos». Documentos são os PDF, os Word, os compêndios de normas; conhecimento é a menor unidade, dentro deles, que pode ser recuperada e reconduzida à fonte. O trabalho central é: desduplicar, determinar versões, cortar na granularidade certa e definir limites de recusa. Meter PDF diretos numa base vetorial é o mesmo que não fazer nada.
Por que o modelo responde de forma imprecisa?
Na minha experiência, 80 % dos casos não são um problema do modelo, mas um destes três: os excertos recuperados estão incompletos ou são da versão errada, ninguém definiu o que é estar correto, e ninguém mantém o sistema depois de entrar em produção. Os restantes 20 % são limites reais do modelo.
Como melhorar um RAG fraco?
Não troque de modelo à pressa. Verifique por ordem: a granularidade do corte está certa, os excertos recuperados são os certos, o prompt exige «diz que não sabes quando não tens certeza», há conflito de versões. Estes quatro passos resolvem a maioria dos casos; mudar de modelo é o último recurso.
Que hardware é preciso para uma implementação privada?
Depende do tamanho do modelo. 7B–8B em quantização Q4 pede cerca de 5 GB de VRAM: uma placa de 12 GB chega. 14B em Q4 pede cerca de 9 GB — uma placa de 12 GB aguenta, mas com contexto limitado. Para perguntas e respostas internas numa empresa média, 7B–14B costuma bastar; não é preciso começar com dezenas de milhares de milhões de parâmetros.
Que tamanho de modelo cabe em 12 GB de VRAM?
14B em Q4_K_M (cerca de 9 GB) corre, ficando o resto para o contexto — mantenha a janela de contexto abaixo de 8K. Para contexto mais longo, desça para 7B.
Quem responde se o assistente de IA se enganar?
Isto tem de ficar no contrato. O meu método: definir o limite de «recusa obrigatória», encaminhar para humano tudo o que o ultrapasse, e registar cada resposta para poder ser auditada. A responsabilidade começa por saber quando e o que o sistema respondeu, por isso o registo é obrigatório.
Um sistema de perguntas e respostas com IA é conforme no hospital?
A conformidade começa por um papel claro: apenas consulta de informação e orientação de processos — nunca diagnóstico, nunca substituir o critério médico. Tudo o que envolva um caso concreto deve ser recusado e reencaminhado para um médico. Eu fixo esse limite logo na construção da base.
Quanto custa pôr IA na empresa?
Depende da desordem dos seus conhecimentos. O diagnóstico é gratuito e depois posso orçamentar com precisão. Ordem de grandeza: construir uma base para um cenário de complexidade média conta-se em dezenas de milhar, com afinação contínua faturada mensalmente. Qualquer orçamento feito sem diagnóstico não é fiável.
Como avaliar os resultados da IA?
Retire 50 a 100 perguntas reais do negócio, com respostas de referência anotadas por pessoas, e meça quatro indicadores: precisão factual, taxa de citação correta, taxa de recusa esperada e volume de revisão manual. O essencial é que sejam reproduzíveis: outra pessoa a executar chega aos mesmos números.
A nossa documentação está uma confusão — arrumamos primeiro?
Não. Arrumar faz parte do meu trabalho, e eu sei que estrutura a torna pesquisável. Se arrumarem primeiro, o mais provável é ter de refazer.
Implementação local ou API na cloud?
Veja a sensibilidade dos dados. Regulamentos internos, dossiês de clientes, know-how não público: local. Consultas gerais sobre informação pública: a API na cloud é mais económica. A mistura é comum: conhecimento sensível recuperado localmente, compreensão geral na cloud.
Quando se veem resultados?
O relatório de diagnóstico fica pronto em 2 a 3 dias e mostra logo onde estão os problemas. Após 4 a 6 semanas de construção da base, os indicadores melhoram de forma clara. Mas manter a precisão é trabalho de longo prazo, que exige manutenção mensal.