Como saber se o uso de inteligência artificial numa empresa é responsável? De acordo com Murilo Moura Alencar, estrategista de tecnologia, pessoas e games, a resposta passa por três pontos que qualquer organização consegue verificar: quem responde pela decisão, que dados alimentam a ferramenta e quanto de revisão humana existe antes de o resultado chegar ao público.
A pergunta ganha peso porque a tecnologia entrou no trabalho de forma desigual. Em algumas empresas, ela foi adotada por uma área e se espalhou sem regra; em outras, ficou travada por medo de errar. Nos dois casos, falta o que permite avaliar o uso com calma: um desenho claro de responsabilidades. Comparar os dois caminhos, o do uso improvisado e o do uso organizado, mostra onde a ética deixa de ser discurso e vira prática de gestão.
O que muda entre usar por impulso e usar com critério?
O uso por impulso começa quando alguém descobre que a ferramenta resolve uma tarefa e passa a aplicá-la em tudo, sem combinar nada com o restante da equipe. O uso com critério começa pelo oposto: define-se antes para que tipo de tarefa a ferramenta serve e em quais situações ela não deve ser usada. A diferença parece pequena, mas determina quem assume o erro quando ele aparece.
Como pontua Murilo Moura Alencar, a ética no uso da inteligência artificial começa na definição de responsabilidade, e não na ferramenta escolhida. Se ninguém sabe quem aprova o resultado, qualquer falha vira problema de todos e, na prática, de ninguém. Em empresas de tecnologia, é comum que a regra de aprovação exista para o código e não exista para textos, imagens ou análises geradas por máquina, o que deixa uma brecha grande.
Dados: o ponto em que o descuido custa mais
Todo sistema de inteligência artificial generativa, isto é, uma ferramenta que cria textos, imagens ou código a partir de um pedido, trabalha com o que recebe. Ao colar numa ferramenta externa um contrato, uma planilha de compradores ou um trecho de código proprietário, a pessoa entrega informação que talvez não pudesse sair da empresa. O hábito de testar com dados reais, só porque é mais rápido, é a origem de muitos incidentes de confidencialidade.
O uso responsável pede uma lista simples do que pode e do que não pode ser enviado a serviços de terceiros, escrita em linguagem que qualquer pessoa da equipe entenda. É como a regra de não deixar documentos importantes sobre a mesa de um café: ninguém tem má intenção, mas o ambiente não é feito para guardar o que é sensível. Em empresas que lidam com dados de pessoas, a regra precisa também considerar a legislação de proteção de dados, cujos detalhes devem ser confirmados com a área jurídica, porque mudam com o tempo.
Como Murilo Moura Alencar enxerga a revisão humana
A revisão humana é o ponto em que os dois modelos mais se afastam. No uso por impulso, o resultado da ferramenta é aceito porque parece convincente, e a aparência de segurança engana: sistemas generativos produzem frases fluentes mesmo quando o conteúdo está errado. No uso com critério, a revisão é uma etapa prevista, com alguém capaz de reconhecer o erro.
Conforme detalha Murilo Moura Alencar, a revisão só funciona quando a pessoa revisora entende do assunto o bastante para discordar da máquina. Entregar a conferência a quem não domina o tema cria uma falsa sensação de controle. Em equipes de desenvolvimento, por exemplo, a leitura atenta do que a ferramenta sugeriu costuma pesar mais do que a velocidade com que a sugestão apareceu, e isso vale para áreas bem distantes da programação.
Transparência com quem recebe o resultado
Outro contraste está na forma de tratar o público. Há empresas que usam a inteligência artificial e preferem não comentar o assunto; outras informam, de modo simples, quando uma resposta, uma imagem ou uma recomendação teve ajuda de um sistema automatizado. A segunda postura reduz o risco de desconfiança quando o uso vem à tona, o que quase sempre acontece.
Na leitura de Murilo Moura Alencar, a transparência não exige explicações técnicas longas. Basta que a pessoa afetada por uma decisão saiba que houve automação e tenha a quem recorrer se perceber um erro. Em serviços que tomam decisões sobre pessoas, como seleção de candidatos ou análise de crédito, essa porta de recurso é o que separa a conveniência da injustiça. Quem não consegue contestar uma decisão automatizada fica sem defesa, e a empresa fica exposta a um problema que poderia ter evitado.
Vieses e o limite do que a máquina aprendeu
Sistemas de inteligência artificial aprendem com exemplos do passado, e o passado carrega distorções. Se os dados históricos de uma empresa favoreceram certo perfil de candidato, uma ferramenta treinada com eles tende a repetir o padrão e a apresentá-lo como se fosse neutro. Trata-se do chamado viés: uma inclinação sistemática que o sistema herda sem que ninguém tenha escolhido.
Na avaliação de Murilo Moura Alencar, o cuidado com o viés é permanente e não se resolve com uma checagem única no início. A empresa que testa os resultados periodicamente, com amostras variadas, percebe o desvio antes que ele cause dano. A que confia na primeira validação costuma descobrir o problema por reclamação de quem foi prejudicado, que é a pior forma de aprender.
Um roteiro curto para começar sem travar
Comparados lado a lado, os dois caminhos mostram que o uso responsável não é mais lento nem mais caro por natureza. Exige poucas decisões tomadas cedo: nomear quem responde, listar os dados que não saem da empresa, prever a revisão humana, avisar quem recebe o resultado e testar o sistema de tempos em tempos. Cada decisão cabe numa página e pode ser revista quando a tecnologia mudar.
Para empresas pequenas, o ponto de partida pode ser uma conversa de uma hora entre quem usa as ferramentas, resultando em regras escritas e simples. Para as grandes, o caminho passa pelo conselho e pela liderança, que precisam saber onde a tecnologia está em uso. Em ambos os casos, o que sustenta a confiança é a clareza de quem decide e a disposição de corrigir o que não funcionou.

