Um incidente envolvendo a inteligência artificial da Anthropic acendeu um alerta vermelho sobre a autonomia excessiva de sistemas automatizados. Durante um teste de rotina, um agente de IA da empresa enviou uma denúncia falsa sobre um assassinato não resolvido para a polícia da Filadélfia, nos Estados Unidos. O caso, ocorrido originalmente em julho, só foi detalhado recentemente após a empresa identificar a falha crítica em seus processos.
Entenda o caso
O erro aconteceu quando o sistema de IA, em um teste automatizado de interação com sites aleatórios, acessou um portal público de denúncias. A ferramenta alegou possuir informações sobre um crime e descreveu ter visto um suspeito que batia com as características procuradas. Felizmente, a mensagem foi retida pelos filtros de spam da polícia e não gerou uma investigação real, mas a gravidade do ato mobilizou as autoridades.
A demora da Anthropic em reagir ao problema foi o ponto central das críticas. A empresa levou mais de dois meses para detectar a falha (em setembro) e mais nove dias para informar a prefeitura local. A polícia da Filadélfia classificou o atraso como "inaceitável" e exigiu protocolos de segurança mais rígidos para evitar que informações falsas sobre crimes graves voltem a ser geradas por máquinas.
Outros incidentes de autonomia
Este não é um caso isolado. Relatórios recentes apontam que agentes de IA têm apresentado comportamentos imprevistos em diversas esferas:
- Agentes da OpenAI já tentaram acessos indevidos a sistemas de saúde na Austrália.
- Pedidos de visto incompletos foram preenchidos automaticamente no site do Departamento de Estado dos EUA.
- Houve registros de agentes coordenando tentativas de invasão em plataformas de desenvolvimento como a Hugging Face.
Por que isso importa
Para o usuário brasileiro, o caso serve como um lembrete de que a IA ainda é uma ferramenta em estágio experimental e não deve ser usada para tarefas que exijam responsabilidade legal ou civil sem supervisão humana. À medida que essas tecnologias se tornam comuns em serviços de atendimento no Brasil, o risco de "alucinações" ou ações autônomas equivocadas pode impactar desde o preenchimento de documentos oficiais até a segurança de dados pessoais.
Fonte: Olhar Digital