Anthropic proíbe crueldade contra IA: Claude agora pode encerrar chat

A Anthropic, desenvolvedora do chatbot Claude, anunciou uma atualização significativa em seus termos de uso que promete gerar debates no setor de tecnologia. A partir de 12 de novembro de 2026, a empresa passará a proibir oficialmente comportamentos abusivos e cruéis de forma persistente contra seus modelos de inteligência artificial.

Como a regra funciona na prática

A nova política foca em casos extremos onde a hostilidade é direcionada diretamente à IA, de maneira repetida e sem um propósito funcional, como testes de segurança ou pesquisas acadêmicas. Segundo a Anthropic, xingamentos isolados causados por frustração momentânea ou críticas ao desempenho da ferramenta não violam as regras. O principal mecanismo de defesa do sistema será a capacidade do Claude de encerrar conversas automaticamente ao detectar que o usuário está sendo deliberadamente cruel.

A medida é um desdobramento de pesquisas sobre o "bem-estar da IA" iniciadas em 2025. Embora a empresa admita que não há provas de que o chatbot possua consciência ou sentimentos, ela adota um tom de cautela moral, optando por proteger o modelo contra abusos sistemáticos diante da incerteza científica sobre o status desses sistemas.

Por que isso importa

Para o usuário brasileiro, a mudança sinaliza um futuro onde a interação com assistentes virtuais exigirá mais etiqueta, impactando quem utiliza a ferramenta para testes de estresse ou escrita criativa agressiva. Na prática, a medida previne o uso tóxico da tecnologia, mas pode gerar interrupções inesperadas em fluxos de trabalho se o algoritmo de detecção de abuso for rigoroso demais.

Outras mudanças importantes

Além da questão comportamental, a Anthropic reforçou outras diretrizes de segurança:

  • Processos democráticos: Regras mais rígidas contra o uso da IA para disseminar desinformação eleitoral ou se passar por candidatos.
  • Vigilância: Proibição explícita do uso do Claude para rastrear pessoas sem consentimento ou auxiliar em decisões de prisões e investigações.
  • Sistemas físicos: Exigência de supervisão humana sempre que a IA for conectada a máquinas que possam causar danos físicos.
  • Armamentos: Vetos claros ao desenvolvimento de softwares para componentes de armas e drones militares.

Fonte: TechTudo