Resumo IA
- Levantamento aponta que 33% dos usuários analisados nos EUA já enviaram insultos ou palavrões a chatbots.
- Respostas incorretas, instruções ignoradas e falhas de compreensão motivam mais da metade das mensagens ofensivas.
- Anthropic atualiza regras do Claude para restringir comportamentos abusivos persistentes.
A frustração com respostas erradas e instruções ignoradas está por trás de boa parte dos xingamentos enviados a chatbots de inteligência artificial. Segundo levantamento da Searchable, empresa especializada em monitorar buscas feitas por IA, 33% dos participantes analisados nos Estados Unidos usaram pelo menos um palavrão ou insulto ao conversar com ChatGPT, Gemini ou Claude ao longo de um ano.
O estudo analisou mais de 8 milhões de mensagens enviadas entre setembro de 2025 e setembro de 2026. Os dados foram coletados de um painel formado por participantes voluntários e anônimos.
Erros e instruções ignoradas provocam irritação
Entre as mensagens ofensivas, 19% apareceram depois que a ferramenta deixou de seguir uma instrução. Respostas incorretas representaram 18% dos episódios, enquanto pedidos mal interpretados responderam por outros 15%. Somadas, essas três situações explicam aproximadamente 52% dos casos identificados.
Outras causas incluíram recusas ou avisos de segurança (8%), lentidão e falhas técnicas (8%) e explicações excessivamente longas (7,6%). Segundo o levantamento, cerca de quatro em cada cinco mensagens ofensivas estavam associadas a alguma reclamação. As demais incluíam brincadeiras e provocações.
A pesquisa também comparou o resultado dessas reclamações. Quando a primeira manifestação incluía insultos, o chatbot corrigiu o problema na resposta seguinte em 24% das conversas. Entre aqueles que apenas apontaram o erro, a taxa foi de 35%.
A diferença não comprova que ofender uma IA prejudique a qualidade da resposta. Em muitos casos, os xingamentos ocorreram depois de outras tentativas frustradas de corrigir o chatbot. Outros levantamentos já identificaram problemas de precisão em respostas de sistemas de IA, inclusive em resumos de notícias.
Anthropic limita abusos contra o Claude
A discussão ocorre enquanto a Anthropic, desenvolvedora do Claude, passou a aplicar novas regras contra comportamentos abusivos. Uma política anunciada em outubro, em vigor desde quinta-feira (12/11), proíbe agressões persistentes e sem justificativa contra seus modelos de inteligência artificial.
A empresa ressalta que a regra se destina a casos extremos e quando há agressões insistentes sem finalidade. Reclamações comuns, críticas às respostas, testes de segurança e pesquisas continuam liberados. A Anthropic já havia permitido que seus modelos Claude Opus 4 e 4.1 encerrassem conversas abusivas. Segundo a companhia, interromper esses diálogos continuará sendo a principal forma de aplicar a regra.
Fonte: Tecnoblog