Mesmo com sistemas mais avançados, empresas como OpenAI e Google enfrentam desafios crescentes com respostas imprecisas.
No mês passado, um bot de IA usado no suporte técnico da Cursor, ferramenta voltada para programadores, causou confusão ao informar erroneamente que os usuários não poderiam mais usar o software em mais de um computador. O alerta falso, que gerou reclamações e cancelamentos, foi atribuído a um erro do próprio sistema de IA, como esclareceu o CEO da empresa.
Esse caso ilustra um problema recorrente: sistemas de IA, mesmo os mais avançados, ainda cometem erros — chamados de “alucinações” — ao gerar informações incorretas com aparente confiança. Apesar dos avanços desde o lançamento do ChatGPT, as taxas de erro seguem preocupantes, especialmente com os chamados “modelos de raciocínio”, desenvolvidos por empresas como OpenAI, Google e DeepSeek, como explica o New York Times em um artigo.
Sistemas poderosos alucinam mais
Paradoxalmente, quanto mais sofisticados os sistemas, maior tem sido a incidência de alucinações. Em testes recentes, os modelos mais poderosos da OpenAI — como o o3 e o o4-mini — apresentaram taxas de erro de até 79%, superando os modelos anteriores. Segundo pesquisadores, isso ocorre porque esses sistemas geram respostas com base em probabilidades e não têm uma compreensão real de verdade ou falsidade. Apesar de tentativas de melhorar a precisão com técnicas como aprendizado por reforço, os erros persistem, inclusive em tarefas simples como resumir notícias. Isso compromete o uso seguro da IA em áreas sensíveis como medicina, direito e negócios. Especialistas apontam que o problema está longe de ser resolvido. Embora novas ferramentas estejam sendo desenvolvidas para rastrear as origens dos erros, a forma como esses modelos operam ainda é em grande parte opaca, o que desafia a confiabilidade da tecnologia.
Fonte: Olhar Digital
Receba todas as notícias do Paraíba Business no WhatsApp
