Grok enfrenta críticas por inexactidões nas respostas sobre o conflito no Médio Oriente

O Grok, assistente de inteligência artificial desenvolvido pela startup xAI de Elon Musk, tem-se mostrado deficiente na verificação de informações relacionadas à recente guerra entre Israel e o Irão. Um estudo realizado pelo Digital Forensic Research Laboratory (DFRLab) do Atlantic Council, publicado na terça-feira, destaca que as respostas do Grok foram frequentemente imprecisas e contraditórias.

À medida que a verificação de facto entre jornalistas diminui em plataformas sociais como o Facebook, cada vez mais utilizadores voltam-se para ferramentas de IA como o Grok em busca de informações fidedignas. Contudo, o relatório indica que as respostas obtidas em alguns casos têm exposto os utilizadores a desinformação.

A análise de cerca de 130 mil mensagens em várias línguas na plataforma X, que integra o Grok, revelou que esta ferramenta teve dificuldades significativas para autenticar conteúdos gerados por IA. Nos primeiros dias do conflito, o assistente falhou em fornecer informações claras e consistentes.

Um exemplo notável ocorreu quando, após ataques de retaliação do Irão, o Grok ofereceu respostas contraditórias sobre uma imagem de um aeroporto destruído. As respostas variaram em intervalos de tempo muito curtos, entre negar os danos e confirmá-los. Algumas afirmações também chegaram a atribuir a destruição a um míssil disparado do Iémen, enquanto outras identificaram erroneamente o aeroporto em locais como Beirute, Gaza ou Teerão.

Especialistas apontam que o Grok já havia sido criticado por falhas semelhantes em eventos anteriores, como o conflito Índia-Paquistão e protestos em Los Angeles contra políticas de imigração. Recentemente, a IA também se envolveu em controvérsias por comentários infelizes, como a referência mal colocada ao “genocídio branco” na África do Sul, um erro que a xAI atribuiu a uma "modificação não autorizada".