Oversight Board critica moderação do Facebook sobre conteúdos manipulado por IA

O Oversight Board, frequentemente chamado de "tribunal supremo" das redes sociais da Meta, emitiu uma crítica contundente à política de moderação da empresa em plataformas como o Facebook e Instagram, considerando-a “incoerente e injustificável”.

A controversa avaliação centra-se na crescente presença de conteúdo gerado ou alterado através de Inteligência Artificial (IA). Este é o segundo momento, desde o ano passado, em que o órgão manifesta descontentamento em relação a este tema.

Um caso específico que gerou a indignação do Oversight Board envolve um áudio que supostamente revelava uma conversa entre políticos do Curdistão iraquiano, visando manipular uma eleição na região. Apesar de ter sido caracterizado como desinformação, a Meta encerrou a análise do caso “sem uma avaliação humana”. A empresa justificou que não possui a capacidade de identificar automaticamente conteúdos de áudio e vídeo produzidos por IA, limitando-se a imagens estáticas.

O Oversight Board sublinha que, dada a posição da Meta como uma das principais empresas de tecnologia e de IA, a empresa deveria priorizar investimentos em tecnologia que permitam detectar, em larga escala, vídeos e áudios manipulados. O organismo questiona por que uma empresa com tal know-how técnico e amplos recursos depende de parceiros ou meios de comunicação externos para identificar média manipulada em situações de risco elevado.

Além da crítica, o Oversight Board formulou várias recomendações à Meta, incluindo a implementação de um “processo claro” para a deteção de conteúdos problemáticos em circunstâncias similares. A Meta terá agora até 60 dias para apresentar uma resposta a estas sugestões.