OpenAI diz ter encontrado ferramenta de IA chinesa para vigilância

Tudo sobre Inteligência Artificial

Tudo sobre OpenAI

A OpenAI afirmou ter descoberto evidências de uma operação de vigilância chinesa alimentada por IA. Uma ferramenta generativa estaria sendo usada para coletar relatórios em tempo real sobre publicações anti-China em redes sociais em países ocidentais.

A suposta descoberta alimenta preocupações relacionadas ao uso da tecnologia para vigilância, hacking e outros propósitos maliciosos.

OpenAI afirmou ter encontrado evidências de vigilância chinesa

A OpenAI revelou que descobriu evidências de uma operação de segurança chinesa usando IA para vigilância. O país estaria monitorando publicações anti-China em mídias sociais em países ocidentais.

De acordo com o New York Times, os pesquisadores da desenvolvedora encontraram a operação, batizada de Peer Review, porque alguém que usava a ferramenta teria se baseado em parte do código da OpenAI.

Ben Nimmo, pesquisador principal da empresa, afirmou que esta foi a primeira vez que a OpenAI descobriu uma tecnologia de IA desse tipo. A suposta ferramenta de vigilância chinesa levanta preocupações sobre o uso de IA para monitoramento, hacking e outras atividades maliciosas ao redor do mundo. No entanto, ele acredita que, embora as ferramentas generativas possibilitem atividades maliciosas, também podem ajudar a identificar e interrompê-las.

De onde vem a ferramenta de IA chinesa?

Nimmo e sua equipe acreditam que a ferramenta de vigilância chinesa pode ter se baseado no modelo de linguagem Llama, da Meta, que é de código aberto (ou seja, qualquer um no mundo pode usar o código para criar novas tecnologias).

Em um relatório sobre usos de IA para fins maliciosos, eles também afirmam que a OpenAI descobriu uma segunda operação chinesa, batizada de Sponsored Discontent, usada para gerar publicações em inglês criticando dissidentes chineses.

Leia mais:

OpenAI lembrou que esse não é o primeiro caso

Apesar de esta ter sido a primeira operação de vigilância identificada, a OpenAI chamou atenção para outros casos de uso de IA para fins maliciosos:

• Segundo a desenvolvedora, o mesmo grupo responsável pela ferramenta de vigilância chinesa usou tecnologias da OpenAI para traduzir artigos para espanhol criticando os Estados Unidos, e os espalhou pela América Latina;
• Já outra operação, dessa vez baseada no Camboja, teria usado tecnologias da desenvolvedora para gerar e traduzir comentários em redes sociais envolvendo investimentos.