Iniciativa une Roblox e Discord contra abuso infantil nas redes

Tudo sobre Google

Tudo sobre OpenAI

Executivos do Google, OpenAI, Discord e Roblox lançaram uma nova organização sem fins lucrativos focada em segurança digital na nova era da inteligência artificial. A iniciativa Robust Open Online Safety Tools (ROOST) foi anunciada nesta segunda-feira (10) na Cúpula de Ação de Inteligência Artificial, realizada em Paris.

“A ROOST alivia a necessidade das organizações reinventarem a roda criando ferramentas que já existem, capacitando-as — especialmente empresas menores e organizações de interesse público — a se concentrarem no crescimento de suas plataformas ou serviços, ao mesmo tempo em que promovem a segurança para usuários online”, diz o comunicado divulgado à imprensa.

Incubada na Escola de Relações Públicas e Internacionais da Universidade de Columbia, nos Estados Unidos, a iniciativa engloba um amplo conjunto de parceiros das áreas de IA, filantropia, academia, código aberto, segurança infantil e combate ao extremismo violento.

Leia Mais:

A ROOST vai oferecer ferramentas gratuitas, de código aberto, para os seguintes propósitos:

• Detectar, revisar e relatar material de abuso sexual infantil;
• Alavancar modelos de linguagem ampla (LLMs) para alimentar a infraestrutura de segurança;
• Tornar as principais tecnologias de segurança mais acessíveis e fáceis de usar.

Crianças em risco

O anúncio ocorre em meio a discussões sobre métodos de autorregulamentação das plataformas digitais para garantir a segurança infantil nas mídias sociais. No Brasil, por exemplo, um julgamento no Supremo Tribunal Federal vai decidir se a plataforma tem responsabilidade pela ação de um usuário que violar as regras da rede após alterações na moderação de conteúdo.

A nova organização preenche uma lacuna importante na segurança digital para o público infantil. Como lembra o site The Verge, no ano passado, metade das crianças nos EUA tinha conta no Roblox, que tem sido criticada por não lidar com as suspeitas de exploração sexual infantil na plataforma, assim como o Discord.