Meta vai rotular imagens geradas por IA no Instagram e Facebook

Nas plataformas da Meta, um rótulo para os conteúdos gerados por IA

Assim como outros participantes do setor, a Meta está desenvolvendo gradualmente métodos para regular o uso da IA generativa em suas plataformas.

Em um post no blog publicado nesta terça-feira, 6 de fevereiro, o grupo americano anunciou a introdução, "nos próximos meses", de uma ferramenta que permitirá rotular automaticamente conteúdos gerados por IA no Facebook, Threads e Instagram.

Para desenvolver essa solução, a empresa anuncia "trabalhar com parceiros industriais para estabelecer padrões técnicos comuns que permitam sinalizar que o conteúdo foi gerado por IA", detalha Nick Clegg, o presidente dedicado aos assuntos internacionais do grupo baseado em Menlo Park.

Meta já desenvolveu uma ferramenta similar para sua IA geradora de imagens

Este anúncio não é realmente uma surpresa: desde o lançamento nos Estados Unidos de Imagine with Meta, o grupo já, "por motivos de transparência e rastreabilidade", implementou duas marcas d'água nas imagens produzidas por sua IA geradora de imagens, uma invisível e outra visível.

Mas agora, a empresa aspira a desenvolver, com outros atores do setor, "uma ferramenta de ponta" que permita rotular automaticamente imagens de soluções concorrentes como Midjourney, Adobe Firefly ou DALL-E, desenvolvido pela OpenAI.

Sem detalhar precisamente o roteiro, a Meta deseja que a ferramenta seja implementada o mais rapidamente possível, em antecipação à realização de várias eleições importantes, incluindo as eleições presidenciais americanas, onde a IA generativa poderia ser utilizada para fins de desinformação.

"Estamos desenvolvendo esta ferramenta agora e, em breve, aplicaremos rótulos em todos os idiomas suportados pelos aplicativos", continua ele.

As ferramentas de IA generativas oferecem imensas possibilidades, e acreditamos que é possível e necessário que essas tecnologias sejam desenvolvidas de maneira responsável, conclui Nick Clegg.

O conteúdo de áudio ou vídeo "criado ou modificado digitalmente" também será sinalizado

Embora a empresa pareça capaz de identificar a presença de IA em conteúdo visual, ela admite enfrentar dificuldades para detectar esses mesmos sinais em áudio ou vídeo.

Para superar essa lacuna, a Meta anunciou que está trabalhando, paralelamente, na adição de uma função que permite ao usuário sinalizar quando o conteúdo foi projetado com a ajuda da inteligência artificial.

Essa menção será exigida nas plataformas do grupo, e a Meta reserva-se o direito de aplicar sanções se o editor falhar em especificar que o conteúdo publicado foi "criado ou modificado digitalmente".

Esta abordagem representa o ápice do que é tecnicamente possível no momento. Mas ainda não é possível identificar todo o conteúdo gerado por IA, concede Nick Clegg em seu post no blog.

O conteúdo gerado por IA, um desafio importante para as plataformas sociais

A proliferação de conteúdos gerados com a ajuda de IA, especialmente aqueles que foram falsificados, não preocupa apenas a Meta.

Em novembro passado, o YouTube anunciou uma série de medidas para regular o uso da IA generativa em sua plataforma, introduzindo especialmente um rótulo específico que permite sinalizar ao usuário que o conteúdo visualizado foi gerado ou modificado digitalmente.

Desde setembro, o TikTok também exige uma menção indicando que o conteúdo foi alterado ou criado com a ajuda da inteligência artificial.