O Google DeepMind revelou na quarta-feira uma nova tecnologia para marcar texto gerado por IA com marca d’água. Batizada de SynthID, a ferramenta de marca d’água de inteligência artificial (IA) pode ser usada em diversas modalidades, incluindo texto, imagens, vídeos e áudio. No entanto, atualmente, oferece a ferramenta de marca d’água de texto apenas para empresas e desenvolvedores. A empresa pretende uma adoção mais ampla da ferramenta para que o conteúdo gerado por IA possa ser facilmente descoberto. Indivíduos e empresas podem acessar a ferramenta por meio do kit de ferramentas de IA generativa responsável atualizado da gigante da tecnologia com sede em Mountain View.
Tecnologia de marca d’água de texto AI de código aberto do Google DeepMind
Em uma postagem no X (anteriormente conhecido como Twitter), o nome oficial do Google, DeepMind, anunciou que o recurso de marca d’água de texto do SynthID estará disponível gratuitamente para desenvolvedores e empresas. Além do Responsible GenAI Toolkit, ele também pode ser baixado da lista Hugging Face do Google.
O texto gerado pela IA já começou a invadir a Internet. O AI Lab da Amazon Web Services publicou um estudo no início deste ano que afirmava que até 57,1% de todas as frases online traduzidas para dois ou mais idiomas poderiam ser geradas usando ferramentas de IA.
Embora os chatbots de IA que enchem a Internet com textos sem sentido gerados por IA possam parecer um caso de spam inofensivo, há um lado mais sombrio. Nas mãos de malfeitores, as ferramentas de IA podem ser usadas para produzir informações erradas ou conteúdo enganoso. Dado que uma parte significativa do discurso social ocorre online, tais ações podem afetar acontecimentos da vida real, como eleições, e ser utilizadas para criar propaganda contra figuras públicas.
De todas as modalidades, medir o texto gerado pela IA provou ser a tarefa mais difícil até agora. Isso ocorre principalmente porque não é possível colocar marcas d’água em palavras e, mesmo que fosse, os malfeitores sempre poderiam reformular o conteúdo usando um segundo ciclo de saída.
No entanto, o SynthID do Google DeepMind usa uma nova maneira de marcar texto gerado por IA. A ferramenta usa aprendizado de máquina para prever palavras que podem aparecer após uma palavra específica em uma frase. Por exemplo, considere a frase “John estava extremamente cansado depois de trabalhar o dia todo”. Aqui, apenas um número limitado de palavras pode aparecer após a palavra “extremamente”.
Com base na análise dos estilos de geração de conteúdo de vários modelos de IA, o SynthID pode prever a palavra que aparecerá depois de “extremamente” e substituí-la por outro sinônimo que exista em seu banco de dados. A ferramenta de marca d’água incorporará essas palavras em todo o conteúdo. Mais tarde, quando a ferramenta procura conteúdo gerado por IA, ela procura o número dessas palavras para determinar sua autenticidade.
Em particular, para imagens e vídeos, o SynthID adiciona uma marca d’água diretamente aos pixels dos quadros para que permaneçam invisíveis, mas ainda possam ser detectados na ferramenta. Para áudio, as ondas de áudio são primeiro convertidas em um espectrógrafo e a marca d’água é adicionada aos dados visuais. No momento, esses recursos não estão disponíveis para ninguém fora do Google.
