Fake ou real? A controvérsia (perturbadora) sobre os usos da IA

A discussão é polêmica e está só começando

Autor: Motherboard

Nem tudo que viraliza na net é verdadeiro, mas, até aí, o estrago já foi feito, não é mesmo? E, na maioria das vezes, dá o maior trabalho para desfazê-lo! Que o diga as celebridades internacionais Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza e Gal Gadot (a "Mulher-Maravilha", cuja montagem estampa a foto-capa deste post), que tiveram seus rostos colocados em personagens de vídeos pornográficos, e divulgados à exaustão nas redes bem recentemente.

Além da discussão moral que o fato envolve - de respeito, consentimento, violação dos limites pessoais e, principalmente, objetificação e manipulação dos corpos femininos pelos homens - há a questão da tecnologia sendo usada de propósito para o mal e a difamação. Sim, porque isso só foi possível graças a um algoritmo de machine learning, conhecido processo de inteligência artificial (IA) pelo qual uma máquina é capaz de aprender algo sozinha.

Em depoimento ao site Motherboard, o criador do material, um usuário do fórum de discussão Reddit que se identifica pelo nome de "deepfakes", nem teve muitas dificuldades para realizar tal "proeza". Muito pelo contrário, ele se aproveitou de ferramentas e comandos de código aberto - tais como o Keras, com backend TensorFlow - e, basicamente, treinou seu sistema com milhares de fotos das famosas (colhidas no Google, em bancos de imagens e no Youtube), para que este as substituísse nas faces das atrizes pornôs.

Embora as imperfeições sejam perceptíveis para quem analisa o resultado com mais calma (por vezes, o track dos movimentos não corresponde muito bem às expressões), abre-se um precedente bastante perigoso que pode acometer qualquer um, tendo em mente condutas criminosas como revenge porn e chantagem. Estima-se, de acordo com dados do Google, que 24 bilhões de selfies foram publicadas no Google Photos entre 2015 e 2016 - isso sem contar as das mídias sociais, e demais plataformas. Tudo de graça e de fácil acesso!

Segundo Alex Champandard, especialista em IA e fundador da creative.ai - também em entrevista ao Motherboard - não dá para evitar que os avanços tecnológicos sejam empregados para fins negativos, porém, é preciso "ter um debate público sobre o tema em alto e bom som. Todos devem saber como é fácil fazer vídeos e imagens falsos, ao ponto de que será difícil determinar o que é falso ou não em poucos meses. Claro que tudo isso já era possível há tempos, mas seriam necessários muitos recursos e profissionais de efeitos especiais, ao passo que agora tudo pode ser executado por um único programador, com um computador relativamente novo."

A saída para barrar o problema, ainda segundo ele, é pagar na mesma moeda, e investir em IA para gerar meios de detectar e diminuir a circulação desse tipo de (re)produção audiovisual (ou de outros parecidos que possam, inclusive, surgir enquanto as regulamentações e o controle nesse sentido se tornam eficientes).

Sobre a Motherboard acesse: https://motherboard.vice.com/en_us