O KAIST (Korea Advanced Institute of Science and Technology, Instituto Avançado de Ciência e Tecnologia da Coreia) lançou o primeiro aplicativo para celulares que detecta deepfakes – técnica que utiliza inteligência artificial para fazer montagens ou substituir rostos em vídeos ou imagens – como forma de conter a desinformação e os danos causados por essa nova tecnologia.
De acordo com KAIST, o novo software se chamará KaiCatch e tem a capacidade de detectar precisamente a utilização de deepfakes, reconhecendo distorções anormais em imagens.
Segundo Lee Heung-kyu, professor da escola de computação da KAIST, que está por trás do desenvolvimento do KaiCatch, os usuários poderão fazer o upload de fotos ou imagens de vídeos (frames) e o aplicativo calcula a probabilidade de as imagens serem modificadas, porém tudo isso será feito por 2,000 won (cerca de R$ 10,00) por imagem.
Os pesquisadores esperam que o KaiCatch ajude um público mais amplo a detectar as deepfakes, que se tornou um grande problema na Coreia, uma vez que há muitas montagens utilizando celebridades femininas em conteúdos pornográficos.
Além disso, foi criada uma petição no gabinete on-line do presidente para que os usuários destes conteúdos pornográficos modificados pela inteligência artificial sejam punidos severamente. A petição recebeu mais de 390.000 assinaturas.
O professor Lee ressalta que este é apenas o começo para o KaiCatch, pois, seu plano é atualizar o software para que possa detectar até as mais novas tecnologias de deepfakes.
O aplicativo está disponível somente para o sistema operacional Android coreano, porém, o professor aponta que a equipe já tem planos para lançar no sistema operacional iOS, para os usuários da Apple, e a adição de outras línguas, como inglês, chinês e japonês.
Fontes: (1), (2)
Imagem: 123RF (reprodução)
Não retirar sem os devidos créditos.