Na terça-feira (12), o chatbot Lee Luda foi desativado por desenvolver comentários racistas e homofóbicos. A start-up sul coreana Scatter Lab, responsável pelos serviços da IA (Inteligência Artificial) dentro do Facebook Messenger, declarou que se desculpam profundamente, pois os comentários preconceituosos não refletem a posição da empresa, e que buscam melhorar os serviços para que ela não os faça no futuro.
Em conversas compartilhadas online, incluíam comentários preconceituosos expressados por Luda. Entre os relatos de usuários, estão comentários chamando lésbicas de “nojentas” e outro respondendo “Eca, eu realmente odeio eles” em um chat sobre pessoas trans. Em outros prints compartilhados, a IA aparece chamando pessoas negras de “heukhyeong“, termo que pode ser traduzido como “irmão negro” e que é extremamente pejorativo na língua coreana.
Além das denúncias feitas sobre tais comentários, internautas afirmam que tiveram seus dados coletados e vazados. Os usuários pretendem entrar com uma ação coletiva por violação de privacidade e falta de transparência da empresa.
O chatbot aprendeu a se comunicar através de antigos registros de conversa pelo aplicativo Science Love, da mesma empresa. Por sua vez, a IA absorveu mensagens de cunho discriminatório que havia nos arquivos de conversas do antigo aplicativo. A empresa está sob investigação por violação das leis de proteção a informações pessoais.
De acordo com Kim Jong-Yoon (CEO da Scatter Lab), a empresa pretende aplicar o aprimoramento de Luda no primeiro trimeste deste ano, utilizando os ataques hostis como treinamento para a AI.
Sobre o chatbot Lee Luda
O termo chatbot (também chamado chatterbot) vem da junção das palavras “chat” (conversar) e “robot” (robô). É um programa de computador que faz o que é programado, simulando uma conversa humana em um chat. Dessa forma, é possível automatizar tarefas repetitivas e burocráticas, como dúvidas frequentes, na forma de diálogo pré-definido entre o usuário e um “robô”.
A chatbot Lee Luda foi criada pela start-up coreana Scatter Lab em dezembro do ano passado. A persona de AI é uma estudante universitária de 20 anos, fã de BLACKPINK. Luda era capaz de criar conversas naturais e realistas e chegou a ter 750.000 usuários antes da desativação. Seu vocabulário é composto por 10 bilhões de palavras, criadas a partir do registro de outras conversas do Science of Love e outros aplicativos.
Fontes: (1), (2), (3), (4), (5), (6), (7), (8), (9)
Imagens: Facebook e Tech Gaming Report – Reprodução
Não retirar sem os devidos créditos.