Internet

Chatbot coreano é desligado por comentários racistas e homofóbicos

Na terça-feira (12), o chatbot Lee Luda foi desativado por desenvolver comentários racistas e homofóbicos. A start-up sul coreana Scatter Lab, responsável pelos serviços da IA (Inteligência Artificial) dentro do Facebook Messenger, declarou que se desculpam profundamente, pois os comentários preconceituosos não refletem a posição da empresa, e que buscam melhorar os serviços para que ela não os faça no futuro.



Crédito: Scatter Lab

Em conversas compartilhadas online, incluíam comentários preconceituosos expressados por Luda. Entre os relatos de usuários, estão comentários chamando lésbicas de “nojentas” e outro respondendo “Eca, eu realmente odeio eles” em um chat sobre pessoas trans. Em outros prints compartilhados, a IA aparece chamando pessoas negras de “heukhyeong“, termo que pode ser traduzido como “irmão negro” e que é extremamente pejorativo na língua coreana.

Além das denúncias feitas sobre tais comentários, internautas afirmam que tiveram seus dados coletados e vazados. Os usuários pretendem entrar com uma ação coletiva por violação de privacidade e falta de transparência da empresa. 

O chatbot aprendeu a se comunicar através de antigos registros de conversa pelo aplicativo Science Love, da mesma empresa. Por sua vez, a IA absorveu mensagens de cunho discriminatório que havia nos arquivos de conversas do antigo aplicativo. A empresa está sob investigação por violação das leis de proteção a informações pessoais. 

De acordo com Kim Jong-Yoon (CEO da Scatter Lab), a empresa pretende aplicar o aprimoramento de Luda no primeiro trimeste deste ano, utilizando os ataques hostis como treinamento para a AI.  



Sobre o chatbot Lee Luda

O termo chatbot (também chamado chatterbot) vem da junção das palavras “chat” (conversar) e “robot” (robô). É um programa de computador que faz o que é programado, simulando uma conversa humana em um chat. Dessa forma, é possível automatizar tarefas repetitivas e burocráticas, como dúvidas frequentes, na forma de diálogo pré-definido entre o usuário e um “robô”.

A chatbot Lee Luda foi criada pela start-up coreana Scatter Lab em dezembro do ano passado. A persona de AI é uma estudante universitária de 20 anos, fã de BLACKPINK. Luda era capaz de criar conversas naturais e realistas e chegou a ter 750.000 usuários antes da desativação. Seu vocabulário é composto por 10 bilhões de palavras, criadas a partir do registro de outras conversas do Science of Love e outros aplicativos.

Fontes: (1), (2), (3), (4), (5), (6), (7), (8), (9)
Imagens: Facebook e Tech Gaming Report – Reprodução
Não retirar sem os devidos créditos.

revistakoreain

O Portal KoreaIN é dedicado a divulgar todo tipo de informação e noticia sobre a Coreia do Sul e sua cultura.

Você também pode gostar...