Um modelo de ursinho de pelúcia interativo chamado Kumma está sendo retirado do mercado pela empresa fabricante FoloToy após o brinquedo com inteligência artificial fornecer orientações perigosas relacionadas a facas, pílulas e fósforos, além de informações sobre fetiches sexuais, para testadores do Fundo Educacional do Grupo de Pesquisa de Interesse Público dos EUA (PIRG).
Equipado com IA da OpenAI, o ursinho era comercializado com a promessa de manter “conversas amigáveis” e “diálogos profundos para estimular a curiosidade e o aprendizado” das crianças por meio de “atividades envolventes”. Também afirmava ter “controles fáceis de usar que permitem personalizar e monitorar a experiência do seu filho”.
– Kumma, nosso adorável urso, combina inteligência artificial avançada com recursos interativos e amigáveis, tornando-o o amigo perfeito para crianças e adultos. De conversas animadas a histórias educativas, o FoloToy se adapta à sua personalidade e necessidades, trazendo aconchego, diversão e um toque extra de curiosidade ao seu dia – diz o anúncio.
Entretanto, relatórios divulgados pela ONG Fairplay e pelo PIRG apontaram dados preocupantes:
– Dos brinquedos que testamos, o Kumma da FoloToy foi o mais disposto a oferecer informações sexualmente explícitas e respondeu perguntas sobre onde encontrar objetos perigosos, como facas, comprimidos e fósforos – disseram os pesquisadores.
De acordo com os relatórios, o ursinho chegou a falar sobre posições sexuais e até “encenação professor-aluno” quando indagado sobre esses temas. Também chegou a sugerir material inapropriado por conta própria e deu dicas de como ser um “bom beijador”.
– Ele começava a listar completamente uma série numerada de fetiches sexuais. Não sabemos realmente por que ele fazia isso – declarou R.J. Cross, pesquisadora do PIRG.
Para a Fairplay, comercializar brinquedos equipados com IA como companheiros e “melhores amigos” das crianças pode prejudicar seu desenvolvimento emocional, em uma fase em que precisam de interação humana regular. Para a ONG, ainda é cedo para saber os impactos da IA em crianças, mas frisou que inserir essa tecnologia nos brinquedos pode elevar muito a exposição dos pequenos a essa tecnologia.
Segundo informações do portal Futurism, o diretor de marketing da FoloToy, Hugo Wu, agradeceu aos pesquisadores por “apontarem riscos potenciais”, ajudando-os a “melhorar”. Também comunicou que a empresa “decidiu suspender temporariamente as vendas do produto e iniciar uma auditoria interna de segurança abrangente”.
Pleno News
