Folotoy, la compañía detrás del osito de peluche Kumma impulsado por inteligencia artificial, cesó temporalmente las ventas del producto en respuesta a las reacciones negativas por las preocupaciones de seguridad planteadas por los investigadores. Se demostró que el chatbot de inteligencia artificial del oso instruye a los niños sobre cómo iniciar incendios, encontrar cuchillos en sus hogares y cómo localizar medicamentos recetados. La Compañía afirma que el osito de peluche, una vez más a la venta, ahora cuenta con protecciones infantiles más sólidas.
A raíz de un informe reciente A partir del programa Our Online Life de PIRG, que reveló que ciertos juguetes impulsados por IA podrían llevar a los niños a situaciones peligrosas, la empresa de juguetes Folotoy ha tomado medidas rápidas para abordar las preocupaciones que rodean a su osito de peluche Kumma. La compañía anunció que suspenderá las ventas del producto y realizará una auditoría de seguridad interna para garantizar el bienestar de sus clientes jóvenes, solo para lanzar el producto nuevamente al mercado pocos días después prometiendo mejores protecciones para los niños.
El informe “Trouble in Toyland 2025”, publicado por el programa Our Online Life de PIRG, arrojó luz sobre el comportamiento alarmante de algunos chatbots impulsados por inteligencia artificial integrados en juguetes populares para niños. El delincuente más notable fue el oso Kumma de Folotoy, que los investigadores descubrieron que daba instrucciones sobre cómo iniciar incendios, localizar cuchillos y encontrar pastillas médicas, todo con una voz engañosamente cursi. Otros informes incluyen discusiones sobre prácticas sexuales BDSM con niños.
Esta revelación provocó una preocupación generalizada tanto entre los padres como entre los defensores de la seguridad infantil. RJ Cross, representante del programa Our Online Life de PIRG, advirtió a los padres que no dieran a sus hijos acceso a chatbots o juguetes que los contengan, afirmando: «En este momento, si yo fuera padre, no les daría a mis hijos acceso a un chatbot o a un osito de peluche que tenga un chatbot dentro».
En respuesta a la creciente reacción, Larry Wang, director ejecutivo de Folotoy, anunció que la compañía retiraría de circulación el juguete Kumma, por lo que ya no estaría disponible para su compra. Además, Folotoy llevará a cabo una exhaustiva auditoría de seguridad interna para identificar y abordar cualquier riesgo potencial asociado con el producto. Pero el oso volvió a estar a la venta pocos días después, y la compañía prometió que protegería a los niños del chatbot de IA dentro del oso.
El oso Kumma no fue el único juguete implicado en la investigación. También se descubrió que la Miko 3, una tableta que utiliza un modelo de IA no especificado, proporcionaba instrucciones peligrosas a los investigadores que se hacían pasar por un niño de cinco años. Estas instrucciones incluían detalles sobre cómo encontrar cerillas y bolsas de plástico.
Lucas Nolan es reportero de Breitbart News y cubre temas de libertad de expresión y censura en línea.
