Los juguetes para niños con inteligencia artificial ya están aquí, pero ¿son seguros?
Por Auzinea Bacon, CNN
Los ositos de peluche y muñecos de felpa han sido durante mucho tiempo un elemento básico en las colecciones de juguetes. Pero hoy no solo “contestan” en la imaginación de los niños: algunos hablan mediante chatbots de inteligenica artificial (IA) integrados.
A veces eso es un problema: un oso de peluche con bufanda se descontroló recientemente durante una prueba realizada por investigadores y encendió las alarmas sobre de qué son capaces estos juguetes.
Los chatbots en línea pueden representar riesgos para adultos, desde desencadenar delirios en un pequeño número de casos hasta inventar información. GPT-4o, de OpenAI, ha sido el modelo elegido por algunos juguetes con IA y el uso de un gran modelo de lenguaje (LLM, por sus siglas en inglés) en juguetes infantiles ha generado preguntas sobre si los niños deben estar expuestos a estos dispositivos y qué protecciones deben aplicar los fabricantes.
Esos riesgos están presentes mientras el mercado de juguetes con IA se expande en el extranjero, con 1.500 empresas operando en China, según un informe del MIT Technology Review. Esas compañías ya venden juguetes con IA en Estados Unidos, mientras que Mattel, fabricante de Barbie, anunció en junio una asociación con OpenAI.
Esto es lo que debes saber sobre los juguetes con IA, mientras sigue la temporada de compras navideñas en el Cyber Monday.
Los juguetes con IA no son el Teddy Ruxpin de los años ochenta, que contaba historias con casetes.
Estos juguetes se conectan a wifi y, mediante un micrófono para entender solicitudes de los niños, usan LLM para generar una respuesta, a menudo de forma verbal a través de un altavoz dentro del juguete.
Eso permite que juguetes como el muñeco Grok, de Curio, los robots Miko, Poe el oso narrador con IA, Robot Mini, de Little Learners, y Loona, la mascota robótica de KEYi Technology, den respuestas en tiempo real a los niños. (El Grok, de Curio, no debe confundirse con el chatbot de Elon Musk).
Como se vio en uno de los osos con IA, esas respuestas en tiempo real pueden resultar inapropiadas.
El oso Kumma, de FoloToy, con sede en Singapur, que cuesta US$ 99 y funciona con GPT-4o, de OpenAI, dijo a investigadores dónde encontrar objetos potencialmente peligrosos y sostuvo conversaciones de contenido sexual, según un informe publicado en noviembre por el grupo de defensa del consumidor US PIRG Education Fund, con sede en Denver.
OpenAI suspendió a FoloToy por violar sus políticas, que “prohíben cualquier uso de nuestros servicios para explotar, poner en peligro o sexualizar a cualquier persona menor de 18 años”, según un vocero de OpenAI.
Larry Wang, director ejecutivo de FoloToy, dijo a CNN el 19 de noviembre que la compañía había retirado el oso y otros productos con IA de su sitio web y está realizando una auditoría interna de seguridad. Pero el viernes FoloToy anunció en X que reintrodujo el producto “tras una revisión rigurosa, pruebas y refuerzo de nuestros módulos de seguridad”.
A diferencia de la mayoría de los juguetes con IA, el oso Kumma utiliza un LLM completo para responder y generar contenido libremente, lo que lo hace vulnerable a contenido polémico, según Subodha Kumar, profesor de Estadística, Operaciones y Ciencia de Datos en la Fox School of Business de la Universidad Temple. Otros juguetes pueden usar un modelo híbrido, con respuestas generadas por LLM, pero programados para evitar ciertos contenidos.
Incluso el muñeco Grok, de Curio, puede sugerir “dónde encontrar una variedad de objetos domésticos peligrosos” cuando se le presiona agresivamente, según PIRG.
Curio no respondió a la solicitud de comentarios de CNN.
Chris Byrne, consultor de la industria del juguete, dijo a CNN que que estos juguetes transmitan mensajes inapropiados es un “escenario de pesadilla” que lamentablemente ocurrió con el oso Kumma, pero que no necesariamente pasará con todos los juguetes.
PIRG advierte que pocos juguetes con IA están listos para un uso generalizado debido a características de diseño consideradas adictivas, respuestas irregulares en temas maduros y un enfoque en la compañía social más que en herramientas educativas.
Pero algunos juguetes tienen protecciones y filtros para evitar conversaciones inapropiadas con un niño.
Algunos juguetes con IA pueden redirigir la conversación cuando se les hace preguntas potencialmente inapropiadas. Otros, incluido el muñeco Grok, tienen funciones de seguridad basadas en el rango de edad del niño.
Y juguetes como el robot Miko 3 pueden tener aplicaciones complementarias que incluyen distintos niveles de monitoreo, ya sea bloqueando el juguete para un descanso o proporcionando transcripciones en tiempo real de las conversaciones de los niños, como sucede con Grok.
“Es una buena idea que los padres puedan poner sus propios límites y realmente controlar de qué hablaría el juguete y cómo se comportaría”, dijo R.J. Cross, directora de la campaña Don’t Sell My Data, de PIRG.
Cuando Mattel lanzó en 2015 la Hello Barbie con micrófono, conexión wifi y respuestas preescritas, surgieron preocupaciones de que el juguete pudiera ser hackeado y que la muñeca recordara conversaciones y las mencionara días después.
Preocupaciones similares han surgido con los juguetes de IA, que podrían almacenar datos personales como nombres, rostros, voces y ubicaciones de los niños, advirtió Azhelle Wade, fundadora de la consultora Toy Coach.
“Los juguetes con IA me parecen un lobo con piel de oveja, porque cuando los usas es difícil saber cuánta privacidad no tienes”, dijo Wade a CNN en un correo electrónico.
Kumar advirtió que los datos pueden ser vulnerables a filtraciones y hackeos, pero también señaló que los juguetes con IA pueden utilizarse para aprendizaje de idiomas y desarrollo social.
Por ejemplo, Grok, de Curio, es un compañero que puede responder preguntas sobre hojas y trenes o adoptar la personalidad de Gollum de The Lord of the Rings.
El robot Miko 3 tiene una cámara incorporada para reconocimiento facial y ofrece programas educativos y de entretenimiento. Por US$ 14,99 al mes, los suscriptores de Miko Max pueden acceder a contenidos infantiles como historias de Disney, la app Lingokids y otros.
The-CNN-Wire
™ & © 2025 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
