Juguetes inteligentes: ¿el mejor amigo de un niño o una espeluznante herramienta de vigilancia?
El mercado de juguetes inteligentes se está expandiendo rápidamente y podría alcanzar los 18 mil millones de dólares en 2023.
Si un juguete inteligente no protege los datos y la seguridad de los niños, puede crear riesgos al mismo tiempo que los ayuda a aprender.
Muchas empresas están desarrollando juguetes inteligentes de manera ética y responsable, y se anima a los fabricantes de juguetes inteligentes impulsados por IA a postularse para los Smart Toy Awards. Al igual que Xiaodu y Xiaoai, cuando están conectados a Internet, las conversaciones dentro de un cierto rango se graban todo el tiempo.
Imagínate que los niños nacidos en los últimos años estuvieran rodeados de productos tecnológicos en cada etapa de su infancia. Cuando Sophie tenía tres años, sus padres le compraron una muñeca inteligente llamada "Smartbot" que utilizaba reconocimiento facial e inteligencia artificial (IA) para mirarla, escucharla y aprender de ella.
Como muchos niños, Sophie se enamoraría de este juguete. Al igual que las generaciones anteriores de niños que tenían una muñeca o un osito de peluche favorito, ella lo llevaba consigo, le hablaba y dormía con él, durante muchos años y con muchos muñecos inteligentes diferentes.
Si la muñeca inteligente está diseñada de forma responsable, este juguete podría ser su mejor amigo. De lo contrario, se convertirá en una herramienta de vigilancia, que registrará cada movimiento y cada palabra que sus amigos o incluso sus padres digan frente a él a través de big data. Por ejemplo, si tus padres quieren comprarle algo a Sophie, cuando abren cierto tesoro, cierta cantidad, cierta cosa... lo primero que aparece a la vista es lo dicho. Los datos se enviarán activamente y. Los comerciantes individuales conocerán sus deseos de antemano.
Los juguetes inteligentes utilizan inteligencia artificial para comprender a los niños usuarios y brindarles experiencias de juego o aprendizaje personalizadas. Pueden aprender los colores y canciones favoritos de un niño y aprender a reconocer la apariencia del niño y otras personas familiares en su vida. Si bien esto puede parecer fantástico, ya existen muchos juguetes inteligentes que ofrecen estas capacidades. El mercado de estos juguetes se está expandiendo rápidamente y alcanzará los 18 mil millones de dólares en 2023.
Para abordar el uso urgente de la inteligencia artificial, el Foro Económico Mundial lanzó recientemente los Smart Toy Awards para reconocer los juguetes de inteligencia artificial que están diseñados de manera ética y responsable, sin supresión de políticas, y con criterios éticos y responsables. Los juguetes crean experiencias de juego innovadoras y saludables para los niños. Proporciona a los niños amplias perspectivas. Pueden adaptar modelos de aprendizaje basados en datos recopilados sobre los niños; pueden enseñarles habilidades de programación informática y pueden ayudar a los niños con discapacidades a desarrollar habilidades cognitivas, motoras y sociales;
Sin embargo, al mismo tiempo, los juguetes inteligentes pueden plantear enormes riesgos potenciales si no protegen los datos, la seguridad y la ciberseguridad de los niños.
Una advertencia
El ejemplo de la muñeca inteligente de Sophie no es descabellado. Los primeros juguetes inteligentes que utilizan reconocimiento facial y de voz se clasifican actualmente como herramientas de vigilancia ilegales en muchos países.
Si el muñeco está conectado a un teléfono, los datos se envían al fabricante y a terceras empresas para su procesamiento y almacenamiento. Cualquiera que esté a menos de 30 pies del juguete y tenga una aplicación de transmisión similar en su teléfono puede conectarse al juguete y escuchar la voz del niño usuario.
Alemania emitió una "orden de suspensión de la venta" para la muñeca. y se pidió a los padres que lo destruyeran "con un martillo". Hoy en día, la única muñeca que queda en Alemania se encuentra en el Museo del Espía de Berlín.
Los juguetes inteligentes conllevan riesgos que no podríamos haber imaginado cuando los inventamos.
Columna: Sophie solicitó ingresar a la universidad cuando tenía 18 años. Su muñeca inteligente recopila datos de sus edades entre 3 y 9 años, y la empresa que fabrica el juguete probablemente la conoce mejor que sus padres. Sin una protección de datos adecuada, la empresa también podría vender los datos a las universidades a las que postuló u otras organizaciones de terceros.
Después de graduarse de la universidad, Sophie solicitó un trabajo. Si los empresarios compraran los datos recopilados por la muñeca inteligente sobre la infancia de Sophie, podrían conocer sus puntos fuertes y débiles.
¿Qué pasaría si Sophie acosara a su hermana cuando era niña, les gritara a sus padres o se negara a hacer sus deberes? La empresa podría conocer todo este comportamiento de privacidad familiar y venderlo a terceros que podrían utilizar esta información para discriminar a Sophie. Y la vida familiar ya no es privada.
Los datos son oro hoy en día, pero recopilar datos sobre niños es intrínsecamente problemático. Cuando una empresa recopila datos sobre niños a través de las muñecas de Sophie, tiene la responsabilidad de tomar medidas o intervenir. Imagínese si Sophie expresara pensamientos de suicidio y autolesión a la muñeca, ¿debería exigirse a la empresa que advirtiera a sus padres y llamara al 110?
Cuantos más datos recopilen los juguetes inteligentes, más complicaciones pueden enfrentar las empresas de juguetes inteligentes. Toda empresa que diseñe juguetes inteligentes con la capacidad de recopilar información similar debe considerar estos peores escenarios al desarrollar juguetes para mantener seguros a los usuarios infantiles y a quienes los rodean.
El mercado de juguetes inteligentes se está expandiendo rápidamente y podría alcanzar los 18 mil millones de dólares en 2023.
Desarrollar juguetes inteligentes de forma responsable y ética
A pesar de estos importantes riesgos, los juguetes inteligentes se están desarrollando de forma responsable y ética. Los Smart Toy Awards establecen cuatro criterios de gobernanza clave para las empresas que desarrollan juguetes con inteligencia artificial: privacidad de los datos y ciberseguridad; accesibilidad y transparencia, idoneidad para la edad y juego saludable;
La muñeca inteligente de Sophie ilustra la importancia de una sólida privacidad de los datos y comunica claramente la funcionalidad y el funcionamiento de la muñeca inteligente a los adultos que compran el juguete. Esta información debe estar claramente establecida en los términos de servicio para que pueda ser entendida por personas sin conocimientos técnicos. Como mínimo, los juguetes inteligentes deben cumplir con requisitos similares a la Ley de Protección de la Privacidad Infantil en Línea de EE. UU. (COPPA) y el Reglamento General de Protección de Datos (GDPR) de la Unión Europea.
Los padres y tutores deben comprender con quién se comparten los datos de sus hijos y con qué propósito. Las empresas deberían empoderar a los padres, tutores y niños para que decidan por sí mismos cómo utilizar los datos de sus hijos. Las empresas tampoco deberían vender datos de niños a terceros.
La privacidad de los datos es fundamental para el desarrollo de juguetes inteligentes éticos y responsables, pero estos juguetes también deben diseñarse para ser accesibles, transparentes, apropiados para la edad y promover el juego saludable y la salud mental de los niños.
El futuro de la infancia
La muñeca de Sophie no necesariamente causa preocupación a ella y a sus padres, como tampoco lo hacen los datos recopilados sobre ella, si los datos están estrictamente protegidos sobre su desarrollo futuro. En la UE, el RGPD otorga el derecho al olvido, y una política similar podría permitir que niños como Sophie soliciten a los 18 años que se eliminen todos los datos recopilados por sus juguetes inteligentes, dándoles un nuevo comienzo como adultos.
Sophie y todos los niños merecen una oportunidad justa en la infancia, la educación, la carrera y la vida. Los datos recopilados sobre ellos cuando eran niños no deben utilizarse como arma para discriminarlos en el futuro.
Los juguetes inteligentes, como la muñeca de Sophie, pueden desempeñar un papel clave en la infancia, estimulando la creatividad y las habilidades de pensamiento crítico de los niños. Muchas empresas se toman en serio consideraciones éticas y responsables al desarrollar juguetes inteligentes. Instamos a las empresas a adoptar nuestros estándares de gobernanza al diseñar y desarrollar juguetes inteligentes.
La infancia es una época sagrada y crítica, y los padres harán todo lo posible para proteger las experiencias de sus hijos. Lograr esto requerirá que las partes interesadas trabajen juntas en los sectores público, privado y sin fines de lucro para desarrollar juguetes inteligentes éticos, responsables e innovadores que protejan y fomenten el carácter esencial de los niños. Les deseo a todos los niños una infancia maravillosa y buenos recuerdos cuando sean mayores.