La implementación de la Inteligencia Artificial (IA) se va ampliando y cada vez impacta en más sectores de la población. Es así como el desarrollo de la tecnología debe hacerse desde un enfoque ético, especialmente cuando se trata de dispositivos orientados a niños.

Uno de los riesgos principales es la posibilidad de que los datos de los niños se vulneren a través de campañas maliciosas o por brechas en los dispositivos. Si bien Amazon ha mejorado en este aspecto, hace unos años estuvo en el centro de la polémica por sus ligeras protecciones de privacidad.

Otro caso de vulnerabilidad tiene que ver con YouTube Kids, plataforma en la que se han colado videos relacionados a caricaturas infantiles, pero con escenas violentas que no correspondían al contenido infantil. Su algoritmo para crear subtítulos automáticamente ha tenido un problema similar, pues insertó lenguaje explícito en los videos.

Mauricio García, director de tecnología en Frog, apunta que los diseñadores de tecnología deben asumir una postura de responsabilidad con los niños, lo cual conlleva asegurarse de tener en cuenta los riesgos e implementar los mecanismos para intentar minimizarlos a través de seguros y revisiones constantes.

La IA y sus usos positivos en niños

A pesar de que esta tecnología puede representar riesgos para los menores, se debe establecer una relación fluida de control y entendimiento para sacarles provecho, ya que se encuentra muy presente en la vida de todas las personas, incluidos los niños.

De acuerdo con datos de Juniper Research , para 2023 habrá más de 275 millones de asistentes de voz inteligentes, como los de Amazon Echo y Google Home. Además, una investigación de Data Child Futures indica que en 2019, el 40% de los juguetes que tenían los niños participantes estaban conectados a internet con la capacidad inherente de acceder a servicios de IA.

Los niños seguirán siendo un objetivo de vulnerabilidad, ya que pueden entrar en entornos de riesgo. Sin embargo, el experto detalla que se les debe mostrar quién y qué está detrás de la tecnología, es decir, instruirlos respecto a los algoritmos que influyen en su uso.