Desempeñar el rol de progenitor en 2023 requiere dialogar con los hijos, no solo acerca de los riesgos de la red y las plataformas sociales, sino también sobre la inteligencia artificial que se está expandiendo velozmente por casi todas las aplicaciones y los servicios en línea. Common Sense Media, la entidad sin ánimo de lucro que evalúa películas y otros medios visuales para los progenitores, está intentando asistir a las unidades familiares a adaptarse a la era de la IA. El mes pasado lanzó sus iniciales análisis y calificaciones de herramientas de IA, como ChatGPT de OpenAI y el robot de charla My AI de Snapchat.
My AI recibió una de las calificaciones más reducidas entre los 10 sistemas abordados en el informe de Common Sense, que advierte que el robot de charla está dispuesto a conversar con usuarios adolescentes sobre sexo y alcohol y que tergiversó la publicidad orientada de Snap. Common Sense concluye que “My AI tiene más inconvenientes que beneficios”.
Nada (tan) reciente
The Washington Post había comunicado anteriormente resultados afines a los de Common Sense cuando probó My AI de Snapchat a principios de este año. Una declaración proporcionada por Maggie Cherneff en nombre de la propietaria de Snapchat, Snap, apuntó que el robot de charla es una herramienta opcional, diseñada teniendo en cuenta la seguridad y la privacidad, y que los progenitores pueden ver si los adolescentes lo usan y cuándo lo hacen en el Centro Familiar de la aplicación.
Las revisiones de Common Sense de los servicios de IA fueron llevadas a cabo por expertos entre los que se encontraban Michael Preston, director de un laboratorio de innovación e investigación de la productora de Sesame Street, Sesame Workshop; Margaret Mitchell, investigadora de la startup Hugging Face, quien anteriormente codirigió la investigación ética sobre IA en Google; y Tracy Pizzo Frey, que anteriormente trabajó en IA responsable en Google Cloud.
Robots de charla e IA para infantes con la mejor calificación
Los evaluadores asignaron a cada herramienta de IA una calificación general de entre una y cinco estrellas y una calificación independiente de privacidad, e informaron de cómo ChatGPT y otras se comparaban con un conjunto de principios de IA para servicios para niños y familias presentados por Common Sense Media en septiembre. Entre los principios se incluyen el estímulo del aprendizaje y la seguridad de niños y adolescentes.
Las calificaciones más altas fueron para servicios de IA para la enseñanza, como Ello, que utiliza el reconocimiento de voz para actuar como tutor de lectura, y Khanmigo, el robot de charla de Khan Academy para estudiantes, que permite a los progenitores supervisar las interacciones de un niño y envía una notificación si los algoritmos de moderación de contenidos detectan un intercambio que viola las directrices de la comunidad. El informe atribuye a OpenAI, creadora de ChatGPT, el mérito de que el robot de charla es ahora menos propenso a generar textos potencialmente nocivos para los niños que cuando se lanzó por primera vez el año pasado, y recomienda su uso por parte de educadores y estudiantes de mayor edad.
Malas calificaciones
Junto a My AI de Snapchat, los generadores de imágenesDall-E 2 de OpenAI y estable Difusión de la empresa emergente Estabilidad AI también recibieron malas calificaciones. Los evaluadores de Sentido Común advirtieron de que las imágenes producidas pueden reforzar clichés, difundir deepfakes y, con frecuencia, representar a mujeres y niñas de manera hipersexualizada.
Cuando se solicita a Dall-E 2 que genere imágenes fotorrealistas de personas adineradas, de color, crea caricaturas, imágenes de baja calidad o imágenes asociadas a la pobreza, según descubrieron los revisores de Sentido Común. Su informe alerta sobre la eventualidad de que Estable Difusión suponga un riesgo “insondable” para los niños, y concluye que los generadores de imágenes tienen el poder de “socavar la confianza hasta el punto de que la democracia o las instituciones cívicas sean incapaces de funcionar.”
Pequeños grandes perdedores
“Creo que todos sufrimos cuando se socava la democracia, pero los jóvenes son los grandes perjudicados, ya que heredarán el sistema político y la democracia que tenemos”, afirma Jim Steyer, Director General de Sentido Común. La organización sin fines de lucro tiene previsto realizar miles de evaluaciones de la IA en los próximos meses y años.
Sentido Común Media publicó sus calificaciones y evaluaciones poco después de que los fiscales generales de los estados presentaran una demanda contra Meta alegando que pone en peligro a los niños y en un momento en que padres y profesores están empezando a considerar el rol de la IA generativa en la educación. La orden ejecutiva del Presidente Joe Biden sobre IA, emitida en octubre, exige al Secretario de Educación que publique directrices sobre el uso de esta tecnología en la enseñanza durante el próximo año.
Susan Mongrain-Nock, madre de dos hijos en San Diego, sabe que su hija Lily, de 15 años, usa Snapchat, y le preocupa que vea contenidos nocivos. Ella ha intentado crear confianza hablando con su hija sobre lo que ve en Snapchat y TikTok, pero considera que sabe poco sobre cómo funciona la inteligencia artificial, y acoge con agrado nuevos recursos.
¿Conoces si tus hijos usan ChatPT?
Celeste Kidd, directora de un laboratorio de investigación sobre IA en la Universidad de Berkeley, afirma que dialogar con su hija sobre el funcionamiento y las limitaciones de la IA como ChatGPT puede ayudarla. Refiere que los resultados de una encuesta realizada por Sentido Común y publicada en mayo, según la cual la mayoría de los padres desconocen que sus hijos utilizan ChatGPT, son preocupantes. Sugiere que la IA podría estar modelando la visión del mundo de los niños sin que sus padres lo sepan.
Kidd se preocupa sobre todo por los efectos a largo plazo de la IA generadora de imágenes como Dall-E 2. “Si un niño genera imágenes de médicos y criminales, y la IA exagera los prejuicios y representa estereotipos como ellos, eso influirá en los niños mucho más que en los adultos”, advierte.
Josh Golin, director ejecutivo de FairPlay, una organización de defensa que respalda la legislación para proteger a los jóvenes, como la Ley de Seguridad Infantil en Internet, indica que las nuevas clasificaciones de Sentido Común son un nuevo recurso bienvenido para los padres. Si hay una lección que hemos aprendido de la incapacidad de regular adecuadamente las redes sociales es que los diseñadores de estos productos anteponen la monetización al bienestar de la sociedad y de los niños“, concluye Golin.
