Columna escrita por Érika Yazmín Zárate Villa, Jueza de Distrito especializada en Ejecución de Penas en la Ciudad de México, comisionada para el desempeño del cargo de Secretaria de Estudio y Cuenta en la Suprema Corte de Justicia de la Nación.
El Consejo Noruego del Consumidor (2023) presentó un informe de los riesgos para los derechos de los consumidores y la inteligencia artificial generativa. En ese documento nos explican que esa tecnología usa un algoritmo que, a partir de la información que tiene genera nuevos datos de texto, imágenes, voz o videos.
Sus usos en tareas cotidianas como redactar el contenido de un correo electrónico representan una herramienta “aplaudible”. Sin embargo, ese informe señala que los diferentes servicios de inteligencia artificial generativa pueden dar información con errores o imprecisiones y que por la forma en la que opera esa tecnología es más difícil identificar la información inexacta o incorrecta.
El consejo pone el ejemplo de información equivocada que pueden replicar desde esa inteligencia los servicios periodísticos o errores en contenido médico o jurídico en las respuestas a los usuarios, con peores consecuencias para las personas de grupos vulnerables que acudan a buscar información de fácil acceso.
Otros riesgos que destaca el informe es la generación de imágenes o grabaciones de voz falsas o engañosas que presenten a personas en situaciones comprometidas, riesgos que llegan hasta la generación de imágenes sexuales de mujeres que las pongan en peligro de ser víctimas.
Un texto que también aporta al tema es el de la Universidad de Buenos Aires (2023) realizado por los integrantes del laboratorio de inteligencia artificial con base en un análisis empírico de un producto de inteligencia artificial generativa. El estudio encontró que, como otras herramientas de ese tipo, tiene sesgos discriminatorios o carencia de contextos que puede confundir a los usuarios.
Lo que no deja de ser una alerta, aun cuando el libro ofrece información sobre las propias intenciones de los desarrolladores de “lanzar” sus inteligencias artificiales para que el uso las perfeccione, ya que desde la introducción al texto se subraya que las empresas de inteligencia artificial se enfrentan a la necesidad de extraer la información de internet con sus inconvenientes porque ahí se encuentra información falsa y llena de estereotipos, que provienen de las múltiples personas que ponen a disposición de la red información que sin duda contendrá sus sesgos.
Razón por la que el autor de esa introducción nos explica que los chatbots de la inteligencia artificial evolucionarán con el tiempo aumentando su eficiencia, pero que seguramente las regulaciones estatales les pondrán límites para evitar su uso dañino y para proteger la seguridad de los usuarios.
