Ciudad de México.- La CNDH llevó a cabo la tercera sesión del ciclo de conversatorios: Inteligencia Artificial y Derechos Humanos con el tema “Inteligencia Artificial y Sociedad: Derechos, Poder y Decisiones para el Futuro de México” durante el cual se generó un espacio de diálogo abierto, crítico e intergeneracional, en temas fundamentales relacionados con el avance de dicha tecnología y los derechos humanos.
En la utopía Elena Poniatowska, ubicada en la alcaldía Coyoacán de la Ciudad de México, se llevó a cabo este encuentro con especialistas en Inteligencia Artificial (IA), personas servidoras públicas y estudiantes de nivel medio superior.
Te puede interesar leer: Melanie pide cerrar filas ante ola de violencia en Silao
La conclusión central fue que toda tecnología, por avanzada que sea, debe estar al servicio de las personas, por lo que es preciso preguntarnos como ciudadanos, quién la controla, qué sucede con nuestra privacidad, nuestros datos y al servicio de quién está, a fin de salvaguardar los derechos humanos de las personas usuarias.
Entre los planteamientos más relevantes que se mencionaron están que los actores del sector tecnológico llamaron a “desacelerar” el desarrollo de la Inteligencia Artificial, además plantean la necesidad de evaluar y regular estos sistemas para proteger los derechos de las personas. Sin embargo, desde una perspectiva crítica, también pueden interpretarse como una estrategia de carácter monopólico: controlar el ritmo de innovación, limitar la entrada de competidores y preservar su posición dominante.
Otro planteamiento es que entre los principales riesgos se encuentran: la utilización de datos personales para generar ganancias; la falta de normatividad en la materia; además de que las corporaciones tecnológicas están pidiendo autorregulación, lo cual no garantiza certeza en el manejo responsable de los datos personales y la información que recopilan; así como de otros fenómenos como: exclusión social, racismo, discriminación y desigualdad social.
Sobre los efectos de la IA en los derechos democráticos se hizo un llamado para avanzar en la regulación para desalentar la persuasión y la manipulación en la toma de decisiones y la concentración del poder informático, así como la fragmentación de la realidad compartida, porque constituyen amenazas fundamentales para la sociedad.
Se dijo que, si bien todo individuo tiene derecho a la libertad de opinión y expresión, según el Artículo 19 de la Declaración Universal de los Derechos Humanos. Sin embargo, el desarrollo de la Inteligencia Artificial plantea nuevos retos para la protección de este derecho, ya que facilita la creación y difusión de noticias falsas (fake news) y contenidos de video, imagen o voz manipulados para hacer creer que alguien dijo o hizo algo que nunca sucedió (deep fakes).
Se destacó la importancia de no resistirse a utilizar los cambios tecnológicos, como los algoritmos y las redes sociales, toda vez que pueden proporcionar información importante y ayudarnos en nuestras tareas cotidianas, pero se insistió en la urgencia de invertir en la educación tecnológica de los sistemas automatizados además de normar su producción y de su regulación para un manejo ético y responsable.
Se hizo mención particular del caso del gobierno mexicano que, a través de la Agencia de Transformación Digital y Telecomunicaciones, trabaja para conocer el impacto que tiene la Inteligencia Artificial en la vida de las personas, la educación, adquisición de conocimiento, pero, sobre todo, la formación de capacidades en el Estado para atender las necesidades públicas y generar soluciones para problemas reales.
Para ello, se requiere legislar sobre la obligatoriedad de que los datos generados por sistemas de IA en México sean almacenados y procesados en infraestructuras nacionales, protegiendo así la soberanía y seguridad de la información. Además de formar talento capaz de comprender la Inteligencia Artificial, su alcance, ventajas y desventajas, un punto importante es cuidar los datos generados y que la información sea protegida, para lo cual se requiere infraestructura y software propios. Es fundamental establecer organismos independientes encargados de la vigilancia y cumplimiento de estas regulaciones, así como mecanismos de rendición de cuentas y participación ciudadana en la toma de decisiones sobre IA.
