Otra nota más sobre IA y DDHH: Charlando con Chat GPT sobre la Inteligencia Artificial + algunas observaciones sobre esa interacción.  Por Gabriela Pérez

 

“Ríos de tinta” sería una expresión pasada de moda para graficar la descomunal cantidad de opiniones, artículos y notas que vemos todos los días sobre la inteligencia artificial y más allá. Ante la pregunta sobre el tema Inteligencia artificial y derechos (también muy visitado), me rendí a la fuente y me dispuse a conversar del tema con Chat GTP.

De esa charla, resultó el artículo que comparto más adelante. Pero antes, algunos hallazgos sobre esta interacción.

 

Ciertamente demoré menos tiempo en lograr este artículo, que si hubiera leído y analizado con detenimiento cada nota que lo alimentó.

También es cierto que el artículo no tiene las todas las referencias y datos precisos de sus fuentes.

Sin dudas, incluye algunas afirmaciones que son incorrectas, pero como lo hace en el mismo tono y forma que las correctas, las que no lo son resultan difíciles de detectar.

 

La nota es el resultado de las fuentes con que alimenté el pedido, más algo indeterminado y opaco, pues no tengo manera de saber con qué otro contenido, presupuestos, concepciones del mundo, etc, dialogó esta versión de la plataforma gratuita para Argentina, en noviembre de 2024.

Mi trabajo como analista, esta vez se limitó a definir las fuentes y las preguntas. Tareas que puedo hacer por mi experiencia personal y profesional de más de 15 años en el sector de los derechos humanos y por dialogar y discutir estos temas con otros profesionales en los últimos 5 años.

Acá la nota:

Los Desafíos de la Inteligencia Artificial para la Garantía Universal de los Derechos Humanos

La inteligencia artificial (IA) está revolucionando nuestras sociedades con impactos profundos, tanto positivos como preocupantes, sobre los derechos humanos. Desde diferentes regiones y perspectivas, organizaciones internacionales, expertos y gobiernos han identificado los riesgos inherentes al desarrollo y uso de estas tecnologías. A continuación, se abordan los principales desafíos y las propuestas planteadas para garantizar su implementación ética y responsable.

Impacto en los Derechos Fundamentales

Privacidad y Datos Personales
La creciente utilización de IA en la gestión de datos plantea riesgos significativos para la privacidad. Organizaciones como Amnistía Internacional han documentado casos en los que sistemas digitales de protección social comprometen datos sensibles, exponiendo a los ciudadanos a violaciones de privacidad y exclusión. En América Latina, Derechos Digitales alerta sobre el manejo inadecuado de datos personales en políticas públicas, destacando la necesidad de transparencia y control ciudadano.

Discriminación y Exclusión
Un problema recurrente es la perpetuación de sesgos discriminatorios en los algoritmos de IA. Según Ashwini K.P., Relatora Especial de la ONU, estas herramientas suelen amplificar prejuicios raciales y de género presentes en los datos utilizados. Ejemplos en áreas como la actuación policial o los sistemas de salud evidencian cómo estas tecnologías pueden reforzar desigualdades y limitar el acceso a servicios esenciales.

Democracia e Integridad Informativa
Otro desafío crítico es el uso de IA para manipular información y debilitar los procesos democráticos. Desde el MERCOSUR, se ha señalado la importancia de regular estas herramientas para evitar la difusión de noticias falsas, discursos de odio y otras prácticas que erosionan las instituciones democráticas.

Desafíos Éticos y Sociales

Falta de Inclusión Contextual
El informe Latin America in a Glimpse subraya la necesidad de desarrollar tecnologías que respeten los contextos locales y promuevan modelos éticos y comunitarios. En América Latina, el diseño de sistemas de IA frecuentemente ignora las particularidades sociales, culturales y económicas, lo que limita su eficacia y puede excluir a comunidades vulnerables.

 

Ciclo de Retroalimentación de Sesgos
La IA puede generar bucles que perpetúen las desigualdades históricas, especialmente en comunidades marginadas. Esto no solo perpetúa las injusticias existentes, sino que también dificulta la creación de sociedades más inclusivas.

 

Dependencia de Actores Privados
El papel predominante de empresas tecnológicas en el desarrollo de IA plantea interrogantes sobre su alineación con principios éticos y de derechos humanos. En muchos casos, la falta de regulación adecuada permite prácticas que priorizan el beneficio económico sobre el bienestar social.

 

Propuestas y Marcos Normativos

Regulación Internacional: El Caso del Consejo de Europa
El reciente Convenio Marco sobre Inteligencia Artificial, adoptado por el Consejo de Europa, establece un marco jurídico vinculante para mitigar los riesgos de la IA y garantizar el respeto a los derechos humanos. Este tratado introduce mecanismos para la transparencia, la supervisión independiente y la protección contra la discriminación, y podría servir como referencia global.

Transparencia y Supervisión
Organismos como Amnistía Internacional han enfatizado la importancia de evaluar los impactos de la IA en los derechos humanos antes de su implementación. Proponen la creación de organismos de supervisión independientes que puedan garantizar la rendición de cuentas de los actores implicados.

Participación Multisectorial
El desarrollo de políticas públicas para regular la IA debe incluir a todas las partes interesadas: sociedad civil, expertos, empresas tecnológicas y ciudadanos. Desde el MERCOSUR, se aboga por el establecimiento de foros consultivos que permitan un diálogo inclusivo y multisectorial.

Educación y Alfabetización Digital
Cerrar la brecha digital es esencial para garantizar que todos los sectores de la sociedad puedan beneficiarse de la IA de manera equitativa. Las políticas deben fomentar el conocimiento y uso seguro de estas tecnologías, priorizando a comunidades vulnerables.

 

El Camino Hacia un Futuro Responsable

La inteligencia artificial tiene el potencial de transformar positivamente nuestras sociedades, pero esto solo será posible si se gestiona con responsabilidad y enmarcada en principios de derechos humanos. Desde la regulación internacional hasta iniciativas locales, es crucial un enfoque centrado en las personas que promueva la igualdad, la privacidad y la justicia social.

La colaboración entre gobiernos, organizaciones y ciudadanos será clave para garantizar que la IA no solo sea una herramienta de progreso, sino también de equidad y dignidad humana.

 

Hasta aquí el artículo.

Por mi parte, resta decir lo evidente: la IA y sus desarrollos están impactando en la manera en que las personas, los grupos, los líderes y los sectores de poder pensamos y piensan el mundo, la sociedad, los valores, el poder mismo. También es preciso decir (retomando discusiones clásicas) que, como toda tecnología, la IA es política. Entonces, los derechos humanos y sus referentes tienen que abrirse a las tecnologías. Por un lado, destacando lo positivo que traen. Por otro lado, exigiéndole al campo de la IA que reconozca el fenómeno de la extrema desigualdad y la consiguiente necesidad de darle voz efectiva a todos los grupos y comunidades afectados por sus desarrollos.

Gabriela Pérez, para Universo Parlamentario