Las tecnologías nuevas y emergentes necesitan una supervisión urgente y una transparencia sólida: expertos de la ONU

Expertos de la ONU* han solicitado hoy una mayor transparencia, supervisión y regulación para hacer frente a los efectos negativos sobre los derechos humanos de las herramientas digitales y los espacios en línea nuevos y emergentes.

“Las tecnologías nuevas y emergentes, incluidos los sistemas de vigilancia biométrica basados en inteligencia artificial, se utilizan cada vez más en contextos sensibles, sin el conocimiento o el consentimiento de las personas”, señalaron los expertos antes de la cumbre RightsCon llevado en Costa Rica del 5 al 8 de junio de 2023.

“Se necesitan líneas rojas regulatorias urgentes y estrictas para las tecnologías que aseguran realizar el reconocimiento de emociones o de género”, dijeron.

Los expertos expresaron su preocupación por la proliferación de programas espía invasivos y una creciente gama de tecnologías de vigilancia selectiva utilizadas para atacar ilegalmente a personas defensoras de derechos humanos, activistas, periodistas y a la sociedad civil en todas las regiones.

“Condenamos el alarmante uso de programas espía y tecnologías de vigilancia en violación de los derechos humanos y el efecto abrumador más amplio de tales medidas ilegales sobre el trabajo legítimo de las personas defensoras de derechos humanos y sobre el espacio cívico a nivel internacional, a menudo bajo el pretexto de medidas de seguridad nacional y de lucha contra el terrorismo”, afirmaron.

Los expertos subrayaron la necesidad de garantizar que estos sistemas no expongan más a las personas y comunidades a sufrir violaciones de los derechos humanos, entre otras, mediante la expansión y el abuso de prácticas de vigilancia invasiva que vulneran el derecho a la intimidad, facilitan la comisión de graves violaciones de los derechos humanos, incluidas las desapariciones forzadas, y la discriminación. Expresaron su preocupación por el respeto a las libertades de expresión, pensamiento y protesta pacífica, y por el acceso a los derechos económicos, sociales y culturales esenciales, así como a los servicios humanitarios.

“Deben evitarse por completo las tecnologías y aplicaciones específicas en las que no sea posible regular las denuncias en materia de derechos humanos”, afirmaron los expertos.

Los expertos señalaron que los llamados sistemas de “Inteligencia artificial generativa” pueden permitir la producción masiva, barata y rápida de contenido sintético que difunden desinformación o promueven y amplifican la incitación al odio, la discriminación o la violencia por motivos de raza, sexo, género y otras características. Los expertos también expresaron su preocupación por el hecho de que su desarrollo está impulsado por un pequeño grupo de actores poderosos, entre ellos empresas e inversionistas, sin que existan requisitos adecuados para llevar a cabo la debida diligencia en materia de derechos humanos o consultas con las personas y comunidades afectadas. Además, la moderación de contenidos la realizan a menudo personas en situación de explotación laboral.

“Se necesita urgentemente una regulación que garantice la transparencia, alerte a las personas cuando se encuentren con medios sintéticos e informe al público sobre los datos y modelos de formación utilizados”, señalaron los expertos.

Los expertos reiteraron sus llamamientos a la cautela ante el impacto radical de las tecnologías digitales en el contexto de las crisis humanitarias, desde la recopilación de datos a gran escala -incluida la recolección de datos biométricos muy sensibles- hasta el uso de tecnologías avanzadas de vigilancia selectiva. “Instamos a la moderación en el uso de tales medidas hasta que se conozcan plenamente las implicaciones más amplias para los derechos humanos y se establezcan salvaguardias sólidas de protección de datos”, afirmaron.

Resaltaron la necesidad de garantizar soluciones técnicas -incluida una sólida encriptación de extremo a extremo y un acceso sin restricciones a las redes privadas virtuales- y asegurar y proteger las comunicaciones digitales.

Los expertos recordaron a los Estados y a las empresas sus respectivos deberes y responsabilidades, incluida la debida diligencia en materia de derechos humanos cuando se trata del desarrollo, uso, investigación y adquisición de tecnologías digitales.

“Tanto la industria como los Estados deben rendir cuentas, entre otras cosas por sus repercusiones económicas, sociales, medioambientales y sobre los derechos humanos”, afirmaron. “La próxima generación de tecnologías no debe reproducir ni reforzar los sistemas de exclusión, discriminación y patrones de opresión”.

*Los Expertos: Fionnuala Ní Aoláin, Relatora Especial sobre la promoción y la protección de los derechos humanos y las libertades fundamentales en la lucha contra el terrorismo; Irene Khan, Relatora Especial sobre la promoción y protección del derecho a la libertad de opinión y de expresión; Aua Baldé (Presidente Relatora), Gabriella Citroni (Vicepresidenta), Angkhana Neelapaijit, Grażyna Baranowska, Ana Lorena Delgadillo Perez, Grupo de Trabajo sobre Desapariciones Forzadas e Involuntarias; Ana Brian Nougrères, Relatora Especial sobre el derecho a la privacidad; Mary Lawlor, Relatora Especial sobre la situación de los defensores de los derechos humanos; Clément Nyaletsossi Voule, Relator Especial sobre los derechos a la libertad de reunión pacífica y de asociación; Pichamon Yeophantong (Presidenta), Damilola Olawuyi (Vicepresidente), Fernanda Hopenhaym, Elżbieta Karska, y Robert McCorquodale, Grupo de Trabajo sobre la cuestión de los derechos humanos y las empresas transnacionales y otras empresas; y Ashwini K.P., Relatora Especial sobre las formas contemporáneas de racismo, discriminación racial, xenofobia y formas conexas de intolerancia.

Los Relatores Especiales, Expertos Independientes y Grupos de Trabajo forman parte de lo que se conoce como los Procedimientos Especiales del Consejo de Derechos Humanos. Procedimientos Especiales, el organismo más grande de expertos independientes en el sistema de derechos humanos de la ONU, es el nombre general de los mecanismos independientes de investigación y monitoreo del Consejo que abordan situaciones específicas de países o problemas temáticos en todas partes del mundo. Los expertos de Procedimientos Especiales trabajan de forma voluntaria; no son personal de la ONU y no reciben un salario por su trabajo. Son independientes de cualquier gobierno u organización y sirven a título individual.

¿Te preocupa por el mundo en que vivimos?
Entonces DEFIENDE los derechos de alguien hoy.
#Standup4humanrights
y visita la página web http://www.standup4humanrights.org