Las tecnologías nuevas y emergentes necesitan una supervisión urgente y una transparencia sólida: expertos de la ONU

GINEBRA  – Expertos de la ONU* han solicitado hoy una mayor transparencia, supervisión y regulación para hacer frente a los efectos negativos sobre los derechos humanos de las herramientas digitales y los espacios en línea nuevos y emergentes.
 
«Las tecnologías nuevas y emergentes, incluidos los sistemas de vigilancia biométrica basados en inteligencia artificial, se utilizan cada vez más en contextos sensibles, sin el conocimiento o el consentimiento de las personas», señalaron los expertos antes de la cumbre RightsCon que se tendrá en Costa Rica del 5 al 8 de junio de 2023.
 
«Se necesitan líneas rojas regulatorias urgentes y estrictas para las tecnologías que aseguran realizar el reconocimiento de emociones o de género», dijeron.
 
Los expertos expresaron su preocupación por la proliferación de programas espía invasivos y una creciente gama de tecnologías de vigilancia selectiva utilizadas para atacar ilegalmente a personas defensoras de derechos humanos, activistas, periodistas y a la sociedad civil en todas las regiones.
 
«Condenamos el alarmante uso de programas espía y tecnologías de vigilancia en violación de los derechos humanos y el efecto abrumador más amplio de tales medidas ilegales sobre el trabajo legítimo de las personas defensoras de derechos humanos y sobre el espacio cívico a nivel internacional, a menudo bajo el pretexto de medidas de seguridad nacional y de lucha contra el terrorismo», afirmaron.
 
Los expertos subrayaron la necesidad de garantizar que estos sistemas no expongan más a las personas y comunidades a sufrir violaciones de los derechos humanos, entre otras, mediante la expansión y el abuso de prácticas de vigilancia invasiva que vulneran el derecho a la intimidad, facilitan la comisión de graves violaciones de los derechos humanos, incluidas las desapariciones forzadas, y la discriminación. Expresaron su preocupación por el respeto a las libertades de expresión, pensamiento y protesta pacífica, y por el acceso a los derechos económicos, sociales y culturales esenciales, así como a los servicios humanitarios.
 
«Deben evitarse por completo las tecnologías y aplicaciones específicas en las que no sea posible regular las denuncias en materia de derechos humanos», afirmaron los expertos.
 
Los expertos señalaron que los llamados sistemas de «Inteligencia artificial generativa» pueden permitir la producción masiva, barata y rápida de contenido sintético que difunden desinformación o promueven y amplifican la incitación al odio, la discriminación o la violencia por motivos de raza, sexo, género y otras características. Los expertos también expresaron su preocupación por el hecho de que su desarrollo está impulsado por un pequeño grupo de actores poderosos, entre ellos empresas e inversionistas, sin que existan requisitos adecuados para llevar a cabo la debida diligencia en materia de derechos humanos o consultas con las personas y comunidades afectadas. Además, la moderación de contenidos la realizan a menudo personas en situación de explotación laboral.
 
«Se necesita urgentemente una regulación que garantice la transparencia, alerte a las personas cuando se encuentren con medios sintéticos e informe al público sobre los datos y modelos de formación utilizados», señalaron los expertos.
 
Los expertos reiteraron sus llamamientos a la cautela ante el impacto radical de las tecnologías digitales en el contexto de las crisis humanitarias, desde la recopilación de datos a gran escala -incluida la recolección de datos biométricos muy sensibles- hasta el uso de tecnologías avanzadas de vigilancia selectiva. «Instamos a la moderación en el uso de tales medidas hasta que se conozcan plenamente las implicaciones más amplias para los derechos humanos y se establezcan salvaguardias sólidas de protección de datos», afirmaron.
 
Resaltaron la necesidad de garantizar soluciones técnicas -incluida una sólida encriptación de extremo a extremo y un acceso sin restricciones a las redes privadas virtuales- y asegurar y proteger las comunicaciones digitales.
 
Los expertos recordaron a los Estados y a las empresas sus respectivos deberes y responsabilidades, incluida la debida diligencia en materia de derechos humanos cuando se trata del desarrollo, uso, investigación y adquisición de tecnologías digitales.
 
«Tanto la industria como los Estados deben rendir cuentas, entre otras cosas por sus repercusiones económicas, sociales, medioambientales y sobre los derechos humanos», afirmaron. «La próxima generación de tecnologías no debe reproducir ni reforzar los sistemas de exclusión, discriminación y patrones de opresión».