Volker Türk advierte que los sistemas de IA cada vez más autónomos podrían afectar derechos fundamentales, servicios esenciales e instituciones democráticas
Ginebra.- El acelerado desarrollo de la inteligencia artificial (IA) ha encendido nuevas alertas en el ámbito internacional. Volker Türk, alto comisionado de las Naciones Unidas para los Derechos Humanos, llamó a gobiernos y empresas a fortalecer con urgencia la regulación de esta tecnología ante los riesgos que, de acuerdo con el organismo, podrían tener consecuencias profundas sobre las libertades y derechos fundamentales.
La preocupación no se limita a los sistemas capaces de generar textos, imágenes o respuestas. El debate se concentra cada vez más en herramientas con mayores niveles de autonomía, capaces de ejecutar tareas, tomar decisiones y operar durante periodos prolongados con una intervención humana limitada.
La Oficina del Alto Comisionado de la ONU para los Derechos Humanos ha planteado que la gobernanza de la inteligencia artificial debe incorporar desde su diseño mecanismos que permitan identificar, prevenir y remediar posibles impactos sobre los derechos humanos.
¿Por qué la ONU considera urgente regular la IA?
Para Türk, el desafío consiste en evitar que la carrera por desarrollar sistemas cada vez más potentes avance más rápido que las medidas destinadas a controlar sus consecuencias.
El alto comisionado ha advertido que los avances tecnológicos pueden afectar derechos relacionados con la privacidad, seguridad, igualdad, libertad de expresión y acceso a servicios, especialmente cuando los algoritmos se utilizan en decisiones que tienen consecuencias directas sobre las personas.
La ONU ya ha señalado, por ejemplo, que el uso de sistemas algorítmicos en ámbitos como la seguridad y la aplicación de la ley debe contar con garantías para evitar discriminación, vulneraciones a la privacidad y decisiones arbitrarias.
El riesgo de una IA cada vez más autónoma
Uno de los conceptos que genera mayor preocupación es el de la IA agéntica, utilizada para describir sistemas capaces de realizar secuencias de acciones y tomar determinadas decisiones para alcanzar objetivos establecidos por sus usuarios.
El temor planteado por quienes piden mayores controles es que un error en sistemas altamente conectados pueda tener efectos que vayan más allá de una conversación incorrecta o una recomendación equivocada.
Entre los escenarios de riesgo se encuentran posibles afectaciones a infraestructuras digitales, sistemas financieros, comunicaciones y otros servicios esenciales si tecnologías autónomas fueran implementadas sin suficientes mecanismos de supervisión.
La preocupación adquiere especial relevancia cuando estas herramientas son utilizadas en sectores donde una decisión automatizada puede afectar directamente la vida cotidiana de millones de personas.
Derechos humanos en el centro del debate
La discusión sobre la regulación de la inteligencia artificial no se reduce a establecer qué tecnologías pueden desarrollarse o comercializarse.
Uno de los principales planteamientos de la ONU es que los derechos humanos deben formar parte de las reglas que determinan cómo se diseña, implementa y supervisa la IA.
Entre los derechos que pueden verse afectados se encuentran:
- Derecho a la privacidad.
- Derecho a la igualdad y a la no discriminación.
- Libertad de expresión.
- Acceso a la información.
- Derecho a la seguridad.
- Protección de datos personales.
- Derecho a un recurso efectivo frente a decisiones perjudiciales.
La ONU ha planteado que los gobiernos deben realizar evaluaciones de impacto y establecer mecanismos independientes de supervisión cuando utilizan sistemas de inteligencia artificial.
El peligro de utilizar IA en decisiones críticas
El debate adquiere una dimensión todavía mayor cuando la inteligencia artificial se utiliza para tomar o apoyar decisiones relacionadas con seguridad, justicia, vigilancia, empleo, servicios públicos o acceso a determinados beneficios.
Un algoritmo puede procesar enormes cantidades de información en segundos, pero eso no significa que sus resultados sean necesariamente imparciales o correctos.
Los datos utilizados para entrenar un sistema pueden contener errores o sesgos. Si estos problemas no son identificados, una herramienta automatizada podría reproducirlos a gran escala.
Por ello, la supervisión humana, la transparencia y la posibilidad de impugnar una decisión automatizada se han convertido en algunos de los principales puntos del debate regulatorio.
IA y democracia: otro frente de preocupación
La expansión de estas tecnologías también plantea interrogantes sobre el futuro de las democracias.
La generación automatizada de contenidos, la desinformación, los contenidos manipulados y la capacidad de producir grandes cantidades de mensajes pueden dificultar que los ciudadanos distingan entre información auténtica y material fabricado.
La propia ONU ha advertido previamente sobre los efectos de la inteligencia artificial en la producción y distribución de información, así como sobre los riesgos que la concentración tecnológica puede representar para la pluralidad de voces.
Este problema cobra especial importancia durante procesos electorales, cuando una campaña coordinada de información falsa podría intentar influir en la opinión pública.
¿Quién debe controlar la inteligencia artificial?
Para Türk, uno de los grandes retos consiste en evitar que las decisiones sobre una tecnología de alcance global queden exclusivamente en manos de gobiernos individuales o grandes compañías tecnológicas.
La propuesta de Naciones Unidas apunta hacia una cooperación internacional que permita establecer estándares comunes y mecanismos de supervisión.
El argumento es que la IA no respeta fronteras: un modelo desarrollado en un país puede utilizarse inmediatamente en otro, mientras que los datos, servidores, empresas y usuarios pueden encontrarse en distintas jurisdicciones.
Por ello, una regulación fragmentada podría generar vacíos legales difíciles de atender.
Las empresas tecnológicas también tienen responsabilidades
La regulación no corresponde únicamente a los gobiernos.
La ONU ha sostenido que las empresas tienen responsabilidades relacionadas con el respeto a los derechos humanos cuando desarrollan y utilizan nuevas tecnologías.
Entre las medidas propuestas se encuentran evaluaciones de impacto, auditorías, transparencia sobre el funcionamiento de los sistemas y mecanismos para que las personas afectadas puedan reclamar o solicitar una reparación.
El objetivo no es detener el desarrollo tecnológico, sino establecer condiciones para que la innovación no avance a costa de las libertades fundamentales.
Un llamado a actuar antes de que sea demasiado tarde
La advertencia de Türk llega en un momento en que las compañías tecnológicas compiten por desarrollar modelos de inteligencia artificial cada vez más capaces.
Al mismo tiempo, algunos de los principales referentes de la industria han expresado públicamente preocupaciones relacionadas con la seguridad y el desarrollo de sistemas avanzados, lo que ha contribuido a intensificar el debate internacional.
El desafío para gobiernos y empresas será encontrar un equilibrio entre innovación y seguridad.
La pregunta ya no parece ser únicamente qué puede hacer la inteligencia artificial, sino también qué límites deben existir cuando sus decisiones pueden afectar a millones de personas.
Para Naciones Unidas, la respuesta debe partir de una premisa: el progreso tecnológico no puede implicar que las personas tengan que renunciar a sus derechos fundamentales.
El futuro de la IA dependerá de las reglas que se establezcan hoy
La inteligencia artificial continuará evolucionando y su presencia en la economía, los gobiernos, las empresas y la vida cotidiana probablemente seguirá creciendo.
La discusión internacional se concentra ahora en determinar qué salvaguardas deben existir antes de que los sistemas más avanzados sean utilizados en ámbitos críticos.
El mensaje de la ONU es claro: la regulación debe avanzar al mismo tiempo que la tecnología y colocar los derechos humanos en el centro de las decisiones.
El reto será conseguir que la innovación continúe, pero bajo reglas capaces de proteger a la sociedad frente a los riesgos que puedan surgir de una tecnología cuyo potencial todavía se encuentra en expansión. ¿Y USTED QUE OPINA?
¡Únete a nuestro grupo de WhatsApp y recibe GRATIS las noticias más importantes directo en tu celular!
