Gobernanza de la IA: Los DDHH en juego ante la convergencia de gigantes tecnológicos y autoritarios
Los algoritmos deciden quién vive y quién muere en Gaza. La vigilancia basada en la inteligencia artificial (IA) rastrea a periodistas en Serbia. Armas autónomas desfilan por las calles de Beijing en demostraciones de poderío tecnológico. Esto no es una ficción distópica, es la realidad actual. A medida que la IA transforma el mundo, la cuestión de quién controla esta tecnología y cómo se gobierna se ha convertido en una prioridad urgente.
El alcance de la IA se extiende a sistemas de vigilancia que pueden rastrear a manifestantes, campañas de desinformación que pueden desestabilizar democracias y aplicaciones militares que deshumanizan los conflictos al eliminar la intervención humana en decisiones cruciales. Esto se debe a la ausencia de salvaguardias adecuadas.
Fallas de gobernanza
El mes pasado, la Asamblea General de la ONU adoptó una resolución para establecer los primeros mecanismos internacionales -un Panel Científico Internacional Independiente sobre IA y un Diálogo Global sobre la Gobernanza de la IA- destinados a gobernar la tecnología, acordados como parte del Pacto Digital Global en la Cumbre del Futuro, celebrada en septiembre de 2024.
Esta resolución no vinculante marcó un primer paso positivo hacia posibles regulaciones más estrictas. Sin embargo, su proceso de negociación reveló profundas fracturas geopolíticas.
A través de su Iniciativa de Gobernanza Global de la IA, China defiende un enfoque estatal que excluye por completo a la sociedad civil de los debates sobre gobernanza, a la vez que se posiciona como líder del sur global. Enmarca el desarrollo de la IA como una herramienta para el progreso económico y los objetivos sociales, presentando esta visión como una alternativa al dominio tecnológico occidental.
Mientras tanto, Estados Unidos bajo Donald Trump ha adoptado el técnonacionalismo, tratando la IA como una herramienta para el apalancamiento económico y geopolítico. Decisiones recientes, incluida una tarifa de 100 % sobre los chips de IA importados y la compra de una participación de 10 % en el fabricante de chips Intel, indican una retirada de la cooperación multilateral a favor de los acuerdos bilaterales transaccionales.
La Unión Europea (UE) ha adoptado un enfoque diferente, implementando la primera Ley de IA integral del mundo, que entra en vigor en agosto de 2026. Su marco regulatorio basado en el riesgo representa el progreso, que prohíbe los sistemas de IA que se consideran los riesgos «inaceptables» al tiempo que requieren medidas de transparencia para otros.
Sin embargo, la legislación contiene brechas preocupantes.
Si bien inicialmente propone prohibir la tecnología de reconocimiento facial en vivo incondicionalmente, la versión final de la Ley de la IA permite un uso limitado con salvaguardas que argumentan que los grupos de derechos humanos son inadecuados.
Además, si bien las tecnologías de reconocimiento de emociones están prohibidas en las escuelas y los lugares de trabajo, siguen permitidos para el control de la aplicación de la ley y el control de la inmigración, una decisión particularmente consecutiva dada el sesgo racial documentado de los sistemas existentes.
La Coalición de ProtectNotSurve ha advertido que los migrantes y las minorías raciales de Europa están sirviendo como terrenos de prueba para herramientas de vigilancia y seguimiento de IA. Lo más crítico, la Ley de IA exime los sistemas utilizados para fines de seguridad nacional y drones autónomos utilizados en la guerra.
El creciente clima y los impactos ambientales del desarrollo de la IA agrega otra capa de urgencia a las preguntas de gobernanza. Las interacciones con los chatbots de IA consumen aproximadamente 10 veces más electricidad que las búsquedas estándar de internet.
La Agencia Internacional de Energía proyecta que el consumo de electricidad del Centro de Datos Global será más del doble para 2030, con IA impulsando la mayor parte de este aumento.
Las emisiones de Microsoft han crecido en 29 % desde 2020 debido a la infraestructura relacionada con la IA, mientras que Google eliminó silenciosamente su compromiso de emisiones de cero neto de su sitio web, ya que las operaciones de IA lo impulsaron 48 % entre 2019 y 2023. Limite los aumentos de temperatura global.
Los campeones necesitaban
El mosaico actual de las regulaciones regionales, las resoluciones internacionales no vinculantes y la autorregulación de la industria laxa no alcanzan lo que se necesita para gobernar una tecnología con implicaciones globales tan profundas.
El interés propio estatal continúa prevaleciendo sobre las necesidades humanas colectivas y los derechos universales, mientras que las empresas que poseen sistemas de IA acumulan un poder inmenso en gran medida sin control.
El camino hacia adelante requiere un reconocimiento de que la gobernanza de la IA no es simplemente un problema técnico o económico, sino que se trata de la distribución de energía y la responsabilidad.
Puede leer aquí la versión en inglés de este artículo.
Cualquier marco regulatorio que no enfrente la concentración de capacidades de IA en manos de algunos gigantes tecnológicos inevitablemente se quedará cortos. Los enfoques que excluyen las voces de la sociedad civil o prioricen la ventaja competitiva nacional sobre las protecciones de los derechos humanos resultarán inadecuados para el desafío.
La comunidad internacional debe fortalecer urgentemente los mecanismos de gobernanza de la IA, comenzando con acuerdos vinculantes sobre sistemas letales de armas autónomas que se han estancado en las discusiones de la ONU durante más de una década.
La UE debe cerrar las lagunas en su Ley AI, particularmente con respecto a las aplicaciones militares y las tecnologías de vigilancia. Los gobiernos en todo el mundo necesitan establecer mecanismos de coordinación que puedan contrarrestar efectivamente el control de los gigantes tecnológicos sobre el desarrollo y el despliegue de la IA.
La sociedad civil no debe estar sola en esta pelea. Cualquier esperanza de un cambio hacia el gobierno de IA centrado en los derechos humanos depende de los campeones que surjan dentro del sistema internacional para priorizar los derechos humanos sobre los intereses nacionales y las ganancias corporativas estrechamente definidas.
Con el desarrollo de IA acelerando rápidamente, no hay tiempo que perder.
Samuel King es investigador del proyecto de investigación financiado por Horizonte Europa ENSURED: Shaping Cooperation for a World in Transition (Fomentar la cooperación para un mundo en transición) en Civicus, la alianza mundial para la participación ciudadana.