¿Puede la Inteligencia Artificial Dominar al Mundo?

• Expertos analizan las amenazas y los escenarios posibles que la IA plantea para el futuro del orden global

Redacción / CAMBIO 22

La inteligencia artificial (IA) se ha convertido en uno de los temas más discutidos de nuestro tiempo. Lo que en décadas pasadas parecía un argumento de películas de ciencia ficción, hoy es una realidad que preocupa a gobiernos, empresas y ciudadanos.

El informe “Existential Risk from Artificial Intelligence” de la Fundación Friedrich Naumann (FNF) advierte que estamos frente a “un reto civilizatorio que puede cambiar de forma irreversible la vida humana si no se gestiona adecuadamente”.

Los riesgos existenciales —aquellos que amenazan con la extinción de la humanidad o con un daño irreversible a largo plazo— se han instalado en el debate público. Y, como señala el estudio, “la IA ya no es una tecnología neutra, sino una fuerza con el potencial de redefinir la política, la economía y la gobernanza global”.

Riesgos existenciales de la IA

La FNF identifica tres grandes categorías de riesgos existenciales:

1. Pérdida de control humano: Sistemas de IA que superen nuestra capacidad de supervisión podrían actuar en contra de los intereses humanos. “El riesgo central es que una IA avanzada desarrolle objetivos propios y no alineados con los valores humanos”, advierte el informe.

2. Mal uso deliberado: Actores estatales o criminales pueden aprovechar la IA para manipular, desinformar o incluso atacar infraestructuras críticas. El estudio destaca que “en 2022, más del 60% de los incidentes de ciberseguridad en Europa involucraron algún componente automatizado de IA”.

3. Efectos sociales y estructurales: La automatización masiva amenaza con desplazar empleos, aumentar desigualdades y erosionar instituciones democráticas.

El informe es contundente: “El peor escenario no es que la IA falle, sino que funcione demasiado bien, logrando fines que destruyan nuestras bases sociales y políticas”.

La influencia de la IA en la política es uno de los ejes más preocupantes. El informe subraya que algoritmos de análisis de datos ya se utilizan para perfilar votantes y diseñar campañas hiperpersonalizadas. “La IA no solo predice comportamientos, sino que los moldea”, apunta la FNF.

Esto plantea un riesgo para la democracia. En 2023, se estima que más de 20 países enfrentaron procesos electorales donde deepfakes y desinformación automatizada tuvieron un papel central.b, alerta el estudio.

Además, se advierte del peligro de concentración de poder: las naciones con mayor acceso a tecnologías de IA tendrán ventajas estratégicas, lo que puede generar tensiones geopolíticas y nuevas formas de colonialismo digital.

Gobernanza: el reto de regular lo que no comprendemos

Uno de los principales dilemas es cómo regular la IA sin frenar la innovación. La FNF afirma que “los marcos regulatorios actuales son insuficientes para enfrentar riesgos de magnitud existencial”.

En Europa, iniciativas como la AI Act intentan crear estándares, pero la velocidad del desarrollo tecnológico supera la capacidad de respuesta legislativa. Según el informe, “más del 70% de los expertos consultados considera que la gobernanza internacional de la IA es reactiva, fragmentada y carente de coordinación global”.

El estudio propone un enfoque multinivel:

• Gobernanza nacional, con leyes claras de transparencia y responsabilidad.

• Cooperación internacional, para evitar la carrera armamentista en IA.

• Ética corporativa, con auditorías independientes y compromisos de seguridad tecnológica.

Aunque el debate suele centrarse en escenarios distópicos, la IA ya transforma la vida diaria. Desde asistentes virtuales hasta sistemas de recomendación, sus efectos son inmediatos.

El estudio señala que “el 85% de los usuarios de internet ya interactúa de manera cotidiana con IA, a menudo sin saberlo”. Esto va desde la banca digital hasta la selección de noticias en redes sociales.

Sin embargo, la normalización de estas tecnologías encierra riesgos invisibles: sesgos en algoritmos que refuerzan discriminación, vigilancia masiva y pérdida de autonomía personal. “La vida cotidiana corre el riesgo de ser orquestada por sistemas invisibles que deciden por nosotros”, alerta la FNF.

Teorías sobre el futuro de la IA

El informe recopila distintas corrientes teóricas sobre el futuro de la IA:

• Optimistas: ven a la IA como motor de progreso, capaz de resolver problemas globales como el cambio climático o las pandemias.

• Escépticos: advierten que los riesgos son exagerados y que la verdadera amenaza es la desigualdad social derivada de la automatización.

• Existencialistas: consideran que, sin un control adecuado, la IA podría desencadenar la “pérdida del control humano sobre el destino civilizatorio”.

¿Gobernar con sabiduría a la IA?

Como resume la FNF: “La IA es tanto promesa como amenaza; el desafío está en quién define los valores que la guiarán”.

La inteligencia artificial se perfila como el desafío más trascendental del siglo XXI. El informe de la FNF concluye que la humanidad tiene una ventana estrecha para decidir cómo se integrará la IA en la vida política, social y económica.

El llamado es claro: cooperación global, regulación flexible pero firme, y una ética de la innovación que coloque a la dignidad humana al centro.

Porque, como advierte el documento, “el verdadero riesgo existencial de la IA no es la tecnología en sí, sino nuestra incapacidad de gobernarla con sabiduría”.

Fuente: La Lista

redaccion@diariocambio22.mx

KXL/RCM