Estrategia para una era de superinteligencia: nuevo informe propone disuasión, control y competitividad ante el auge de la IA avanzada
En un contexto de aceleración tecnológica sin precedentes, el nuevo informe titulado “Superintelligence Strategy – Expert Version”, elaborado por Dan Hendrycks, Eric Schmidt (ex CEO de Google) y Alexandr Wang, plantea un marco estratégico para enfrentar los riesgos existenciales y geopolíticos derivados del desarrollo de inteligencias artificiales superavanzadas.
El documento ofrece una mirada sin concesiones: el ascenso de la superinteligencia representa el mayor desafío para la seguridad global desde la era nuclear.
¿Qué es la superinteligencia?
Una IA que supera ampliamente a los humanos en prácticamente todas las tareas cognitivas. Según el informe, su posible emergencia en los próximos años exige estrategias de contención y gobernanza tan robustas como las que una vez surgieron frente al poder atómico.
Tres pilares para una estrategia de superinteligencia
- Disuasión – Mutual Assured AI Malfunction (MAIM)
Inspirado en la lógica de la disuasión nuclear (MAD), el informe introduce el concepto de MAIM, un régimen en el cual cualquier intento unilateral de dominio mediante IA sería respondido con sabotaje estratégico. Ya sea mediante ciberataques encubiertos o potenciales golpes cinéticos a datacenters, la dinámica busca frenar proyectos desestabilizadores antes de que lleguen a madurar. - No proliferación
Propone mecanismos estrictos de control sobre chips de IA avanzados, monitoreo de envíos y geolocalización de hardware, para evitar su acceso por actores no estatales o terroristas. También exige proteger el “ADN” de los modelos avanzados: sus pesos y algoritmos. - Competitividad geoestratégica
Sostiene que los Estados deben garantizar acceso seguro a chips, desarrollar capacidad industrial propia, adaptar sus sistemas legales a los agentes de IA, y asegurar la estabilidad política frente a los impactos del automatismo masivo.
Riesgos identificados
- IA usada para bioterrorismo y ciberataques masivos.
- Escalada geopolítica por monopolio estratégico de la IA.
- Pérdida de control por dependencia institucional y delegación masiva de decisiones a sistemas autónomos.
- Posibilidad de una “recursión de inteligencia” que escape al control humano y conduzca a una explosión cognitiva artificial.
Disponible en línea aquí.