Un panel de expertos alerta sobre riesgos catastróficos y propone medidas concretas para encauzar el desarrollo seguro, justo y beneficioso de la IA
La Asamblea General de las Naciones Unidas recibió un informe sin precedentes que llama a una acción internacional urgente para gobernar el desarrollo de la Inteligencia Artificial General (IAG), una forma avanzada de IA capaz de igualar o superar la inteligencia humana en múltiples tareas cognitivas.
Elaborado por el Panel de Alto Nivel del Consejo de Presidentes de la Asamblea General de la ONU (UNCPGA), el documento plantea que la IAG podría emerger en esta misma década, generando impactos extraordinarios —tanto positivos como potencialmente catastróficos— para la humanidad.
El informe advierte que sin una coordinación global proactiva, el avance acelerado de la IAG —impulsado por inversiones récord del sector privado y una carrera tecnológica entre naciones— podría desencadenar escenarios de pérdida de control humano, desarrollo de armas autónomas letales, ataques a infraestructuras críticas, concentración extrema de poder y riesgos existenciales para la civilización.
Frente a estos desafíos, el Panel propone la convocatoria de una sesión especial de la Asamblea General de la ONU, con el objetivo de establecer un marco integral de gobernanza internacional. Las recomendaciones clave incluyen:
- Creación de un Observatorio Global de la IAG, encargado de monitorear avances tecnológicos y emitir alertas tempranas.
- Sistema Internacional de Certificación y Mejores Prácticas, que garantice el desarrollo seguro y alineado con valores humanos.
- Convención Marco de las Naciones Unidas sobre la IAG, que defina protocolos flexibles, niveles de riesgo y salvaguardas globales.
- Estudio de viabilidad para una Agencia Internacional de la ONU sobre IAG, que coordine acciones, fomente la cooperación y asegure la distribución equitativa de beneficios.
El documento destaca que las actuales iniciativas internacionales —como las resoluciones de la ONU, la Recomendación de la UNESCO sobre Ética de la IA, el Pacto Digital Mundial y el Pacto para el Futuro— han sentado las bases para una regulación responsable de la IA. Sin embargo, subraya que la Inteligencia Artificial General requiere un abordaje específico, urgente y multilateral.
Una ventana crítica se abre para que la comunidad internacional establezca reglas claras, inclusivas y preventivas, antes de que las dinámicas tecnológicas superen las capacidades regulatorias.
La ONU se posiciona así como el actor central para liderar esta gobernanza anticipatoria de escala planetaria, promoviendo un desarrollo de la IAG que sea seguro, justo, transparente y orientado al bien común.
El informe esta disponible aquí.