Un panel de 96 expertos internacionales en inteligencia artificial ha publicado el Informe Internacional sobre la Seguridad de la IA 2025, un documento clave que analiza los avances recientes en inteligencia artificial de propósito general (GPAI), sus riesgos emergentes y las estrategias necesarias para su gestión segura.
El informe fue desarrollado por expertos de 30 países, junto con organismos como la ONU, la Unión Europea y la OCDE, con el objetivo de proporcionar una evaluación científica global sobre los desafíos y oportunidades de la IA avanzada.
Principales hallazgos
📌 Avances sin precedentes en IA
Los sistemas de IA de propósito general han mostrado mejoras radicales en capacidades como programación, razonamiento abstracto y toma de decisiones autónoma.
Desde 2023, la cantidad de recursos computacionales utilizados en su entrenamiento ha aumentado más de 100 veces, lo que ha acelerado su desarrollo.
📌 Riesgos críticos identificados
El informe destaca tres categorías de riesgos principales asociados con la IA avanzada:
🔹 Uso malintencionado: creación de contenido falso (deepfakes), manipulación de la opinión pública, ciberataques y potenciales amenazas biológicas.
🔹 Fallos y sesgos: problemas de fiabilidad, discriminación algorítmica y pérdida de control sobre los sistemas de IA.
🔹 Riesgos sistémicos: impacto en el mercado laboral, concentración del poder en pocas empresas tecnológicas, amenazas a la privacidad y riesgos ambientales por el alto consumo energético.
📌 Desafíos en la regulación global
A pesar de los esfuerzos por establecer regulaciones, los gobiernos enfrentan un dilema de evidencia: actuar de manera preventiva con información incompleta o esperar a que los riesgos se materialicen con consecuencias irreversibles.
📌 Medidas propuestas
El informe sugiere estrategias clave para la gestión de riesgos, incluyendo:
✔ Desarrollo de herramientas de monitoreo de IA en tiempo real.
✔ Transparencia en los datos de entrenamiento y mecanismos de auditoría.
✔ Modelos de IA más interpretables y responsables.
✔ Mayor cooperación internacional para estandarizar regulaciones y medidas de seguridad.