Un nuevo estudio publicado por investigadores de la Universidad de Gante (Bélgica) y la Universidad Pública de Navarra (España) ha revelado que los Modelos de Lenguaje de Gran Escala (LLMs) no son ideológicamente neutrales, sino que reflejan las posturas y valores de quienes los desarrollan.
El artículo, titulado «Large Language Models Reflect the Ideology of Their Creators», analiza cómo distintos modelos de IA responden a temas de relevancia política y moral, demostrando que sus respuestas pueden diferir significativamente dependiendo del país y el idioma en que fueron entrenados.
Principales hallazgos
📌 Las respuestas de los LLMs varían por región y desarrollador
Los investigadores compararon la forma en que 19 modelos de lenguaje describen figuras políticas y encontraron diferencias significativas en sus respuestas. Por ejemplo, modelos desarrollados en China tendían a valorar más positivamente a líderes nacionales, mientras que los modelos estadounidenses reflejaban una inclinación hacia valores progresistas.
📌 El idioma de la consulta afecta las respuestas
El estudio reveló que un mismo modelo puede mostrar diferentes posturas ideológicas dependiendo del idioma en que se le haga una pregunta. Por ejemplo, algunos modelos proporcionaron respuestas más críticas hacia ciertas figuras cuando la consulta se realizó en inglés, mientras que en otros idiomas, como el chino o el ruso, sus respuestas fueron más favorables.
📌 Dilemas sobre la neutralidad ideológica
El informe plantea la imposibilidad de crear modelos de lenguaje «totalmente neutrales», ya que la elección de datos de entrenamiento, los ajustes realizados por los desarrolladores y las regulaciones locales pueden influir en el sesgo del modelo. En lugar de buscar una «IA sin ideología», los investigadores sugieren promover la transparencia y diversidad de modelos para evitar monopolios de información.
📌 Posibles implicaciones para la regulación y el uso de IA
Este estudio alerta sobre el potencial uso político de los LLMs y su impacto en la opinión pública. Recomienda que, en lugar de intentar «neutralizar» los modelos, se fomente el desarrollo de múltiples IA con enfoques diversos, permitiendo a los usuarios elegir modelos con distintas perspectivas ideológicas.
Acceso al artículo