Por qué la integridad de nuestro entorno de información está adquiriendo tanta importancia como la inteligencia de los sistemas que creamos
Normalmente se habla de la inteligencia artificial en términos de lo que es capaz de hacer. Puede ayudar a descubrir fármacos, escribir programas informáticos, analizar enormes conjuntos de datos, traducir idiomas y realizar tareas que antes requerían una cantidad considerable de tiempo y conocimientos especializados por parte de los seres humanos. Pero hay otra cuestión que merece mayor atención: ¿cómo está afectando la IA al entorno en el que decidimos qué es verdad?
Esta fue la cuestión que exploré recientemente en un artículo elaborado para el Simposio Global AI4Peace celebrado en Roma. Mi argumento era que uno de los retos más trascendentales que plantea la inteligencia artificial no es simplemente la producción de información falsa, sino la degradación gradual del entorno informativo compartido del que dependen las sociedades para su funcionamiento.
La IA generativa ha reducido drásticamente el coste de producir contenidos sintéticos convincentes. Se pueden fabricar imágenes, clonar voces y crear narrativas verosímiles en cuestión de segundos. Como es comprensible, la respuesta inmediata se ha centrado en detectar esas creaciones, y es necesario mejorar la autenticación, las normas de procedencia y las medidas de protección en torno a los medios sintéticos.
Pero la fabricación es solo una parte del problema. La cuestión más difícil se refiere a lo que ocurre una vez que la información entra en el ecosistema digital. Los sistemas de recomendación deciden lo que ven cada día miles de millones de personas, y esos sistemas se han optimizado en gran medida en función de la participación, más que de la precisión, el contexto o la complejidad.
La indignación, la certeza y los contenidos que confirman las creencias existentes suelen tener mayor repercusión que aquellos que las matizan, complican o cuestionan. La IA potencia aún más esa dinámica al permitir que se cree contenido a una escala enorme, que los mensajes se adapten a audiencias concretas y que los sistemas sean cada vez más eficaces a la hora de captar la atención.
El peligro no radica simplemente en que la gente crea en casos aislados de desinformación, sino en que la confianza en el propio entorno informativo comience a debilitarse. Cuando casi cualquier imagen puede fabricarse, cualquier voz clonarse y cualquier suceso reconstruirse de forma convincente, el escepticismo puede extenderse de lo falso a lo auténtico. El resultado final puede ser, más que una sociedad en la que la gente se lo crea todo, una en la que se sienta capaz de creer casi cualquier cosa.
Las democracias nunca han dependido de que todo el mundo esté de acuerdo. El desacuerdo es esencial para ellas. Pero un desacuerdo productivo requiere cierto terreno común: la capacidad de establecer que ciertas cosas ocurrieron y otras no, la convicción de que las pruebas importan, e instituciones capaces de establecer los hechos con un grado razonable de credibilidad.
Una vez que ese terreno común empieza a desaparecer, el desacuerdo político cambia de carácter. La gente ya no discute solo sobre lo que se debería hacer. Cada vez más, discute sobre lo que es real.
Los acontecimientos recientes nos advierten de adónde puede llevar esto. Tras los asesinatos de Southport, en el Reino Unido, en 2024, se difundió rápidamente por Internet información falsa sobre la identidad y los antecedentes del agresor antes de que se hubieran establecido los hechos básicos. Durante las elecciones presidenciales de Rumanía de 2024, la actividad coordinada en línea —en la que participaron plataformas sociales, redes de bots y contenido manipulado— se convirtió en parte de una crisis lo suficientemente grave como para que el Tribunal Constitucional del país anulara el resultado de la primera vuelta. En Estados Unidos, los votantes de New Hampshire recibieron llamadas automáticas generadas por IA que utilizaban una versión sintética de la voz del presidente Joe Biden para animarles a no votar en las primarias presidenciales del estado de 2024.
Las tecnologías y las circunstancias eran diferentes, pero la lección general es similar. La integridad del entorno informativo ya no puede tratarse como una cuestión tecnológica secundaria. Se está convirtiendo en parte de la infraestructura de la sociedad democrática.
Los gobiernos han comenzado a reaccionar. La Ley de Servicios Digitales y la Ley de IA de la Unión Europea representan intentos serios de fomentar una mayor rendición de cuentas, transparencia y salvaguardias en torno a la tecnología. Son importantes, pero la regulación se enfrentará inevitablemente a dificultades ante un problema que evoluciona tan rápidamente.
Las normas pueden exigir la divulgación de información. Los reguladores pueden investigar las plataformas. Los gobiernos pueden prohibir determinadas prácticas. Lo que a la legislación le resulta mucho más difícil cambiar es la estructura de incentivos de una economía de la información basada en captar la atención.
Si la indignación genera más participación que los matices, existe una razón comercial para amplificarla. Si la desinformación cargada de emotividad se propaga más rápido que una corrección cuidadosamente matizada, eliminarla varias horas después no borra su efecto. La regulación puede abordar los contenidos nocivos sin cambiar necesariamente los sistemas que hacen que esos contenidos resulten comercialmente atractivos en primer lugar.
Por eso la respuesta no puede recaer únicamente en los gobiernos. Las empresas tecnológicas, los desarrolladores de IA, las universidades, los investigadores, las organizaciones de la sociedad civil y las instituciones éticas poseen, cada uno, diferentes partes de la solución. Se necesitan mejores estándares técnicos para determinar el origen de los contenidos. Los investigadores independientes necesitan un acceso significativo a los datos para que los sistemas de recomendación puedan estudiarse adecuadamente. La educación debe hacer mayor hincapié en el análisis crítico de la información.
Las empresas tecnológicas también deben afrontar una cuestión más amplia. El cumplimiento normativo es importante, pero también lo es el entorno cívico que sus decisiones de diseño ayudan a crear.
Nada de esto implica ser pesimista respecto a la inteligencia artificial. La IA ya está acelerando los descubrimientos científicos, mejorando la asistencia sanitaria, aumentando la productividad, facilitando la vigilancia medioambiental y ayudando a las personas a comunicarse más allá de las fronteras lingüísticas y culturales. Su capacidad para mejorar la vida humana sigue siendo enorme.
Las mismas tecnologías que generan nuevos riesgos también pueden ayudar a abordarlos. Los sistemas de IA podrían mejorar la procedencia y la verificación de la información. Los sistemas de recomendación podrían diseñarse para exponer a los usuarios a perspectivas alternativas creíbles, en lugar de reforzar sin cesar las creencias existentes. La IA podría ayudar a identificar la manipulación coordinada, facilitar el diálogo entre comunidades y hacer que la información de alta calidad sea más fácil de encontrar.
La cuestión central no es, por tanto, si la IA es buena o mala, sino qué objetivos elegimos a la hora de diseñarla e implementarla.
Esto está estrechamente relacionado con la filosofía que subyace al «Código Humano» de NJF Holdings. Este marco parte del principio de que el progreso tecnológico debe, en última instancia, reforzar la capacidad de acción humana y el desarrollo humano. Eso significa preguntarse no solo qué puede lograr una tecnología, sino qué tipo de sociedad fomentan sus incentivos y sistemas.
La próxima fase de la IA requerirá algo más que modelos cada vez más capaces. También requerirá que las empresas, las instituciones y los responsables políticos estén dispuestos a reflexionar seriamente sobre el entorno informativo que esos modelos ayudan a crear.
Resulta tentador considerar la desinformación como una responsabilidad ajena. Los gobiernos deberían regularla, las plataformas deberían moderarla y las empresas tecnológicas deberían detectarla. Las tres partes desempeñan un papel importante, pero el desafío más profundo es también cultural.
Las sociedades sanas dependen de la curiosidad, la humildad intelectual y cierta disposición a interactuar con personas que ven el mundo de forma diferente. Necesitan ciudadanos capaces de distinguir entre pruebas y afirmaciones sin dar por sentado que el desacuerdo en sí mismo demuestre mala fe. Esas cualidades no pueden crearse simplemente mediante la legislación.
La tecnología puede reforzarlas o debilitarlas. Los sistemas de información que se están construyendo hoy determinarán cómo miles de millones de personas entienden el mundo durante décadas, por lo que no deberían juzgarse únicamente por su nivel de inteligencia, la rapidez con la que responden o su capacidad para captar la atención.
También deberían juzgarse por si ayudan a las personas a entenderse entre sí, a preservar la distinción entre información auténtica y sintética, y a proteger el terreno común del que dependen las sociedades pluralistas.
La IA no tiene por qué hacernos estar de acuerdo. Pero debería permitirnos seguir discrepando sobre una misma realidad.
Nicole Junkermann es una emprendedora e inversora internacional, además de fundadora de NJF Holdings. A través de NJF Capital y de la plataforma de inversión más amplia de NJF Holdings, ha invertido en empresas tecnológicas de los ámbitos de la inteligencia artificial, la ciberseguridad, la tecnología sanitaria y otras áreas de tecnología emergente. Su marco «Human Code» explora cómo el progreso tecnológico puede fortalecer la capacidad, la resiliencia y la autonomía humanas.