Inteligencia artificial, deepfakes y erosión de la verdad en las elecciones democráticas

«The ideal subject of totalitarian rule is not the convinced Nazi or the convinced Communist, but people for whom the distinction between fact and fiction and between true and false no longer exist.» (El sujeto ideal del dominio totalitario no es el nazi convencido ni el comunista convencido, sino las personas para quienes la distinción entre hecho y ficción, entre verdadero y falso, ha dejado de existir.) — Hannah Arendt, The Origins of Totalitarianism (1951)

En enero de 2024, dos días antes de las primarias demócratas de New Hampshire, miles de votantes recibieron una llamada automática con la voz de Joe Biden pidiéndoles que no votaran. La voz era un clon generado con IA, encargado por quinientos dólares y producido en veinte minutos. El responsable acabó multado con seis millones de dólares y acusado de trece delitos de supresión de voto. Fue el primer deepfake documentado desplegado deliberadamente contra unas elecciones presidenciales estadounidenses, y en 2026 el fenómeno se ha extendido: voces clonadas de gobernadores en campañas estatales de EE.UU. e imágenes generadas por IA en elecciones legislativas en Colombia.

El problema no es solo que los ciudadanos puedan ser engañados por un audio o vídeo concreto. Es que la proliferación de contenido sintético puede alterar la epistemología misma de la elección: qué consideran los ciudadanos una evidencia fiable para formar su voluntad política. Ese desplazamiento —de la mentira puntual a la incertidumbre generalizada— es el verdadero riesgo electoral de la IA generativa.

No es que crean la mentira, es que ya no saben qué creer

La amenaza principal no es que la IA consiga que todos crean una mentira concreta. Es que consiga que nadie sepa qué creer. Hay dos escenarios distintos: la manipulación de creencias (creer algo falso por haber visto un deepfake convincente) y la incertidumbre epistémica (no saber ya si algo es real, y por tanto desconfiar de todo contenido político, verdadero o falso). El segundo puede ser más peligroso, porque no depende de que triunfe una mentira concreta: basta con que se generalice su posibilidad.

Una revisión sistemática de 2026, con metodología PRISMA, encuentra efectos de confusión, menor confianza en las noticias online y mayor desconfianza institucional entre las audiencias expuestas a deepfakes políticos. Pero la misma literatura matiza algo clave: los deepfakes no son necesariamente más persuasivos que otras formas de desinformación en texto o imagen fija. El daño democrático no reside tanto en su poder persuasivo individual como en su efecto acumulativo sobre la credibilidad de todo el ecosistema informativo.

Tres mecanismos de erosión

• Manipulación: contenido falso que atribuye a un candidato declaraciones o comportamientos que nunca ocurrieron, como la voz clonada de Biden.

• Saturación: la producción sintética permite generar grandes volúmenes de contenido político y adaptarlo a públicos concretos, multiplicando el material difícil de distinguir del humano. En las elecciones federales alemanas de 2025 se documentaron casi mil imágenes y vídeos de IA publicados por unas cuatrocientas cuentas de partidos en solo cuatro semanas.

• El dividendo del mentiroso (“liar’s dividend”): el mecanismo más importante. Chesney y Citron lo formularon en 2019: cuando la existencia de deepfakes es de conocimiento público, un político puede negar una evidencia auténtica y comprometedora simplemente diciendo “es un deepfake”. La paradoja es que este dividendo crece cuanto más se informa al público sobre los deepfakes. Experimentos con más de quince mil adultos estadounidenses, publicados en la American Political Science Review, confirman que alegar “desinformación” ayuda a los políticos a conservar apoyo, sobre todo entre su propio electorado. La IA no solo fabrica pruebas falsas: también debilita la credibilidad de las pruebas verdaderas. La amenaza no es solo fabricar una realidad falsa, sino hacer que la realidad verificable pierda autoridad.

Consecuencias para la integridad electoral

La legitimidad electoral depende de una cadena completa: “elección, información, decisión del votante y aceptación del resultado”. Si se deteriora la capacidad del elector para distinguir información auténtica de fabricada, se deteriora la decisión política final, aunque el recuento sea perfecto. La Comisión de Venecia del Consejo de Europa ya aborda esto: en 2024 adoptó una declaración sobre IA y elecciones, y en 2025 un informe que exige transparencia obligatoria en los sistemas de IA usados en procesos democráticos.

El riesgo no termina el día de la votación. Si un candidato derrotado sostiene que las pruebas que lo contradicen son fabricaciones de IA, la tecnología se convierte en un instrumento para impugnar retrospectivamente la realidad electoral. Una elección puede ser procedimentalmente impecable y, aun así, quedar deslegitimada si el perdedor logra movilizar dudas plausibles sobre la autenticidad de la evidencia.

Qué hacer

“Regular la IA” es insuficiente por sí solo. Se necesitan tres respuestas complementarias: transparencia (etiquetado obligatorio de contenido sintético político), autenticidad (sistemas de procedencia y verificación técnica) y alfabetización mediática (no basta detectar deepfakes; hace falta saber qué fuentes merecen confianza).

Ya existen respuestas fragmentadas. Según la NCSL, treinta y un estados de EE. UU. habían aprobado para 2026 leyes sobre deepfakes electorales, la mayoría con divulgación obligatoria y solo algunos —Texas, Minnesota— con prohibiciones temporales. Tribunales de California y Hawái han bloqueado leyes por ser excesivamente amplias frente a la Primera Enmienda. El Consejo de Europa, por su parte, ha situado la protección de los procesos democráticos frente a la IA como eje explícito de su Convenio Marco sobre IA y Derechos Humanos de 2024.

El riesgo electoral fundamental de la IA generativa no es que los ciudadanos crean cada falsedad, sino que pierdan la capacidad de distinguir lo creíble de lo fabricado. Una elección puede seguir siendo procedimentalmente libre y, al mismo tiempo, volverse epistémicamente frágil. La IA no amenaza solo nuestra capacidad de reconocer la mentira; amenaza nuestra capacidad de reconocer la verdad política.