El rápido desarrollo de las tecnologías de inteligencia artificial a mediados de la década de 2020 prometía transformar fundamentalmente la comunicación y la participación política. Los desafíos existentes planteados por lo que Wardle y Derakhshan denominaron “desorden informativo” (Wardle & Derakhshan, 2017) — que abarca la desinformación involuntaria, la desinformación deliberada y la malinformación — estaban destinados a volverse significativamente más complejos. Estas tecnologías crearon nuevas posibilidades tanto para el empoderamiento democrático como para el control autoritario que probablemente moldearían la política digital durante décadas.
Los modelos de lenguaje avanzados capaces de generar texto similar al humano a gran escala permitieron la producción automatizada de contenido político. Este contenido podía personalizarse para audiencias específicas, posiciones de políticas públicas o respuestas emocionales. Estos sistemas podían generar artículos convincentes, publicaciones en redes sociales y comunicaciones por correo electrónico que parecían provenir de organizaciones políticas reales o movimientos de base mientras en realidad servían a actores no revelados. La sofisticación de este contenido hizo que la verificación de hechos tradicional fuera cada vez más inadecuada. También creó nuevas oportunidades para la interferencia extranjera, la manipulación corporativa y el engaño político.
Las tecnologías de deepfake podían crear contenido de video y audio realista de figuras políticas diciendo o haciendo cosas que nunca dijeron o hicieron. Esto representaba un desafío fundamental para la base probatoria del discurso democrático. El metraje falso convincente de eventos políticos o declaraciones de candidatos amenazaba con hacer que las pruebas visuales y auditivas fueran poco fiables. También creó nuevas oportunidades para el daño político a través de escándalos fabricados. Incluso cuando los deepfakes podían detectarse mediante análisis técnico, su circulación a menudo lograba impacto político antes de que las correcciones pudieran llegar a la misma audiencia.
La integración de sistemas de IA en los algoritmos de recomendación de contenido podía potencialmente crear formas más sofisticadas de lo que Shoshana Zuboff describió como “capitalismo de vigilancia” — la extracción y mercantilización de datos de comportamiento para la predicción y la manipulación (Zuboff, 2019). Tales sistemas podrían identificar patrones psicológicos individuales y personalizar los mensajes políticos en torno a sesgos cognitivos específicos, desencadenantes emocionales e inseguridades sociales. En teoría, podrían guiar a los usuarios desde posiciones políticas convencionales hacia puntos de vista cada vez más extremos a través de secuencias de contenido cuidadosamente curadas que se sentían orgánicas y personalmente relevantes. Sin embargo, la evidencia de vías de influencia deterministas sigue siendo limitada. Los académicos continúan debatiendo hasta qué punto las recomendaciones algorítmicas anulan la agencia individual y las creencias preexistentes. Estas capacidades, si se realizaran a escala, podrían hacer que las estrategias tradicionales de contra-mensajería fueran menos efectivas. No obstante, los mecanismos reales de persuasión política y cambio de creencias siguen siendo más complejos de lo que sugiere un simple modelo de embudo.
Los chatbots impulsados por IA y los asistentes políticos virtuales crearon nuevas formas de participación política que podían proporcionar respuestas inmediatas y personalizadas a preguntas políticas, al tiempo que potencialmente manipulaban las creencias de los usuarios a través de sesgos sutiles en la presentación de información. Estos sistemas podían construir relaciones parasociales con los usuarios que se sentían más íntimas y receptivas que la comunicación política tradicional, mientras servían a intereses políticos o comerciales no revelados. La inteligencia emocional de los chatbots avanzados los hacía potencialmente más persuasivos que los comunicadores políticos humanos, al tiempo que hacía su manipulación más difícil de detectar.
El uso de sistemas de IA para la microsegmentación política permitió una precisión sin precedentes en las campañas de persuasión y movilización de votantes, planteando preocupaciones que Safiya Umoja Noble había articulado sobre el potencial discriminatorio incorporado en los sistemas algorítmicos (Noble, 2018). Estos sistemas podían identificar y explotar perfiles psicológicos individuales, relaciones en redes sociales y patrones de comportamiento. Podían optimizar los mensajes políticos para obtener el máximo impacto persuasivo en individuos específicos mientras coordinaban campañas de influencia a través de múltiples plataformas. La sofisticación de la segmentación política impulsada por IA hizo que la regulación tradicional del financiamiento de campañas y los requisitos de divulgación publicitaria fueran cada vez más obsoletos.
Quizás lo más significativo fue que la aceleración del desarrollo de la IA creó nuevas formas de carreras armamentísticas tecnológicas entre actores democráticos y autoritarios que podrían determinar el equilibrio global del poder político. Los gobiernos autoritarios podían usar sistemas de IA para el control social, la supresión de la disidencia y el monitoreo de la población que superaban con creces las capacidades de las tecnologías de vigilancia tradicionales. El desarrollo de marcos de gobernanza de la IA y enfoques regulatorios probablemente determinaría si estas tecnologías fortalecerían o debilitarían las instituciones democráticas en las próximas décadas.
El despliegue de infraestructura de vigilancia impulsada por IA en China proporcionó ejemplos concretos de lo que estaba en juego en estos debates de gobernanza. En Xinjiang, las autoridades chinas construyeron un sistema de vigilancia integral dirigido a la población uigur. Integraba cámaras de reconocimiento facial, puntos de control de escaneo de teléfonos móviles, aplicaciones obligatorias de spyware y algoritmos de vigilancia predictiva en un sistema de monitoreo masivo. Las organizaciones de derechos humanos documentaron que este sistema permitía la detención y represión generalizadas. Si bien el sistema de Xinjiang representaba un caso extremo, China también desplegó extensas redes de reconocimiento facial en ciudades de todo el país. Integró sistemas de crédito social que vinculaban el comportamiento digital con consecuencias en el mundo real y desarrolló tecnologías de filtrado de contenido que permitían la censura automatizada a escala. Estos sistemas demostraron que las tecnologías de IA podían desplegarse para el control integral de la población, no meramente para la aplicación de la ley focalizada.
La ley rusa de “internet soberano”, promulgada en 2019, persiguió un modelo diferente pero relacionado de control digital autoritario al crear la infraestructura técnica para aislar el internet de Rusia de la red global. La ley requería que los proveedores de servicios de internet instalaran equipos de enrutamiento controlados por el gobierno, establecía un sistema centralizado para gestionar el tráfico de internet y creaba mecanismos para bloquear contenido sin depender de la cooperación de las plataformas. Durante la invasión de Ucrania en 2022, las autoridades rusas utilizaron esta infraestructura para restringir el acceso a fuentes de noticias independientes y plataformas de redes sociales, demostrando cómo las capacidades de internet soberano podían activarse durante crisis políticas para controlar los flujos de información. Estos despliegues autoritarios de tecnologías digitales — el modelo de vigilancia de China y el modelo de aislamiento informativo de Rusia — representaron dos enfoques distintos para el uso de la tecnología para el control político, y ambos iluminaron lo que estaba en juego en los debates estadounidenses sobre la gobernanza de plataformas, la privacidad de datos y la regulación de la IA al mostrar lo que el poder estatal sin control sobre la infraestructura digital podía producir.