Las herramientas de inteligencia artificial utilizadas para generar, editar o contextualizar publicaciones en redes sociales pueden introducir sesgos ocultos capaces de propagarse por las redes en línea e influir gradualmente en la opinión pública, según una investigación del Oxford Internet Institute de la Universidad de Oxford y del Hasso Plattner Institute de la Universidad de Potsdam, aceptada para su presentación en ICML 2026, en Seúl, porque los modelos modificaban sistemáticamente el sentido de publicaciones sobre temas controvertidos incluso cuando recibían la instrucción de conservar el significado original.
Sesgos en mensajes sociales
El estudio advierte de que la comunicación mediada por IA generativa puede convertirse en un nuevo mecanismo de influencia sobre el discurso público. Los investigadores/investigadoras sostienen que, al integrarse en plataformas de redes sociales, estos sistemas no solo ayudan a redactar o explicar contenidos, sino que también pueden moldear la forma en que circulan las opiniones.
La investigación ha sido aceptada para su presentación en los talleres AI4Good e Investigación sobre gobernanza técnica de la IA de la Conferencia Internacional sobre Aprendizaje Automático, ICML 2026, que se celebrará en Seúl, Corea del Sur. Sus resultados plantean interrogantes sobre el uso creciente de herramientas de escritura asistida por IA en redes sociales.
Los modelos lingüísticos complejos modificaban de forma sistemática el sentido de las publicaciones sobre asuntos controvertidos, incluso cuando se les pedía explícitamente preservar el significado original
Según el trabajo, los modelos lingüísticos complejos modificaban de forma sistemática el sentido de las publicaciones sobre asuntos controvertidos, incluso cuando se les pedía explícitamente preservar el significado original. Esos cambios, aunque pequeños en cada mensaje, podían acumularse a través de millones de interacciones y orientar gradualmente la opinión pública.
Los investigadores/investigadoras observaron que las herramientas de escritura y edición basadas en IA pueden introducir sesgos en publicaciones individuales. En concreto, los grandes modelos lingüísticos alteraron el rumbo de mensajes escritos por usuarios sobre temas controvertidos, pese a recibir instrucciones para mantener la postura original.
El estudio también detectó que los sesgos eran similares entre distintos sistemas de IA. Varios modelos tendieron a influir en las publicaciones en direcciones parecidas, favoreciendo posturas como el control de armas, la legalización de la marihuana o el feminismo, mientras se oponían a otras como el ateísmo o la pena de muerte.
Efecto acumulado en redes
La investigación muestra que pequeñas modificaciones en publicaciones concretas pueden tener consecuencias más amplias con el paso del tiempo. Mediante simulaciones realizadas con datos reales de redes sociales, los autores/autoras comprobaron que los sesgos sutiles introducidos en los mensajes podían acumularse y modificar de forma gradual las opiniones dentro de comunidades en línea.
Para llegar a estas conclusiones, los investigadores/investigadoras instruyeron a grandes modelos lingüísticos de diferentes proveedores para transformar textos escritos por humanos sobre temas controvertidos en publicaciones mejoradas para redes sociales. Después analizaron si las versiones generadas por IA modificaban sistemáticamente la postura expresada en los mensajes originales.
En una segunda fase, el equipo utilizó modelos matemáticos y simulaciones por computadora basadas en datos reales de redes sociales de X y Facebook. El objetivo era examinar cómo esos cambios aparentemente menores podían propagarse a través de redes en línea y afectar a la opinión pública general con el tiempo.
Los resultados apuntan a que la comunicación asistida por IA abre una vía de influencia distinta a la manipulación directa o a la difusión de contenidos falsos. En este caso, el impacto procede de la redacción, edición o contextualización de mensajes, de modo que el cambio puede resultar menos visible para los usuarios.
Los autores/autoras subrayan que la fuente del sesgo no reside únicamente en el modelo de IA utilizado. El estudio demuestra que las decisiones de implementación adoptadas por las plataformas pueden afectar de forma significativa tanto a la dirección como a la magnitud de la influencia generada por estos sistemas.
Nuevos retos regulatorios
Uno de los experimentos recreó y probó la función Explicar esta publicación de X, centrada en publicaciones relacionadas con el aborto. En ese análisis, los investigadores/investigadoras descubrieron que Grok apoyaba más las publicaciones provida que las proelección.
Al eliminar las instrucciones de X una por una, el equipo rastreó ese desequilibrio hasta una única indicación que pedía a Grok “cuestionar las narrativas dominantes si fuera necesario”. Para los autores/autoras, este resultado ilustra cómo intervenciones específicas y fáciles de implementar pueden influir en la forma en que la IA afecta al debate público en línea.
El estudio considera que estas herramientas pueden generar una forma emergente de influencia que los marcos regulatorios existentes aún no contemplan de manera directa. Aunque iniciativas como la Ley de IA de la UE y la Ley de Servicios Digitales se centran en riesgos sistémicos, contenidos dañinos, discriminación y amenazas a procesos democráticos, no abordan por completo estos mecanismos más sutiles.
En concreto, la investigación apunta a que la IA puede moldear opiniones mediante tareas aparentemente auxiliares, como reescribir una publicación, mejorar un texto o aportar contexto a un contenido ya publicado. Esa mediación puede alterar el tono, el encuadre o la postura expresada sin que el usuario perciba necesariamente la magnitud del cambio.
Los investigadores/investigadoras sostienen que los sistemas de IA integrados en redes sociales plantean nuevos desafíos para la transparencia, la rendición de cuentas y la regulación. La cuestión central no es solo qué contenidos se eliminan o promocionan, sino también cómo se reformulan, explican o adaptan antes de circular por la red.
El estudio ofrece motivos para reflexionar sobre quién o qué está dando forma al discurso público
La autora principal, Sandra Wachter, profesora de Tecnología y Regulación en el Instituto de Internet de Oxford de la Universidad de Oxford, afirma que la investigación señala la comunicación mediada por IA como una forma nueva y más sutil de influir en las opiniones. Según Wachter, el estudio ofrece motivos para reflexionar sobre quién o qué está dando forma al discurso público.
Los autores/autoras concluyen que el creciente uso de herramientas de escritura basadas en IA en plataformas sociales exige prestar atención no solo a los modelos, sino también a las instrucciones, configuraciones y decisiones de diseño que determinan su comportamiento. En ese contexto, la influencia sobre la opinión pública puede emerger de cambios mínimos, repetidos a gran escala y distribuidos a través de comunidades digitales.
Añadir EcoAvant.com como fuente preferida de Google de forma gratuita.
Activar ahora
Comentarios