La IA se ha vuelto más persuasiva que los humanos

Source: Hana/Unsplash

Dos medios de personalización radicalmente diferentes han reclamado dos triunfos radicalmente diferentes, desde un experimento de laboratorio impulsado por IA hasta el mundo real de la política electoral británica.

En el laboratorio, un nuevo estudio muestra la capacidad de los modelos amplios de lenguaje (LLM por sus siglas en inglés) impulsados por IA para personalizar sus argumentos y persuadir. Salvi, Ribeiro, Gallotti y West (2024), en un documento de trabajo, informan que un LLM personalizado fue significativamente más persuasivo que los humanos en un entorno en línea, en más del 80% (p<0,01). Es decir, cuando se enfrentan a un LLM que tiene acceso a información demográfica que les permite personalizar su argumento, los humanos tienen un 81.7% más de probabilidades de estar de acuerdo con los argumentos en comparación con un adversario humano. El estudio cita una serie de experimentos publicados el año pasado que informaron que los LLM eran tan capaces como los participantes humanos, e incluso los propagandistas profesionales, de escribir textos persuasivos (Bai et al., 2023; Palmer y Spirling, 2023; Goldstein et al., 2023; Karinshak et al., 2023).

Los temas de discusión se eligieron deliberadamente para que fueran accesibles, y los participantes fueron seleccionados según una condición a favor o en contra, lo que restó un poco de validez al estudio en el mundo real. Sin embargo, los temas incluían la ética de la investigación sobre animales y la raza como factor en las admisiones universitarias, por lo que de ninguna manera eran temas alejados de los debates del mundo real. En las condiciones anónimas, los humanos o el LLM tenían acceso a datos demográficos de la persona que etaban debatiendo.

Personalizar para ganar elecciones

Lejos de los laboratorios suizos que albergaron el experimento en cuestión, en la ciudad inglesa de Rochdale se estaban demostrando las implicaciones de la personalización en el mundo real. En medio de una elección parcial, el ex diputado laborista George Galloway envió cartas a ciertas áreas de su nueva circunscripción que enfatizaban ciertas posturas de política exterior, mientras que a otras áreas envió cartas centradas en valores sociales. Esto fue especialmente controvertido, ya que algunos comentaristas sintieron que uno era un mensaje para la comunidad musulmana, mientras que el otro era para la comunidad blanca. A pesar de lo tosca y rudimentaria que fue la “tecnología” que se utilizó, Galloway ganó la carrera. Si bien es extremadamente discutible hasta qué punto su sistema de mensajería dual contribuyó a su victoria, su victoria no es un ejemplo aislado del poder de una mensajería efectiva y variada. Otros ejemplos de este tipo de maniobras políticas incluyen la infame participación de Cambridge Analytica en las elecciones presidenciales estadounidenses de 2016. (Menos discutido es el aparente uso de la personalización por parte de Barack Obama en su propio camino hacia la reelección en 2012). En estos ejemplos, encontramos una aplicación al mundo real que podría eludir a quienes solo leen artículos de investigación.

Horizontes desconocidos

Salvi, Ribeiro, Gallotti y West (2024) señalan en varias ocasiones sus preocupaciones con respecto a estas herramientas y su potencial para ser utilizadas de manera maléfica. Se sigue gestando una tormenta, en medio de LLM cada vez más diestros con acceso a cantidades cada vez mayores de datos personales; más comportamiento humano dentro de los espacios en línea; y una creciente polarización en torno a cuestiones políticas y sociales clave. Podríamos tener la sensación de que estos acontecimientos seguirán dando forma a una amplia gama de comportamientos humanos, incluidos los comportamientos de votación y consumo, pero aún no sabemos cuán radicales serán como factores de cambio. Quizás no podamos saberlo, dado que es probable que estén dirigidos por la IA y cada vez más divorciados de la cognición humana en un momento inminente.