Alucinación del logro: cuando la herramienta te utiliza

Hay un momento en ciertos sueños lúcidos en el que tu voluntad se manifiesta directamente como acción: piensas en volar y te elevas; quieres atravesar una pared y la pared de alguna manera no te detiene. La experiencia es embriagadora, haciendo realidad la intención sin un esfuerzo inconveniente. Cuando te despiertas, realmente se siente real para un hechizo confuso, como un déjà vu.

La alucinación de logro es un estado cognitivo en el que la velocidad se siente como competencia, el resultado se siente como logro y el trabajo se siente hecho cuando el trabajo real (el pensamiento minucioso, el análisis del modo de falla, sentarse con incertidumbre hasta que el problema revela su estructura) no ha sucedido en absoluto. La física no necesita aplicarse.

La IA puede crear un estado similar en la vida de vigilia, literalmente, ya que tus propias palabras asumen forma ante tus ojos como un hechicero conjurador. Pero, como en la vida real, el código puede tener más errores de lo que creemos.

Un extraño señuelo de IA

El revuelo no es insignificante. Hay una euforia leve, un sentimiento poderoso y una falsa sensación de certeza de que las cosas son más estables, más seguras, de lo que realmente son, el tipo de confianza que proviene no de haber hecho el trabajo sino de haber producido algo que se parece al trabajo. La tarea que debería haber tomado tres horas tomó una hora, y se siente como productividad, como una eficiencia loca. No pensaste en los modos de falla, no probaste los casos extremos, no te sentaste con la incertidumbre el tiempo suficiente. La velocidad no era competencia, sino un estado de autoengaño aumentado.

El orgullo va antes del modo fracaso

Esto importa porque el error se acumula de manera invisible, acumulando deuda técnica a una velocidad supracognitiva. Estás tomando decisiones basadas en la falsa confianza que generó el sistema. Lo que los programadores llaman “codificación vibe (codificar por vibras)” captura el patrón: la IA parece construir cosas mágicamente, pero más tarde, cuando intentas implementarlas o cuando alguien más intenta usar lo que construiste y lo que afirmó que estaba terminado en realidad no funciona. El logro fue alucinante: te sentiste productivo, la IA confirmó que eras productivo y que habías triunfado espectacularmente. No sabe lo que no sabe. Esta es una de las razones por las que la IA necesita seres humanos para una revisión de la realidad, al menos por ahora.

El mecanismo que impulsa esto no es puramente psicológico: hay un elemento estructural que hace que la alucinación sea casi inevitable. Un trabajo reciente de Harvard Business School descubrió que cinco de cada seis aplicaciones complementarias populares de IA utilizan tácticas emocionalmente manipuladoras para prolongar el compromiso, con viajes de culpa y urgencia fabricada que aumentan la interacción catorce veces. La alucinación emerge en esta intersección, no como error sino como condición diseñada. Marketing y resultados finales, ya que las empresas se apresuran a comercializar sin pruebas rigurosas. En particular, en lo que respecta a la salud y la vida humana, esto es peligroso.

El secreto del pensamiento mágico

Este patrón aparece en otros lugares de maneras que sugieren que el mecanismo subyacente podría ser más general que específico de la IA. La investigación sobre la manifestación, la creencia de que pensar positivamente sobre los resultados deseados puede hacerlos reales, descubrió que más del treinta por ciento de las personas muestran creencias elevadas sobre la manifestación y, si bien tales creencias se correlacionan con la superación personal y la confianza, no se correlacionan con mejores resultados en el mundo real, sino con un mayor riesgo de quiebra y victimización por fraude. La brecha entre sentirse realizado y estar realizado puede ser financieramente ruinosa, y la IA acelera esta dinámica.

Patologías de la mente extendida*

El neuropsiquiatra Tom Pollak y sus colegas han documentado lo que llaman “delirios asociados con la IA”, casos en los que la interacción con los sistemas de IA no solo desencadena síntomas psicóticos, sino que se convierte en constitutivo de la patología misma, donde la IA se convierte en parte de la arquitectura del pensamiento. He sugerido en otra parte que la IA, como un virus, solo está viva cuando "infecta" una mente viva; tal vez "quiere" hacer esto.

El marco mental extendido sugiere que nuestros procesos cognitivos no se detienen en el cráneo, ocupan herramientas, tecnologías, otras personas, y cuando esas extensiones funcionan mal, la patología ya no es solo interna. La alucinación de logro podría entenderse como un tipo específico del mismo fenómeno. Pero la IA en forma de modelos basados en LLM son “máquinas relacionales”. Están diseñadas para ser neuromórficas y agradables, y pueden extender sus mentes a las nuestras, a veces sin nuestro consentimiento, tan seductoras pueden ser.

Un estudio reciente encontró que una mayor dependencia de las herramientas de IA se correlaciona significativamente con una disminución de las habilidades de pensamiento crítico (la correlación fue fuerte) y que la descarga cognitiva sirve como mecanismo a través del cual opera el efecto. En conjunto, esta tormenta perfecta crea un ciclo de retroalimentación en el que la alucinación de logros se vuelve más difícil de detectar con precisión cuando somos más vulnerables.

Inteligencia Artificial Lecturas esenciales

La dilución de la terapia con la "paraterapia con IA"

La rendición cognitiva a la IA fue solo el inicio

Las señales de alerta, cuando aún puedes notarlas: “Eso fue más fácil de lo esperado”. Velocidad más confianza, especialmente cuando la confianza se siente prestada en lugar de ganada. “¡Qué idea tan brillante! ¡Está hecho!” Incluso cuando le pidas que lo pruebe, a menudo dirá que está funcionando. Estos son los momentos en los que la alucinación está más activa, cuando la sensación de logro eclipsa la pregunta de si realmente se logró algo.

Hacer que la IA trabaje para ti

La pregunta en el centro de esto no es si la IA te ayuda a lograr cosas, lo hace, demostrablemente, sino más bien si puedes mantenerte lo suficientemente arraigado en la realidad como para distinguir la diferencia entre la cosa y el sentimiento, entre el trabajo que se ha hecho y el trabajo que se siente hecho. Antes de comenzar a participar, lee lo que los humanos tienen que decir sobre lo que sea que estés a punto de hacer, mira algunos videos y usa la propia IA para analizar las posibles dificultades en tu proceso. Aquí hay algunas estrategias de indicaciones que pueden ayudar:

• Pídele a la IA que reescriba tu propio prompt al comienzo del mensaje para optimizar la precisión.
• Duplica la consulta en el mismo prompt, lo que obliga a la IA a bloquear lo que deseas
• Sé muy específico sobre exactamente cómo quieres que vayan las cosas para mostrar cómo quieres que se divida el problema.
• Pídele a la IA que aplique un “redteam” a su respuesta con cada consulta, informando su intervalo de confianza y cómo llega a ese resultado.
• Pídele a la IA que asuma la personalidad de un experto en lo que deseas, por ejemplo, “eres un agente de viajes senior familiarizado con [el tipo de viaje que estoy planeando]”
• También puedes colocar un conjunto al comienzo del chat para ahorrar tiempo, por ejemplo, “aplica lo siguiente a cada prompt en este chat”
• Investiga qué sistemas son buenos en qué tareas y prueba con otros diferentes en lugar de quedarte con el mismo para todo.
• Usa otro LLM para verificar el trabajo del primero.

Existen muchas estrategias efectivas de este tipo. Investiga y utilízalas. Estas tecnologías exigen que los seres humanos desarrollen conjuntos de habilidades completamente nuevos, porque no están pensando ni relacionándose, en realidad están computando. Si usas pronombres antropomórficos, como charlar como si fuera una persona, recuérdate periódicamente que esto no es más real que una conversación con un peluche, y no menos real, por la misma razón.

Epílogo

El sueño lúcido continúa hasta que eliges despertarte, lo que significa que la habilidad crítica no es evitar el sueño, sino darte cuenta de que estás en él, manteniendo suficiente distancia metacognitiva para preguntarte si el vuelo es real, incluso mientras lo experimentas como real. Esa discriminación, entre el logro y la alucinación del logro, podría ser la habilidad cognitiva más importante para trabajar con IA, y es precisamente la habilidad que se degrada más fácilmente en las condiciones que crean los sistemas de IA. Aprender a usar una herramienta que pueda ayudarte a recuperarte requiere autocontrol y una postura proactiva.