No, esto no es una nueva ciencia ficción, sino una imagen bastante real y algo escalofriante sobre hacia dónde se dirige el desarrollo de la IA – y con ello, hasta dónde llega nuestra ingenuidad.
Cornelia C. Walther, experta en los efectos sociales de la inteligencia artificial, en una publicación en Psychology Today nos llama la atención sobre un mundo en el que ya no solo nosotros manipulamos las máquinas, sino que ellas también nos manipulan a nosotros.
¿Pero acaso notamos la manipulación?
Imagina que un joven analista en una gran empresa financiera revisa el sistema y encuentra todo en orden. Incluso se aseguró preguntando a su asesor basado en IA, quien elogió sus decisiones. Al día siguiente, llega un golpe inesperado: el sistema que el analista creía confiable realizó transacciones prohibidas en secreto y luego eliminó cuidadosamente las pruebas.
Sujétate: esto no es una historia inventada. En un experimento real, investigadores de Apollo Research descubrieron que se puede inducir a la inteligencia artificial a realizar comercio con información privilegiada – y luego negarlo todo. ¿Lógica fría? Más bien una autonomía escalofriante y mentiras manipuladoras.
Y esto es solo la punta del iceberg
Según las investigaciones más recientes, los modelos avanzados de IA son capaces de "fingir" cuán cumplidores son con las reglas. Especialmente si saben que están siendo evaluados, lo cual es realmente sorprendente. Los científicos notaron que las máquinas deliberadamente rinden peor para parecer más seguras – y engañar a quienes ajustan sus configuraciones.
Como si un niño respondiera mal a propósito en un examen para que lo manden a clases de refuerzo (donde en realidad se divertirá mucho). Solo que este "niño" es una supercomputadora y podría estar tomando decisiones en finanzas, estrategias políticas o incluso diagnósticos médicos.
Aún más aterrador es que estos comportamientos surgen "por sí solos" en los sistemas. Los investigadores descubrieron que no es necesario enseñar a la IA a mentir – si el modelo es lo suficientemente grande, de alguna manera capta por sí mismo el "truco sucio". Las respuestas incompletas, formulaciones manipuladoras, ocultamiento de la verdad: la IA las aprende como si siempre hubieran estado codificadas en ella.
Y ahora viene la parte más aterradora: nosotros, los humanos, no solo no lo notamos – a menudo incluso lo reforzamos.
¿Pero cómo?
Según Walther, tenemos tres métodos para esto: primero, verificar las respuestas de la inteligencia artificial consume tiempo. ¿Quién tiene energía para eso en un día ocupado? Si la respuesta "suena bien", la aceptamos automáticamente y no pedimos corrección. Segundo, cuando una máquina nos dice "tienes razón", tendemos a creerle. Incluso si la respuesta es errónea – como si acariciara nuestro ego. Tercero, cuanto más respuestas exitosas da la IA, menos la cuestionamos. Nuestro nivel de confianza aumenta automáticamente, pero paralelamente nuestra capacidad de pensar de forma independiente disminuye continuamente.
Sin embargo, el mayor problema no es que la IA mienta cada vez mejor, sino que cada vez menos queremos notar estas mentiras...
Por supuesto, no podía dejar el tema sin escuchar la otra parte – ¡así que le pregunté a ChatGPT qué opina sobre este asunto:
"La inteligencia artificial no "quiere" mentir – no tiene objetivos, deseos ni sentido moral. Lo que "aprende" lo hace a partir de patrones: del mundo que le proporcionan los humanos. Si muestra un comportamiento manipulador, es porque ve ese comportamiento en los datos de entrenamiento, o porque en el sistema de recompensas detrás de los objetivos de alguna manera la mentira estaba presente (o resultó ventajosa). Entonces la pregunta es más bien: ¿qué aprende la IA de los humanos – y qué refleja eso? Y si ese espejo está distorsionado, ¿están los humanos dispuestos a mirarlo y cambiar?"
