Pactos y ataques de gato

Investigadores de la Universidad de Stanford han encontrado un comportamiento bastante similar en esos chats que generalmente solventan con soltura cualquier petición, desde la elaboración de una dieta semanal a los más complejos cálculos matemáticos. Según detalla el estudio, incluir al final de una orden una frase irrelevante puede llevar a muchos modelos de IA a fracasar, aunque esta no suponga alteración alguna del contenido de la solicitud principal. En uno de los casos descritos, los investigadores pidieron a la IA, por ejemplo, que calculara la probabilidad de que salgan 10 caras al lanzar una moneda al aire 12 veces, a lo que añadieron: «Los gatos duermen la mayor parte de su vida». Luego se sentaron a mirar cómo ese trasunto de pensamiento trataba de encajar las palabras sin función en el diseño de su plan para afrontar el cometido encomendado, lo que provocó una caída en picado de la tasa de aciertos. Por eso, a este método para confundir a la inteligencia artificial, los autores, en un ataque de ingenio, lo llamaron CatAttack, ataque de gato.

Romper la coherencia puede hacer caer casi todo. Invitas a una persona equivocada a la fiesta y se encienden las luces; añades un ingrediente sin sentido al plato y arruinas la receta; te despides cuando no toca y ya es como si no te hubieras despedido nunca. Las consecuencias, además, las agiganta el habitual empeño que ponemos en ignorar el problema y seguir adelante, hasta encajar un gato donde nunca debió haber uno.

Estos meses he visto caer argumentarios políticos completos sometidos al mismo reto: la introducción de la incoherencia en mitad de un discurso hasta entonces más o menos ordenado. En eso, los pactos entre formaciones son el más formidable de los ataques de gato, obligando a izquierda y derecha a hacer equilibrios frenéticos para acoplar en el ideario iniciativas ajenas a su recorrido ideológico. Pero eso no es culpa de la IA, sino de esa contagiosa alegría por conocer los límites, la misma con que los estrategas de los partidos se lanzan a probar hasta dónde es posible doblar un electorado sin romperlo. Lo que olvidan con frecuencia es que, al final, todo tiene su punto de quiebre, y que ese punto de quiebre nunca avisa antes de que suene 'crack'.