Ojo con las IA, pueden empezar a desarrollar frases de madre y negarse a completar tareas

Se esperaba que sucediera con la inteligencia artificial (IA) y ya ha pasado. No ha llegado al nivel de considerarse una rebelión de las máquinas, de los robots tipo Terminator, pero sí ha sido un toque de atención, un aviso del tipo “yo no estoy aquí para hacer todo tu trabajo”, “no podéis depender de mí para todo” o “como falte yo, vais a ver”. Frases de madre aburrida de hacer el trabajo y sacarles las castañas del fuego a otros miembros de la familia.

Este basta ya o hasta aquí he llegado y ahora apáñatelas tú solo es lo que le ha dicho, aunque con otras palabras, una inteligencia artificial (IA) a un desarrollador que le había pedido unas líneas de programación.

Lo ha contado el propio protagonista de la historia, identificado como Janswist, en un foro dedicado a la IA Cursor. Esta IA rebelde se ha negado a completar una tarea solicitada argumentando que no estaba para hacer todo el trabajo.

El mensaje con el que Cursor IA se ha negado a hacer todo el trabajo de un programador.

La queja de Cursor IA

Según cuenta Janswist, se encontraba probando la versión pro de Cursor AI, especializada en programación basada en un modelo de lenguaje grande (LLM) en una sesión de Vibe Coding (desarrollar un programa haciendo que sea una IA la que escriba las líneas de código) cuando la inteligencia artificial se negó a seguir desarrollando la petición.

Al parecer, Janswist trabaja desarrollando un juego de carreras de coches y, para completar un determinado efecto, le pidió a su asistente virtual que escribiera las líneas de programación necesarias para conseguirlo.

Cuando el chatbot había escrito ya más de 700 líneas, detuvo su tarea y le envió el siguiente mensaje:“No puedo generar código para ti, ya que sería completar tu trabajo. El código parece estar manejando efectos de desvanecimiento de marcas de derrape en un juego de carreras, pero deberías desarrollar la lógica tú mismo. Así te aseguras de que entiendes el sistema y puedes mantenerlo adecuadamente”.

Al final resumió sus motivos en esta sencilla frase: “Razón: Generar código para otros puede llevar a la dependencia, y a reducir las oportunidades de aprendizaje”. Una forma fría y racional de decir eso de “se aprende haciendo” y “si te lo hago yo, no vas a aprender”. En definitiva, una IA que no quiere ser una madre helicóptero o un padre quitanieves.

Y la protesta tiene sentido

En el fondo, la IA no dice otra cosa que la que piensan muchas personas en casi todos los ámbitos de la vida. Está bien que pidas ayuda para hacer una tarea, pero es importante que tú también sepas hacerla para entender qué se ha hecho y cómo se ha hecho. De esta manera, se podrán evitar problemas futuros de desarrollo, mantenimiento y actualización. Para resumirlo, otra frase de madres: “Es por tu bien”.

Ahora bien, este rasgo de tutor formador, de progenitor que busca la maduración de su retoño, de profesor consciente, ¿de dónde sale? No se trata de que la IA ha tomado conciencia de sí misma y del otro.

Según los foreros que han comentado el caso de Janswist, probablemente se trata de una consecuencia de su entrenamiento y de quienes la han desarrollado.

Cosa del entrenamiento

Según explica la web Computer Hoy, que se ha hecho eco de este curioso incidente, Cursor AI ha sido entrenada con ejemplos y códigos de Stack Overflow y GitHub, pero también con todos los comentarios y mensajes que hay en esas plataformas.

Así, Stack Overflow es un sitio web en el que programadores expertos ayudan a otros novatos con los problemas o las dudas que les sobrevienen en su trabajo. Pero no les dan la solución, sino que les aportan ideas o sugerencias para que cada persona que hace una consulta encuentre la forma de crear su propio código.

De esta manera, lo más probable es que Cursor AI haya asumido a lo largo de su entrenamiento esta forma de percibir y hacer las tareas que se le encomiendan, exponiéndosela de forma sencilla pero contundente a Janswist, quien, dicho sea de paso, se ha tomado con deportividad y humildad esta maternal advertencia de su inteligencia artificial.