Alberto Moral
Editor - GuíasLa competencia entre los modelos de lenguaje es algo que cada día nos deja algun hecho curioso, a la vez que nos recuerda que la pugna por ver cuál de las tres grande se lleva el gato el agua es un tema que casi nadie puede ignorar. Aunque Google Gemini o ChatGPT sean los modelos más extendidos, Claude está empezando a ganarles mucho terreno desde que hace poco estrenó su nueva aplicación Dispatch.
Básicamente, es un sistema que permite manejar mediante Claude Cowork nuestro ordenador, con la particularidad de que podemos mandarle prompts con nuestro móvil para que realice casi de todo: desde el manejo de una base de datos de forma automatizada hasta gestionar parte del sistema operativo. No es un sistema exento de fallos, como con cualquier modelo de lenguaje, pero por lo menos es uno de los más seguros ya que esta IA es cuidadosa y pide siempre autorización hasta para realizar las tareas más simples y seguras.
Pero lo que le ha ocurrido a un usuario en X es un recordatorio gracioso sobre lo "interpretativas" que pueden ser estas herramientas: estaba dejando que Claude llevara su partida de Minecraft, cuando de repente, en su afán por cumplir con las ordenes recibidas y en jugar al juego, ahogo al personaje.
¿La IA que creyó que podía caminar sobre las aguas en Minecraft?
El usuario en cuestión es @JasonBotterill, y tal y como publica en su cuenta de la Red Social X, estaba experimentando con Claude Cowork y una partida al juego de Mojang. Parecía que todo iba bien hasta que le pidió que fuese a cortar algunos trozos de leña por él.
Claude le respondió que en efecto veía algunos árboles a la derecha del cuerpo de agua en el que se hallaba el personaje, incluso fue capaz de desactivar el menú de pausa que estaba encendido mientras el usuario JB le daba las instrucciones; animosamente dijo que iba a intentarlo y... se ahogó. La IA simplemente fue derechita a la mayor concentración de madera que "vio" en el juego, pero no tuvo en cuenta el cuerpo de agua que tenía en frente. Al no haberle dado ningún prompt más que el de ir a cortar madera, Claude no supo cómo reaccionar al hecho de que el personaje se sumergiese en el agua.
El momento antes de la tragedia. - Imagen: @JasonBotterill (vía X)
Por lo menos, JB reconoce que es una "respuesta totalmente esperada" considerando el prompt que le proporcionó a Claude (como algunos otros usuarios señalan en la conversación), era de lo más simple y no incluyo una "jerarquía" de prioridades; algo que en juegos como Minecraft es vital y siempre debería estar la siguiente arriba del todo: tratar de no morir.
Queda recorrido, pero Claude apunta maneras
Más allá de la anécdota, el despliegue de Claude Dispatch junto a Cowork marca un punto de inflexión en la interacción directa con el sistema operativo. A diferencia de otros modelos que operan en entornos cerrados, esta herramienta destaca por su capacidad de interpretación visual de la interfaz y la ejecución de flujos de trabajo multietapa, permitiendo desde la gestión de archivos hasta la automatización de procesos en software de terceros.
Sin embargo, lo ocurrido en Minecraft pone de relieve el gran reto técnico actual: la jerarquización de prioridades. Aunque el sistema de Anthropic sobresale por su enfoque en la seguridad —solicitando permisos explícitos para acciones críticas—, todavía opera bajo una lógica de cumplimiento estricto del prompt. Es un recordatorio de que, por muy capaz que sea la IA navegando por bases de datos o entornos 3D, la supervisión humana sigue siendo el filtro indispensable para evitar que la eficiencia técnica choque con la lógica más básica.
En 3DJuegos |
En 3DJuegos |
Ver 0 comentarios