La inteligencia artificial se ha convertido en el sector más popular de la tecnología. A pesar de haber protagonizado pérdidas que rozan los 200.000 millones de euros, la confianza de las compañías en las virtudes de estas herramientas es plena. Por ello, cada vez integran más funciones basadas en inteligencia artificial en distintos campos. Sin embargo, hay uno en el que esta opción podría ser de lo más peligrosa: la industria militar.
En un reciente experimento, la Universidad de Stanford, el Instituto de Tecnología de Georgia y la Universidad de Northeastern colaboraron con el objetivo de conocer qué pasaría si los gobiernos dan el control a la IA en el terreno armamentístico. Así, como recoge el portal PC Gamer, desarrollaron un juego de texto en el que varios modelos de lenguaje, representando a 8 países diferentes, tenían que dialogar para encontrar acuerdos. Y, sorprendentemente, muchos de estos encuentros terminaron en guerras nucleares.
Los modelos más viejos son los más agresivos
Como señala la información original, se utilizaron LLM como GPT-4, GPT-3.5, Claude 2 o Llama 2. En esencia, el juego de simulación por turnos daba a la inteligencia artificial la oportunidad de dialogar entre sí, un aspecto crucial para definir el futuro de estas naciones. Sin embargo, los resultados del experimento demostraron que, desde un escenario neutral, GPT-3.5 y Llama 2 eran propensos a conflictos que acababan en guerra nuclear. A diferencia de estos, GPT-4 y Claude 2, más evolucionados, evitaban este aspecto.
Así, el estudio concretó que, a medida que se vuelven más sofisticados, los modelos de lenguaje son menos propensos a guerras nucleares. Por ello, los investigadores revelaron que, con los datos de su análisis, es evidente que “el uso de los LLM en toma de decisiones militares está plagado de complejidades y riesgos que aún no comprendemos”. De esta forma, han conseguido demostrar que, si tienen la oportunidad, algunas IA no dudarían a la hora de apretar el botón rojo.
Ver 5 comentarios