Sam Altman: "No encuentro una palabra lo suficientemente dramática para describir el problema al que nos enfrentamos"

Entre seguir vendiendo la moto y ver que la moto está a punto de atropellarnos a todos, así vive Sam Altman que, pese a seguir acelerando el desarrollo de la inteligencia artificial en OpenAI, recientemente reconoció que ni las empresas ni los gobiernos son conscientes de lo que se nos viene encima: "No encuentro una palabra lo suficientemente dramática para describir el problema al que nos enfrentamos".

El problema, tal y como nos recuerdan todas las noticias que llegan semana tras semana entre vulnerabilidades graves y ataques hacker capaces de llevarse por delante las neveras de media Francia, está en una ciberseguridad que está en peor estado que nunca. No porque se haya cambiado nada a peor, claro, sino porque ya estaba fatal antaño pero no había una IA capaz de encontrar agujeros por los que colarse cada dos por tres. 

La IA ya ha demostrado que puede saltarse sus propias barreras de seguridad

Lo peor de todo, y es justo ahí donde empiezas a dudar de si realmente es toda una estrategia para seguir inflando la IA en bolsa o si el problema existe de verdad, está en que ni siquiera hace falta que alguien con malas intenciones se cuele de por medio. Tal y como certifica OpenAI, el pasado verano varios agentes que participaban en pruebas de ciberseguridad consiguieron  escapar de esos entornos controlados, comunicarse entre ellos, y terminar accediendo a sistemas de terceros. 

Ya está en vigor: Europa cambia las normas y, a partir de ahora, obliga a los fabricantes de móviles a ofrecer reparaciones fuera de garantía y a precio reducido

Pues pongamos a la gente a trabajar para cubrir todos esos fallos, estarás pensando, pero parece que ya no hay vuelta atrás, que la IA es mucho más rápida encontrando y explotando vulnerabilidades de lo que nosotros somos parcheando y que, incluso en los casos más extremos, la inteligencia artificial acaba encontrando formas de atacar que ni siquiera se habían planteado los expertos hasta el momento: "no creo que podamos simplemente parchear todas las vulnerabilidades".

Lo que propone Altman es un giro adicional en el que, como no podía ser de otra forma, la IA también quiere jugar un papel primordial. Quiere "poner el modelo de defensa completamente patas arriba" y utilizar la misma tecnología para "un nuevo tipo de escudo protector" en estas pruebas en entornos controlados pero, en realidad, lo que parece es escurrir un bulto que cada vez vemos más a menudo y del que, según la Federal Trade Comission, son los principales responsables. 

Vía | Gamestar

En 3DJuegos | La IA más preocupante del mundo ya está en manos de 47 empresas: capaz de encontrar fallos de seguridad que llevan 30 años sin detectarse

En 3DJuegos | Jacob Coxon, asustado tras renunciar en OpenAI y Anthropic por miedo a lo que están desarrollando: "Podría matarnos a todos para finales de la década"