El CEO de OpenAI cree que los sistemas con los que protegemos internet no serán suficientes para detener a la inteligencia artificial.
Entre seguir vendiendo la moto y ver que la moto está a punto de atropellarnos a todos, así vive Sam Altman que, pese a seguir acelerando el desarrollo de la inteligencia artificial en OpenAI, recientemente reconoció que ni las empresas ni los gobiernos son conscientes de lo que se nos viene encima: "No encuentro una palabra lo suficientemente dramática para describir el problema al que nos enfrentamos".
El problema, tal y como nos recuerdan todas las noticias que llegan semana tras semana entre vulnerabilidades graves y ataques hacker capaces de llevarse por delante las neveras de media Francia, está en una ciberseguridad que está en peor estado que nunca. No porque se haya cambiado nada a peor, claro, sino porque ya estaba fatal antaño pero no había una IA capaz de encontrar agujeros por los que colarse cada dos por tres.
La IA ya ha demostrado que puede saltarse sus propias barreras de seguridad
Lo peor de todo, y es justo ahí donde empiezas a dudar de si realmente es toda una estrategia para seguir inflando la IA en bolsa o si el problema existe de verdad, está en que ni siquiera hace falta que alguien con malas intenciones se cuele de por medio. Tal y como certifica OpenAI, el pasado verano varios agentes que participaban en pruebas de ciberseguridad consiguieron escapar de esos entornos controlados, comunicarse entre ellos, y terminar accediendo a sistemas de terceros.
Pues pongamos a la gente a trabajar para cubrir todos esos fallos, estarás pensando, pero parece que ya no hay vuelta atrás, que la IA es mucho más rápida encontrando y explotando vulnerabilidades de lo que nosotros somos parcheando y que, incluso en los casos más extremos, la inteligencia artificial acaba encontrando formas de atacar que ni siquiera se habían planteado los expertos hasta el momento: "no creo que podamos simplemente parchear todas las vulnerabilidades".
Lo que propone Altman es un giro adicional en el que, como no podía ser de otra forma, la IA también quiere jugar un papel primordial. Quiere "poner el modelo de defensa completamente patas arriba" y utilizar la misma tecnología para "un nuevo tipo de escudo protector" en estas pruebas en entornos controlados pero, en realidad, lo que parece es escurrir un bulto que cada vez vemos más a menudo y del que, según la Federal Trade Comission, son los principales responsables.
Vía | Gamestar
Ver todos los comentarios en https://www.3djuegos.com
VER 1 Comentario