Jacob Coxon, asustado tras renunciar en OpenAI y Anthropic por miedo a lo que están desarrollando: "Podría matarnos a todos para finales de la década"

Si trabajas en el mundo del desarrollo, pocos puestos debe haber más ilusionantes y mejor pagados que los relativos a la construcción de la IA. Más aún con un perfil como el de Jacob Coxon, que aparece como uno de los contribuidores clave de ChatGPT-4o y es lo suficientemente diestro como para ganarse un puesto en Anthropic poco después. Sin embargo, lo mismo que le empujó a abandonar OpenAI ha provocado ahora la misma situación con los creadores de Claude. 

Su abandono viene acompañado además de un grito al aire, una advertencia en la que apunta que las grandes compañías de inteligencia artificial están avanzando sin control hacia un sistema capaz de mejorarse a sí mismo sin tener la más absoluta idea de cómo controlarlo. Una superinteligencia que "las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década".

Llevamos años tomándonos a risa el apocalipsis de la IA, pero ya no hace gracia

Basta con asomarse a uno de aquellos vídeos de Will Smith comiendo pasta boloñesa en formato pesadilla para entender hasta qué punto estamos avanzando a una velocidad absolutamente demencial. Pero si esa es nuestra perspectiva respecto a la IA, que en apenas un par de años ha pasado de ser una cosa del futuro de cuatro frikis a que tu madre te enseñe fotos de cómo va a renovar el salón, de puertas para adentro es aún peor. 

En un extenso hilo publicado en Twitter, Jacob Coxon defiende que ha renunciado a su puesto de Anthropic tras ver que lo mismo que le había empujado a salir de OpenAI también ocurre en compañías aparentemente más comprometidas con un uso regulado de la IA: 

"Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas".

El teletrabajo privó a la Generación Z de algo que sus padres aprendieron sin darse cuenta. Ahora el 80% reconoce tener un problema

Más que creer, sabe a ciencia cierta que esta tecnología pronto podrá hackear absolutamente cualquier sistema, revolucionar campos de la ciencia y la medicina de la noche a la mañana, o incluso acumular recursos y adquirir poder real. Asegura que, lejos de ser un truco de marketing para arrastrar aún a más incrédulos a la financiación de la IA, muchos ejecutivos moderan su lenguaje para sonar sensatos cuando, en privado, están terriblemente asustados. 

A la pregunta de, si todo esto es cierto, por qué nadie lo frena, la respuesta es que: "están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo". Si no lo hace Anthropic, lo hará OpenAI, y de la misma forma, si no lo hace Estados Unidos, terminará haciéndolo China. 

Otros compañeros le dan la razón

La diferencia entre ser algún enajenado y estar escribiendo en piedra nuestro futuro la ponen sobre la mesa Evan Hubinger y Samuel Marks, otros dos investigadores de Anthropic que, aún trabajando para la empresa, reconocen ahora públicamente que la posibilidad de que la IA termine provocando una extinción de la humanidad es ahora superior al 10%. 

Pese a que nada de esto confirma que una inteligencia artificial actual o futura nos encamine hacia la extinción, lo que sí está sobre la mesa sin duda alguna es que estamos desarrollando una superinteligencia para la que no disponemos ningún método de control. 

Un sistema que puede mejorarse a sí mismo a una velocidad impensable para el desarrollo humano es hoy un sueño. Un futuro idealista para el mundo del desarrollo de la misma forma que ver a Will Smith comiendo pasta sin dar susto al miedo era un sueño hace un par de años. 

El ejército le dijo que nunca podría ser piloto militar. Décadas después terminó pilotando para Top Gun gracias a su empresa millonaria

Jacob Coxon llama a frenar el desarrollo hasta que haya unas condiciones idóneas para poder controlar a esa superinteligencia y, como sabe que las empresas no van a frenar en su empeño porque hay mucho en juego, y los gobiernos están tan perdidos que no son conscientes de la que se nos viene encima, acude a quienes, como él, lo están construyendo.

"Si eres investigador de laboratorio, te insto a que consideres cómo serán realmente los próximos años. ¿Quieres empujar una IA superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque "va a ocurrir de todos modos", o aprovechar este momento para pedir condiciones diferentes?"

En 3DJuegos | Esta empresa lleva más de 100 años sin despedir a absolutamente nadie. Tras esquivar la crisis de 2008 o la pandemia, ahora se enfrenta a la IA

En 3DJuegos | El CERN tenía dos opciones: cambiar de sistema operativo o reemplazar más de mil ordenadores. Eligió la vía más lógica