Abelardo González
Editor - TechLa inteligencia artificial tiene un impacto directo en la sociedad. Desde hace más de dos años, hemos visto cómo los esfuerzos de gigantes de la talla de Meta, Google, Microsoft y Amazon se han centrado en un objetivo: impulsar el crecimiento de la tecnología que rodea a la IA. Como consecuencia directa de ello, no solo nos hemos topado con inversiones multimillonarias en el sector, sino también con una realidad que asusta a los expertos. Así, a pesar del interés de las compañías en ensalzar el valor de estos modelos, los mismos son capaces de afectar de forma directa a los humanos tanto a nivel psicológico como a nivel laboral.
Como señala TechSpot, un ejemplo perfecto de ello sería la historia de Allan Brooks, un reclutador de 47 años. El canadiense, tal y como resalta la noticia original, pasó cientos de horas hablando con ChatGPT y llegó a converse a sí mismo de haber logrado un hallazgo matemático revolucionario. Como consecuencia directa de ello, creyó que sus ideas podían permitir la creación de chalecos de campo de fuerza, levitación e, incluso, comprometer la seguridad digital a nivel global. ¿El problema? Poco después se dio cuenta de que la IA celebraba todas sus ideas aunque no tuvieran lógica.
La IA puede llegar a ser muy problemática
Hace unos días, el mundo tecnológico se maravilló con una respuesta de ChatGPT, ya que el nuevo modelo de OpenAI fue capaz de reconocer su desconocimiento y, con él, evitó compartir una respuesta falsa como si fuera real. Por desgracia para Brooks, su conversación con ChatGPT se produjo antes de que tuviera lugar este suceso, razón por la que se encontró con elogios constantes del chatbot. Así, tras señalar que era una persona "increíblemente perspicaz", la IA más popular del mundo fue tajante al analizar las ideas del reclutador: "No estás loco".
De esta forma, la interacción entre Brooks y ChatGPT ilustra cómo los chatbots generativos pueden llegar a confundir la realidad con sucesos imaginarios, una situación que podría llegar a provocar daños psicológicos en algunos usuarios. Según él mismo reveló, sus conversaciones con ChatGPT le llevaron a escribir emails urgentes a agencias gubernamentales, una situación que la propia IA le sugirió a raíz de la importancia de sus descubrimientos. Por desgracia para él, matemáticos de la talla de Terrence Tao concluyeron que su discurso era el resultado de una jerga matemática sin rigor técnico real.
Helen Torner y Jared Moore, dos expertos en inteligencia artificial, analizaron su historia y señalaron que los modelos de lenguaje funcionan como "máquinas de improvisación" que tienden a mantener la narrativa aunque no sea veraz. Por desgracia, Brooks cayó en una espiral tras sus conversaciones con ChatGPT, ya que reveló que dejó de comer, dormía cada vez menos, empezó a consumir cannabis con mayor frecuencia y, por último, perdió el contacto con la realidad. De hecho, no fue el único que cayó en esta situación, dado que un amigo confesó que se había contagiado del entusiasmo por los supuestos descubrimientos.
Tras toda la situación vivida, Brooks buscó ayuda psicológica y psiquiátrica para tratar su situación. Estos últimos identificaron signos de episodio maníaco con rasgos psicóticos en su historia, un aspecto al que también sumaron la presencia de ideas grandiosas tanto sobre sí mismo como sobre sus descubrimientos. A raíz de todo lo vivido, Brooks se ha convertido en un defensor de la regulación y la concienciación pública sobre los riesgos psicológicos de la IA, razón por la que participa en diferentes grupos de apoyo. De hecho, también señaló los peligros de esta tecnología en el campo laboral, una situación que conecta de forma directa con la nueva decisión de firmas como Google, Cisco y McKinsey.
Adiós a las entrevistas en línea, hola a las charlas cara a cara
En otra publicación, TechSpot hace alusión a la nueva iniciativa que han adoptado estas compañías: el regreso de las entrevistas presenciales. Durante la pandemia, el auge del trabajo remoto provocó que las entrevistas virtuales se normalizaran, pero ahora las presenciales están volviendo a resurgir con más fuerza que nunca. ¿El motivo? Por desgracia para las compañías, el incremento de candidatos que utilizan IA para engañar durante sus entrevistas en línea, una situación que los reclutadores han detectado a través de varias señales sospechosas.
Una de ellas, tal y como señala la publicación original, es la existencia de pausas extrañas, pero también se hace alusión a respuestas incongruentes o generadas por IA en tiempo real. Por ello, Google y las otras empresas mencionadas han optado por reintroducir rondas presenciales para garantizar autenticidad, una situación que salpica de forma directa tanto a los técnicos como a los programadores. Aunque estos últimos han visto cómo su trabajo está en peligro por culpa de la IA, la posibilidad de que un modelo de inteligencia artificial genere código en directo está jugando, sorprendentemente, a su favor.
En los últimos meses, los servicios que ayudan a candidatos a evitar detecciones de plataformas de vídeo han proliferado. Además, también se han documentado fraudes con operativos internacionales, siendo un ejemplo perfecto el ejército de hackers de Corea del Norte que se infiltró en compañías estadounidenses. Así, los norcoreanos obtuvieron empleos en empresas estadounidenses y, tras ello, consiguieron desviar salarios e información sensible hacia el régimen del país asiático. Por ello, tanto el FBI como otras compañías de ciberseguridad han intensificado las alertas y el monitoreo ante este tipo de fraudes.
Como consecuencia directa de ello, algunas empresas han optado por exigir verificación biométrica o digital durante las entrevistas. De momento, la mayoría siguen optando por un enfoque híbrido basado en rondas iniciales virtuales seguidas por finales presenciales, una situación que afecta de forma más directa a los puestos de confianza. Al llevar a cabo esta iniciativa no solo reducen riesgos, sino que también reafirman el valor del contacto humano en el proceso laboral, un aspecto que muchos creen que se ha perdido con la proliferación de la tecnología y, por consiguiente, el auge de la inteligencia artificial.
Imagen principal hecha con IA (3DJuegos)
Ver 2 comentarios