Sam Altman, CEO de OpenAI, reconoce su error y comparte sus principales miedos relacionados con la evolución de la IA
ChatGPT se ha convertido en el aliado perfecto de cientos de millones de usuarios de todos los rincones del planeta, ya que el número de personas que utilizan la herramienta de OpenAI no ha dejado de crecer en los últimos años. Como consecuencia directa de ello, una parte importante del debate que rodea al servicio está centrado en el excesivo consumo de ChatGPT y los movimientos de OpenAI para reducir el mismo. Sin embargo, la pérdida de la privacidad ha tomado su lugar a raíz de una serie de filtraciones que, en resumidas cuentas, han provocado que los chats personales de muchos usuarios estaban en los resultados de búsqueda de Google.
Como señala Ars Technica, muchas conversaciones privadas con ChatGPT aparecieron de forma pública en Google. El problema, descubierto por la compañía Fast Company, reveló la presencia de miles de conversaciones en Google, señalando que algunas de ellas incluían detalles personales sensibles. Así, aunque los chats no mostraban nombres, sí incluían descripciones específicas de relaciones personales, un aspecto que podría permitir la identificación de usuarios. Por ello, todas las dudas apuntaron en la misma dirección: ¿cómo ha podido pasar esto?
La culpa es de la nueva opción de OpenAI
Como indica la noticia original, los chats filtrados provienen de usuarios que activaron una opción para compartir, momento en el que marcaron una casilla que indica que los chats pueden ser públicos. Sorprendentemente, esta opción contaba con un texto explicativo tan pequeño como difícil de ver, razón por la que muchos aceptaron esta opción sin llegar a darse cuenta del alcance. Como consecuencia directa de ello, OpenAI inició su defensa alegando la claridad del aviso, pero más tarde reculó al reconocer que la función conducía a errores.
Tras esto, la firma decidió eliminar la opción, pero algunos usuarios ya habían sido afectados por la misma. Al parecer, algunas conversaciones compartidas incluían información centrada en salud mental, drogas, vida sexual y traumas, una serie de situaciones que aumentaron las alarmas tanto de los usuarios como de la compañía. Por ello, OpenAI prometió eliminar el contenido indexado por Google y otros motores de búsqueda, un movimiento que pudo certificar gracias al uso de herramientas proporcionadas por la propia Google.
Estos últimos, a raíz de toda la polémica ocasionada, han querido salvaguardar su posición al aclarar que OpenAI es la responsable de la filtración del contenido explícito. Por desgracia para la compañía de Sam Altman, muchos expertos señalan que esta es una práctica irresponsable que "trata a los usuarios como conejillos de indias", un aspecto al que se debe sumar la falta de confianza de todos aquellos afectados de cara a seguir utilizando ChatGPT. Así, OpenAI declaró que debe recuperar la confianza del público e hizo hincapié en el valor que le dan tanto a la seguridad como a la privacidad, pero se ha encontrado con otro contratiempo: los problemas con la persuasión personalizada de la IA.
Sam Altman teme el impacto de la inteligencia artificial
En una noticia relacionada, JeuxVideo revela una de las principales preocupaciones de Sam Altman: el mayor peligro de la IA no es físico, sino psicológico. Hace unos meses, la propia OpenAI expresó su preocupación en torno a un modelo más convincente de lo esperado, pero la situación ha ido a más. Según recoge el portal francés, la preocupación de Altman está relacionada con la persuasión interactiva individualizada, una amenaza que se centra en el poder de la IA para manipular creencias y comportamientos adaptándose en tiempo real a cada persona gracias al uso de sus datos.
Para Altman, uno de los escenarios más peligrosos se viviría si la IA descubre nuevas técnicas de manipulación más eficaces que las humanas, un aspecto que le llevaría a explorar vulnerabilidades psicológicas. Así, a diferencia de la propaganda masiva, se trata de una técnica de manipulación quirúrgica automatizada, ya que estaría dirigida de forma personalizada. Por ende, si afectara a campos como la política, Altman cree que podría destruir el debate democrático, dado que cada persona viviría en una burbuja informativa manipulada.
De momento, OpenAI ha tomado medidas prohibiendo el uso de IA para campañas políticas, pero parece que no es suficiente. A su vez, también ha empezado a colaborar con organizaciones oficiales (véase, por ejemplo, la NASS de Estados Unidos) para alinear esfuerzos en la lucha contra la desinformación mientras integra la norma C2PA (una tecnología que verifica la autenticidad del contenido digital a través de metadatos cifrados). Para ello, cuenta con el respaldo de grandes empresas como Microsoft, Adobe, Intel y Sony para permitir a todos los interesados verificar el origen de imágenes y vídeos.
Sorprendentemente, la postura de Altman revela uno de los principales peligros de la inteligencia artificial, una situación contradictoria si tenemos en cuenta que debería estar interesado en ensalzar el valor de la IA. Por consiguiente, el propio Altman considera que el mayor obstáculo no es técnico, sino social y educativo, ya que la IA evoluciona más rápido que la regulación y la educación pública. Por ello, señaló que su mayor temor no es que la inteligencia artificial sea demasiado inteligente, sino que la humanidad no sea capaz de adaptarse a sus propias creaciones.
Imagen principal de 3DJuegos
En 3DJuegos | Mark Zuckerberg defiende el dispositivo que cambiará a los seres humanos: "Los que no lo usen sufrirán desventajas cognitivas"
En 3DJuegos | "Me encanta ayudar": Reemplazan a una terapeuta por su clon de IA y no puede estar más contenta
Ver todos los comentarios en https://www.3djuegos.com
VER 0 Comentario