Ha pasado poco más de un mes desde la presentación en sociedad de Sora, el nuevo modelo de inteligencia artificial de OpenAI. A diferencia de otras herramientas como ChatGPT o DALL-E capaces de generar texto e imágenes respectivamente a través de instrucciones escritas, Sora va un paso más allá al dar la oportunidad de crear vídeos en cuestión de segundos. Por ello, la propia OpenAI ahondó en un debate que no ha dejado de crecer desde su presentación en sociedad: ¿hasta qué punto es seguro lanzar una herramienta así?
Mira Muratti, Directora de Tecnología de OpenAI, habló recientemente sobre la posibilidad de crear desnudos y escenas explícitas con Sora. En dichas declaraciones, recogidas por el portal Gizmodo en una reciente publicación, Muratti aseguró que en estos momentos no es posible descartar la posibilidad de aceptar desnudos entre los límites de sus creaciones. Recordemos que OpenAI y otras firmas implicadas con la IA como Google y Microsoft han decidido colocar límites a sus inteligencias artificiales, si bien los usuarios más ingeniosos siempre encuentran la forma de saltarse las normas.
Un auge de la pornografía sin precedentes
Así, Muratti señala que están trabajando con artistas y creadores de contenido de distintos campos para determinar “qué es útil” y, al mismo tiempo, “el nivel de flexibilidad que debe proporcionar la herramienta”. Sin embargo, instituciones a favor de regularizar la inteligencia artificial como AI Policy Institute (AIPI), en palabras de su creador Daniel Colson, aseguran que “para bien o para mal, la realidad es que probablemente el 90% de la demanda de vídeo generado por IA sea pornográfica”.
Por tanto, si Sora permite desnudos, los expertos consideran que nos encaminamos hacia un escenario tan siniestro como peligroso. Por desgracia, las posibilidades de Sora dan a los interesados la oportunidad de crear cualquier escena que imaginen siempre que sepan cómo describirla. Y, por ello, la AIPI y otras organizaciones han mostrado su preocupación por el auge de deepfakes, suplantación, extorsión sexual y otro tipo de situaciones dantescas relacionadas con las posibles creaciones que puedan realizarse con Sora.
En 3DJuegos | NVIDIA presenta sus nuevas tarjetas gráficas. Costarán más de 30.000 euros y serán perfectas para entrenar modelos IA
Imagen principal de OpenAI
Ver 3 comentarios