Otro salto más en la Inteligencia Artificial. Se cumplen unas horas desde que OpenAI, los creadores de Chat GPT, han presentado al planeta su nueva herramienta: Sora. A diferencia del modelo de lenguaje, en esta ocasión estamos frente a una IA generativa de vídeo que nos permite crear metraje con un simple frase descriptiva de lo que necesitamos.
Los ejemplos ya están disponibles en redes sociales, y son tan realistas que asustan. Vídeos de un perro jugando en la nieve, una pareja paseando por Tokio o incluso metraje supuestamente histórico imposible de existir, como mamuts en la nieve o buscadores de oro en California a mediados del siglo XIX. Un avance técnico tan impresionante como ya complicado de diferenciar a simple vista de la realidad.
Por ello, OpenAI ha lanzado un texto en el que expresa sus conclusiones, propuestas y proyectos para ayudar a mantener la seguridad con Sora. "Tomaremos varias medidas de seguridad importantes antes de que Sora esté disponible en los productos de OpenAI. Estamos trabajando con expertos en áreas como la desinformación, los contenidos que incitan al odio y los prejuicios que pondrán a prueba el modelo de forma adversa.", explican.
Además, afirman estar creando herramientas como un detector que te dirá si un vídeo se ha generado con Sora, y planean añadir C2PA metadata (la "etiqueta" que lleva el vídeo adherida) si el modelo acaba llegando al público. También añaden que se aprovecharán las herramientas de seguridad ya existentes en DallE 3, la herramienta generativa de imágenes.
Click para ir al mensaje.
El trabajo de moderación también se hará antes de mostrar el resultado a quien introduce el prompt: "Por ejemplo, una vez sea parte de un producto OpenAI, nuestro clasificador de texto comprobará y rechazará las entradas de texto que infrinjan nuestras políticas de uso, como las que soliciten violencia extrema, contenido sexual, imágenes que inciten al odio, imágenes de famosos o la propiedad intelectual de terceros. También hemos desarrollado robustos clasificadores de imágenes que se utilizan para revisar los fotogramas de cada vídeo generado para ayudar a garantizar que se adhiere a nuestras políticas de uso, antes de que se muestre al usuario."
Para terminar, afirman que se pondrán en contacto con los legisladores, educadores y artistas del mundo para escuchar sus preocupaciones e identificar usos positivos para la nueva tecnología. Eso sí, cierran el comunicado con un mensaje concreto: "A pesar de las numerosas investigaciones y pruebas realizadas, no podemos predecir todos los usos beneficiosos que se harán de nuestra tecnología, ni todos los abusos que se cometerán."
Ver 0 comentarios