Los creadores de ChatGPT podrían permitir la creación de pornografía, pero tienen claro dónde quieren marcar sus límites

OpenAI está de rabiosa actualidad después de la presentación de GPT-4o, el siguiente paso de ChatGPT para acercar la inteligencia artificial a las capacidades humanas. Después de que Sam Altman (CEO de la compañía) prometiese que veríamos “algo mágico”, el evento cumplió con las expectativas y dejó a muchos asombrados con las capacidades del bot de OpenAI. No obstante, un poco antes de que esta presentación tuviera lugar, la compañía habló públicamente de una posible renovación en sus políticas que puede dar lugar a situaciones de lo más peligrosas.

En 3D Juegos

¿Debo pagar para crear una página web o es gratis? Te contamos qué es un host y por qué es mejor una opción de pago que una gratuita

Como recoge el portal TechSpot en una reciente publicación, OpenAI estudia la posibilidad de permitir a los usuarios crear pornografía con inteligencia artificial. En la actualidad, las empresas de IA están sujetas a filtros para evitar que se cree esta clase de contenido. No obstante, la firma norteamericana se está planteando llevar a cabo una revisión en sus términos y, con ella, brindar a los usuarios la capacidad de crear contenido erótico de manera responsable con herramientas que utilicen la inteligencia artificial generativa.

Los deepfakes son la principal preocupación

Sin embargo, esta posibilidad da pie a la expansión de un problema que ya ha afectado a celebridades de la talla de Taylor Swift: los deepfakes no autorizados. Con las herramientas basadas en inteligencia artificial, multitud de usuarios crearon contenido pornográfico de la artista y este se propagó por las redes sociales sin control. Por ello, Joanne Jang, actual líder del modelo de OpenAI, señaló que tendrán mucho cuidado con esta decisión, ya que no quieren que las personas violen los derechos de otras personas.

Así, Jang se refirió a la posibilidad de retirar sus filtros y abordó qué tipo de contenido se podría crear: “depende de tu definición de pornografía”. No obstante, se mostró tajante con los deepfakes, ya que aseguró que bajo ningún concepto darán la posibilidad de crear este tipo de contenido. Sea como fuere, la existencia de esta opción provoca un temor generalizado, ya que retirar estos filtros y ofrecer una IA con tanta libertad va en contra de producir un modelo de lenguaje seguro y beneficioso.

En 3DJuegos | La IA es la principal aliada de Samsung y el Galaxy S25 contará con una función exclusiva para la duración de la batería

En 3DJuegos | Las empresas se vuelven locas con la IA y los sueldos de varios millones de euros son la nueva norma del sector tecnológico

Imagen principal de Danny G (Unsplash)