Abelardo González
Editor - TechEl auge de ChatGPT ha provocado que su presencia en las aulas se multiplique de forma exponencial en los últimos años. De hecho, no solo los alumnos están salpicados por historias relacionadas con la herramienta de OpenAI, sino que los propios profesores han empezado a utilizar el bot conversacional para confeccionar exámenes. Sin embargo, en esta ocasión ChatGPT no es noticia por lo que hace dentro del aula, sino por las consecuencias que existen por su uso indiscriminado fuera de las mismas.
Como señala Ars Technica, un recién graduado de Derecho ha sido despedido de forma fulminante por utilizar ChatGPT para redactar un escrito legal lleno de errores y citas falsas. Al descubrirse el pastel, la corte de Utah ordenó sanciones por incluir la primera cita falsa hallada en ese estado, una situación generada por el uso erróneo de la inteligencia artificial. Así, el escrito no solo contenía casos mal citados, sino que al menos uno de ellos era inventado.
Las consecuencias de utilizar ChatGPT
Según revela la noticia original, el bufete se disculpó y aclaró que el graduado era un auxiliar legal no licenciado, argumentando también que no llegó a avisar del uso de la IA. Hasta entonces, la compañía no tenía establecida ninguna política interna sobre el uso de la inteligencia artificial, pero decidieron modificar esta situación a raíz del incidente. De esta forma, ChatGPT vuelve a ser el protagonista de la existencia de testimonios falsos en juzgados, un aspecto que ya ha provocado más de un dolor de cabeza a las personas implicadas en este campo.
Bednar, el abogado firmante del escrito, no verificó las citas legales y el error creció aún más. Como sanción, no solo tendrá que pagar los honorarios de la parte contraria, sino que también se verá obligado a donar 1.000 euros a una ONG de ayuda legal: la organización "And Justice For All". Esta, desde hace años, apoya el uso responsable de los modelos de inteligencia artificial, pero exige que exista supervisión y precisión en los documentos legales.
A raíz de toda la polémica generada, la corte advirtió sobre los riesgos que conlleva confiar en una IA sin verificación, dado que esta puede generar alucinaciones legales si no se corrigen a tiempo. Así, tanto profesores como instituciones están alentando a sus alumnos o trabajadores que no confíen de forma ciega en herramientas como ChatGPT. Sin embargo, cada semana nos topamos con un nuevo caso polémico protagonizado por la IA, ya que muchos no dedican el tiempo suficiente a investigar la veracidad de la información que esta comparte.
Imagen principal de 3DJuegos
En 3DJuegos | Hollywood ya está utilizando la IA, pero no quiere que lo sepas