Un estudio ha monitorizado 50.000 respuestas de la IA de Google sobre consejos de salud
La fuente más consultada para ofrecer respuestas era de la propia Google
La propia IA de Google advierte en todas sus respuestas que Gemini puede cometer errores y que deberías verificar sus respuestas, pero eso no ha impedido que casi el 70% de los españoles ya utilicen soluciones similares para realizar consultas sobre su salud. A nivel global, desde OpenAI aseguraban que más de 40 millones de personas utilizan ChatGPT para consejos médicos. Sin importar la herramienta, es un grave error.
Pese a que tendemos a pensar que las fuentes consultadas por la IA de Google acudirán a informes médicos para darnos la respuesta más certera posible, que el propio sistema te invite a consultar cualquier dolencia con un experto ya debería levantar alguna alarma sobre lo errado de tu presunción. Según un estudio reciente, la fuente más consultada para sus respuestas suelen ser plataformas propias como YouTube.
¿De dónde saca la IA de Google sus consejos de salud?
Tal y como recogía el estudio alemán de SE Ranking, sólo el 34% de las respuestas procedían de fuentes médicas fiables, desde instituciones gubernamentales hasta informes académicos, mientras que el 66% restante acudía a fuentes generales o de fuentes no necesariamente expertas. De todas ellas, YouTube copaba la lista de fuente más consultada con un 4,43% de los casos.
Las citas extraídas de la plataforma de vídeo eran tres veces más altas que las de plataformas médicas alemanas como NetDoktor, y hasta dos veces más que los Manuales MSD que utilizan médicos y farmacéuticos para sus consultas. "Esto importa porque YouTube no es una editorial médica. Es una plataforma de vídeo de propósito general", dicen en relación a la consulta de más de 50.000 respuestas de la plataforma.
"Cualquiera puede subir contenido allí (por ejemplo, médicos certificados, canales hospitalarios, pero también influencers de bienestar, coaches de vida y creadores sin formación médica alguna). Desde el punto de vista de la IA, todo este contenido entra en el mismo saco".
La respuesta de Google pasa por apuntar que el estudio ignora el hecho de que buena parte de las autoridades y expertos también tienen presencia en YouTube, y que en la plataforma hay una gran cantidad de profesionales con licencia médica que crean contenido. El estudio cita, en cualquier caso, que los vídeos proporcionados son sólo una pequeña muestra de todo lo que ofrece la IA a la hora de tomar información.
Tal y como afirman desde Google, el uso de fuentes expertas invalida el estudio. "La implicación de que los Resúmenes de IA proporcionan información poco fiable queda refutada por los propios datos del informe, que muestran que los dominios más citados en Resúmenes de IA son sitios web de buena reputación. Y por lo que hemos visto en los resultados publicados, AI Overviews cita contenido experto de YouTube procedente de hospitales y clínicas".
Imagen | Tomomix en Midjourney
En 3DJuegos | Hace 162 años un granjero de ovejas predijo los peligros de la IA. Gracias a él nació la ciencia ficción moderna
En 3DJuegos | Un grupo de exdesarrolladores de Google logra lo imposible, usar IA para que un juego sea más divertido y no más barato
Ver todos los comentarios en https://www.3djuegos.com
VER 0 Comentario