Un estudio demuestra que el entrenamiento vuelve a la IA racista. Salvo casos excepcionales, solo detecta síntomas de depresión en caucásicos

Según los resultados de un reciente estudio, la inteligencia artificial debe mejorar sus métodos de entrenamiento

Ia Racista
2 comentarios Facebook Twitter Flipboard E-mail
abelardo-gonzalez

Abelardo González

Editor - Tech
abelardo-gonzalez

Abelardo González

Editor - Tech

La inteligencia artificial es el sector tecnológico más popular del mundo. Sin embargo, su alcance y su potencial propicia que vivamos muchas situaciones que deben regularizarse, como el caso de los dos adolescentes detenidos por uso inapropiado de la IA. Y, dentro de dicha regularización, un estudio ha demostrado que debe existir más equidad a la hora de entrenar a los modelos de lenguaje, ya que estos tienden a ignorar los problemas de según qué personas por cuestiones de etnia, edad o sexo.

Como señala Reuters en una reciente publicación, un informe dirigido por Sharath Chandra Guntuku ha querido ahondar en las capacidades de la inteligencia artificial a la hora de detectar la depresión. Desde hace unos meses, muchas compañías insisten en integrar las bondades de esta tecnología en sus diagnósticos. Por ello, es imprescindible conocer su alcance y, según los resultados del estudio de Guntuku, la IA tiene problemas a la hora de diferenciar los problemas de la población afroamericana.

La única solución está en el entrenamiento

Al parecer, los modelos de inteligencia artificial son tres veces menos predictivos a la hora de detectar síntomas relacionados con la depresión, la tristeza o la ansiedad si se trata de afroamericanos. Para el estudio, se utilizaron las publicaciones de 868 voluntarios emparejados por grupos con la misma edad, el mismo sexo y diferente etnia. Y, al finalizar el estudio, vieron que la IA no es capaz de reconocer los síntomas relacionados con la depresión entre la población afroamericana con la misma eficacia con la que lo hace en otras situaciones.

Así, Guntuku señala que esta situación es preocupante. Tras afirmar que las redes sociales no pueden utilizarse para diagnosticar la depresión, asegura que sí cree que sean un método eficaz para evaluar el riesgo de un individuo o grupo. Por ello, mostró su preocupación por las distinciones que hace la IA, ya que esta no consigue evaluar de la misma forma a las personas en función de su etnia. Sea como fuere, la solución está en el entrenamiento y las muestras que tomen las compañías. Por tanto, cuánto más variadas sean, mejor serán los análisis.

En 3DJuegos | La nueva IA de Google salvará millones de vidas. La compañía presenta una herramienta única para prevenir inundaciones

En 3DJuegos | Europa destinará 864 millones de euros a la tecnología de moda y la IA gana enteros para seguir siendo una revolución

Imagen principal de Alex Knight (Unsplash)

Comentarios cerrados
VÍDEO ESPECIAL

3.368 visualizaciones

20 videojuegos con gráficazos que llegarán en 2025

Hace apenas unas semanas que estrenamos nuevo año y ya tenemos en el horizonte un puñado de videojuegos que tienen una pinta espectacular. Y lo decimos de forma literal, porque este nuevo top está dedicado a los juegos con los gráficos más potentes de 2025.