Abelardo González
Editor - Tech¿Eres capaz de evitar las estafas de internet? Según un estudio, los miembros de la Generación Z caen en más estafas que los ancianos, ya que su confianza en anuncios, publicidad y correos maliciosos les lleva a ceder sus datos de forma voluntaria en muchas ocasiones. Así, a diferencia de la creencia popular, los más jóvenes están detrás del mayor número de estafas sufridas. Sin embargo, un estudio ha revelado que la IA también tiene problemas para evitar las estafas, ya que pueden llegar a ser tan vulnerables como un humano.
Como señala JeuxVideo, Guardio (una empresa de ciberseguridad) probó la vulnerabilidad de los agentes IA frente a las estafas en línea. El estudio se centró en Comet, el navegador con agente IA integrado de Perplexity que también está presente en Microsoft Edge. Estos agentes, según indica la publicación original, buscan automatizar tareas como organizar viajes, gestionar correos o hacer compras en líneas, razón por la que diseñaron tres trampas que terminaron engañando a la IA.
La principal debilidad de la inteligencia artificial
Para comprobar la seguridad que ofrecen algunos modelos de IA, Guardio diseñó las tres citadas trampas: un sitio falso de Walmart, el gigante del comercio estadounidense, un correo de phishing de Wells Fargo y un CAPTCHA manipulado con la técnica PromptFix. En el falso Walmart, la IA compró un Apple Watch e introdujo tanto su dirección como sus santos bancarios, una situación que ya habría conseguido comprometer los datos de cualquier usuario. Por desgracia, los resultados no fueron mejores en las otras dos pruebas.
Al no detectar errores ni señales de estafa en el correo de phishing, también cayó en el fraude de Wells Fargo. En lo relativo al CAPTCHA manipulado, el estudio comprobó que a veces pedía confirmación humana, pero en otras ocasiones decidía resolverlo solo y, por ende, daba pie a la instalación de software malicioso. Tras comprobar que la IA es incapaz de evitar este tipo de situaciones, Guardio decidió apodar al experimento como "Scamlexity", un juego de palabras entre "Scam" ("estafa") y Perplexity (la empresa detrás del modelo de IA).
El resultado del estudio revela que la IA es tan ingenua como muchos humanos y, por consiguiente, suele caer en estafas en línea. A su vez, el estudio alerta que la confianza de los usuarios en estos modelos de IA podría llegar a derivar en consecuencias graves si la seguridad no está integrada, ya que el agente de Perplexity es un ejemplo de la falta de defensas ante ataques comunes. Por ello, Guardio concluyó que la seguridad debe ser un componente central en el diseño de los navegadores con IA y, por lo tanto, no tiene que seguir siendo un añadido posterior.
Imagen principal hecha con inteligencia artificial (3DJuegos)
Ver 1 comentarios