La IA ha encontrado un nuevo enemigo: los proyectos con modelos de código abierto

El modelo open source es una práctica tan ligada a internet que parece imposible entender a una sin la otra. Un ejemplo podría ser la existencia de Linux, un sistema operativo que crece gracias a las invenciones de su comunidad. Sin embargo, la proliferación de la inteligencia artificial ha provocado que los expertos adviertan sobre la existencia de modelos open source sin las barreras típicas de las grandes plataformas.

Los peligros del open source

Así, algunos aseguran que existe una "capa" invisible de infraestructuras con miles de equipos ejecutando modelos accesibles desde fuera. En los análisis de plataformas como SentinelLABS o Censys, por ejemplo, se recogen los resultados de 293 días de observación con un mapa global con más de 175.000 hosts repartidos por 130 países.

Este estudio no solo se basa en la cantidad, sino también en la constancia, ya que han identificado un núcleo de unos 23.000 sistemas que aparecen una y otra vez (similar a un trabajo por turnos). La herramienta que se repite se llama Ollama y, según indican los estudios, se trata de una opción muy popular para correr modelos en local, pero el problema llega cuando se deja "abierta" al público.

En 3D Juegos

Microsoft la ha vuelto a liar con su nuevo parche para Windows 11

Censys, por ejemplo, explica que encontró miles de instancias expuestas de Ollama, y señaló que una parte respondía a prompts. Vamos, que puedes "hablar" con ellas y recuerda que los riesgos no son abstractos: puedes ser víctima de phishing, spam, desinformación y otros abusos, ya que el modelo es capaz de realizar cualquier tipo de texto en cuestión de segundos.

Los investigadores señalan que, por ejemplo, existen numerosos casos en los que se quitaron los guardarraíles a modelos conocidos. Además, en una muestra de system prompts, cerca del 7,5% podía empujar a los usuarios a conductas dañinas. Así, la lección no pasa por prohibir los modelos de código abierto, sino ser consciente de sus consecuencias: si tu proyecto se basa en esta idea, debes ser consciente que cualquier persona puede manipular tu idea original. Si esto sucede, no todos tendrán buenas intenciones.

Imagen principal de Markus Spikse (Pexels)

En 3DJuegos | China ya no tiene reparos con Nvidia y activa el "modo compra"

En 3DJuegos | El "modo búnker" crece entre la población, ya que tienes que elegir entre comodidad o seguridad