BitNet es una de las herramientas más ambiciosas de la historia moderna de la compañía
El auge de la inteligencia artificial ha provocado que cada vez más compañías tengan interés en exprimir las virtudes de esta tecnología. Un ejemplo de ello podría ser la intención de las grandes tecnológicas de acabar con los programadores, ya que consideran que las herramientas de IA podrían llegar a realizar una parte importante del trabajo de los mismos. Sin embargo, existe un problema que deben solventar antes de seguir trazando planes relacionados con la implementación de la inteligencia artificial: la demanda de recursos necesarios para satisfacer las peticiones de los modelos de IA.
Como señala TechSpot, uno de los nuevos proyectos de Microsoft está centrado en la eficiencia energética de los modelos de inteligencia artificial. Se trata de BitNet b.158 2B4T, un nuevo modelo de lenguaje de la firma norteamericana que solo necesita 400 MB de memoria y no requiere GPU para funcionar. Para ello utiliza cuantización ternaria (-1, 0 y +1), un aspecto que permite que cada peso se almacene en solo 1,58 bits y, así, reduce de forma drástica el uso de memoria. Además, cuenta con 2.000 millones de parámetros y, al haber sido entrenado con 4 billones de tokens, hablamos del equivalente a 33 millones de libros.
¿Lo conseguirá Microsoft?
Según revela el portal norteamericano, el nuevo modelo de Microsoft es capaz de superar las prestaciones de otros como Llama, Gemma o Qwen. Además, también funciona de forma eficiente en procesadores estándar, una situación que beneficia a opciones como el chip M2 de Apple que no cuenta con hardware especializado. De hecho, utiliza un marco de software propio llamado bitnet.cpp, un aspecto diseñado de forma específica para este tipo de pesos ternarios.
Gracias a todas las ventajas citadas, el modelo de lenguaje de Microsoft consume entre un 85% y 96% menos que otras opciones tradicionales, ya que exprime al máximo la sencillez de su arquitectura. Además, BitNet fue entrenado desde cero con baja precisión y, por ello, es capaz de evitar la pérdida de rendimiento. Como consecuencia directa, puede facilitar la ejecución de IA avanzada en dispositivos personales sin depender de la nube, pero también tiene limitaciones como una ventana de contexto más pequeña y soporte limitado de hardware. Aún así, Microsoft planea paliar esto en el futuro.
Imagen principal de 3DJuegos
En 3DJuegos | Vendió su rostro y su voz por 4.600 euros a empresas de IA y ahora revela por qué es la peor idea que ha tenido jamás
Ver todos los comentarios en https://www.3djuegos.com
VER 2 Comentarios