AMD anunció soporte desde el primer día para Muse Glimmer 30B, el nuevo modelo de Meta, permitiendo su ejecución local en hardware AMD y facilitando el desarrollo de soluciones de inteligencia artificial con agentes integrados directamente en el dispositivo.
La capacidad de ejecutar modelos de IA de manera local cobra cada vez más relevancia conforme los agentes inteligentes asumen tareas más complejas que requieren memoria, uso de herramientas y manejo de información sensible. Al utilizar marcos de trabajo de código abierto como llama.cpp, los desarrolladores pueden reducir su dependencia de la infraestructura en la nube, manteniendo un mayor control sobre la privacidad de los datos y los costos operativos.
Aspectos destacados
- Muse Glimmer 30B puede ejecutarse en sistemas AMD Ryzen™ AI Max+ y en estaciones de trabajo equipadas con una sola GPU Radeon™ AI PRO R9700, aprovechando frameworks de código abierto como llama.cpp.
- Mediante LM Studio, los usuarios con sistemas AMD compatibles y más de 32 GB de VRAM/VGM pueden descubrir, descargar y ejecutar el modelo en cuestión de minutos. Además, es posible conectarlo con agentes como Hermes Agent u Open Claw a través de endpoints compatibles con las APIs de OpenAI y Anthropic.
- La plataforma Lemonade permite integrar Muse Glimmer 30B directamente en aplicaciones mediante un binario de API local de aproximadamente 4 MB, lo que facilita implementar capacidades de IA manteniendo tanto los modelos como los datos en el dispositivo, sin requerir instalaciones adicionales.
Con este anuncio, AMD fortalece su apuesta por la ejecución local de modelos de inteligencia artificial avanzados, ofreciendo a desarrolladores y organizaciones una alternativa eficiente para construir aplicaciones de IA más privadas, rápidas y rentables.
