Con el objetivo de potenciar la inteligencia artificial local, AMD anuncia GAIA, una plataforma de código abierto diseñada para ejecutar LLMs directamente en PCs con Windows. Su optimización para procesadores Ryzen AI promete mayor privacidad, menor latencia y rendimiento acelerado.
AMD ha introducido GAIA, una aplicación de inteligencia artificial generativa que permite a los usuarios ejecutar LLMs de manera privada y local en sus computadoras personales. Esta aplicación está diseñada para funcionar en PCs con Windows y está optimizada para los procesadores Ryzen AI 300 Series, aprovechando su unidad de procesamiento neuronal (NPU) para mejorar el rendimiento en tareas de IA.
GAIA utiliza el SDK Lemonade de ONNX TurnkeyML para la inferencia de modelos y emplea la tecnología de Generación Aumentada por Recuperación (RAG), que combina un LLM con una base de conocimientos para ofrecer respuestas más precisas y contextualizadas. La aplicación incluye varios agentes, como Chaty (chatbot), Clip (búsqueda de videos), Joker (generador de chistes) y Simple Prompt (herramienta de prueba).
Además se ofrece en dos versiones: una estándar, compatible con cualquier PC con Windows, y una versión híbrida optimizada para Ryzen AI, que aprovecha tanto la NPU como la iGPU para mejorar el rendimiento. Al ejecutar LLMs de forma local, GAIA garantiza mayor privacidad, menor latencia y mejor rendimiento, lo que la hace ideal para industrias que priorizan la seguridad de los datos y los tiempos de respuesta rápidos.
El proyecto está disponible bajo la licencia MIT y puede encontrarse en GitHub, permitiendo a desarrolladores y usuarios contribuir y expandir su funcionalidad.
GAIA representa un avance significativo en la ejecución local de LLMs, ofreciendo beneficios como privacidad de datos, baja latencia y alto rendimiento, lo que la convierte en una herramienta valiosa para industrias que buscan soluciones de inteligencia artificial más seguras y eficientes.
