|
AMD于2025年3月22日发布了一款名为“GAIA”的开源项目，旨在为Windows用户提供本地化运行大语言模型（LLM）的解决方案。这一项目特别针对AMD锐龙AI300系列处理器进行了优化，通过其NPU（神经处理单元）架构显著提升了性能，并降低了功耗和延迟。
GAIA是一款生成式AI应用程序，支持在Windows平台上本地运行私密的大语言模型，例如Llama和Phi系列。它采用混合部署模式，能够结合NPU和GPU资源，实现更高效的计算分配。此外，GAIA还提供了两种安装方案：基础版适用于任何Windows电脑，而混合版则专为锐龙AI300系列处理器设计，可进一步提升性能和能效比。 GAIA的核心组件基于ONNXTurnkeyML Lemonade SDK开发，采用了前沿的检索增强生成（RAG）技术框架。其主要功能模块包括Chaty、Clip、Joker和SimplePrompt，支持多种主流大语言模型的动态调度。这些特性使得GAIA不仅能够满足用户的日常需求，还能在医疗、金融等敏感领域提供本地化处理和隐私保护。 GAIA采用MIT开源协议，并已将代码托管至GitHub。AMD鼓励开发者贡献自定义代理模块，以推动项目的扩展性和行业定制化。目前，GAIA仅支持Windows平台，但官方表示未来可能会扩展至Linux和macOS系统。 GAIA的推出标志着AMD在本地化AI应用领域的重大突破，不仅提升了边缘计算能力，还为生成式AI应用的隐私保护和性能优化提供了新选择。这一项目有望成为未来人工智能技术发展的重要里程碑。 |
