AMD宣布推出专为本地运行大语言模型（LLM）设计的开源应用GAIA（发音 /ˈɡaɪ.ə/），目前支持 Windows 平台。 GAIA 是一款生成式 AI 应用，可在 Windows PC 上实现本地化私密运行 LLM，并针对锐龙 AI 300 系列处理器进行了优化。该应用通过 NPU 提升 AI 任务性能，并支持混合部署量化 LLM。 GAIA 基于 ONNX TurnkeyML...

阅读更多