[资源介绍]
- ipex-llm - 加速 Intel XPU 上的本地 LLM 推理和微调(LLaMA、Mistral、ChatGLM、Qwen、Baichuan、Mixtral、Gemma、Phi、MiniCPM 等)(例如,具有 iGPU 和 NPU 的本地 PC、Arc、Flex 和 Max 等独立 GPU);与 llama.cpp、Ollama、HuggingFace、LangChain、LlamaIndex、GraphRAG、DeepSpeed、vLLM、FastChat、Axolotl 等无缝集成。