拉取华为昇腾的mindie镜像时一定要注意配置好--platform参数,否则可能架构不兼容

docker pull --platform=arm64 swr.cn-south-1.myhuaweicloud.com/ascendhub/mindie:1.0.0-300I-Duo-py311-openeuler24.03-lts

拉取完镜像,进行镜像打压缩包
docker save 3a7f38bed48b -o D:\mindiearm.tar

安装huggingface_hub
pip install -U huggingface_hub
安装成功后,注意将huggingface-cli添加到环境变量

没有设置镜像地址的话,使用huggingface-cli下载大模型的话,大概率是失败的。需要设置个
环境变量HF_ENDPOINT,内容设置为https://hf-mirror.com。

比如下载模型参数时,接续下载:

huggingface-cli download --resume-download deepseek-ai/DeepSeek-R1-Distill-Qwen-32B --local-dir D:\deepseek-r1-32b-huggingface
 

Logo

GitCode 天启AI是一款由 GitCode 团队打造的智能助手,基于先进的LLM(大语言模型)与多智能体 Agent 技术构建,致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话,还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力,真正做到“一句话,让 Al帮你完成复杂任务”。

更多推荐