DMS+ADB-PG支持一键部署QwQ-32B推理模型
3月6日,阿里云发布并开源全新推理模型通义千问QwQ-32B。现已支持在DMS+ADB上私域部署并与Dify打通使用。
·
3月6日,阿里云发布并开源全新的推理模型通义千问QwQ-32B。通过大规模强化学习,千问QwQ-32B在数学、代码及通用能力上实现质的飞跃,整体性能比肩DeepSeek-R1。在保持强劲性能的同时,千问QwQ-32B还大幅降低了部署使用成本,在消费级显卡上也能实现本地部署。此次,阿里云采用宽松的Apache2.0协议,将千问QwQ-32B模型向全球开源,所有人都可免费下载及商用。
现已支持在DMS+ADB上私域部署并与Dify打通使用, 低至2万+/月即可获得独占满血版服务,开通参考下述指南:
一、开通AI实例的ADB节点
选择 ADB.AIMedium.2 以及以上的规格,如Large.2,XLarge.2等进行开通。如已有ADB实例请忽略;
二、DMS上部署模型,并与Dify打通
前置条件:已开通Dify On DMS服务,如需开通请点此申请。PS:若不部署Dify,单独创建工作空间也可完成模型部署和使用。
1.进入Dify所在工作空间,点击模型部署:
用户登陆地址:https://dms.aliyun.com/https://dms.aliyun.com/?spm=a2c6h.13046898.publish-article.13.48166ffaDgvOqP
2.选择QwQ-32B镜像,配置相关参数,进行部署即可。
3.部署完成后,获取模型URL:
4.在Dify模型供应商进行配置:
5.配置完成后即可使用:
如有疑问,请钉钉扫码入群交流
参考资料

GitCode 天启AI是一款由 GitCode 团队打造的智能助手,基于先进的LLM(大语言模型)与多智能体 Agent 技术构建,致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话,还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力,真正做到“一句话,让 Al帮你完成复杂任务”。
更多推荐
所有评论(0)