3月6日,阿里云发布并开源全新的推理模型通义千问QwQ-32B。通过大规模强化学习,千问QwQ-32B在数学、代码及通用能力上实现质的飞跃,整体性能比肩DeepSeek-R1。在保持强劲性能的同时,千问QwQ-32B还大幅降低了部署使用成本,在消费级显卡上也能实现本地部署。此次,阿里云采用宽松的Apache2.0协议,将千问QwQ-32B模型向全球开源,所有人都可免费下载及商用。

现已支持在DMS+ADB上私域部署并与Dify打通使用, 低至2万+/月即可获得独占满血版服务,开通参考下述指南

一、开通AI实例的ADB节点

选择 ADB.AIMedium.2 以及以上的规格,如Large.2,XLarge.2等进行开通。如已有ADB实例请忽略;

image

快捷链接https://yaochi.console.aliyun.com/NewPurchase?newProductCodes=adbMysql,adbPghttps://yaochi.console.aliyun.com/NewPurchase?spm=a2c6h.13046898.publish-article.11.48166ffaDgvOqP&newProductCodes=adbMysql,adbPg

二、DMS上部署模型,并与Dify打通

前置条件:已开通Dify On DMS服务,如需开通请点此申请。PS:若不部署Dify,单独创建工作空间也可完成模型部署和使用。

1.进入Dify所在工作空间,点击模型部署:

用户登陆地址:https://dms.aliyun.com/https://dms.aliyun.com/?spm=a2c6h.13046898.publish-article.13.48166ffaDgvOqP

image

2.选择QwQ-32B镜像,配置相关参数,进行部署即可。

image

3.部署完成后,获取模型URL:

image

4.在Dify模型供应商进行配置:

image

5.配置完成后即可使用:

image

如有疑问,请钉钉扫码入群交流

参考资料

1.Data+AI 数据管理服务 DMS

2.云原生数据仓库 AnalyticDB PostgreSQL 版

3.数据管理 DMS支持托管 Dify 免费邀测

Logo

GitCode 天启AI是一款由 GitCode 团队打造的智能助手,基于先进的LLM(大语言模型)与多智能体 Agent 技术构建,致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话,还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力,真正做到“一句话,让 Al帮你完成复杂任务”。

更多推荐