CUDA error: device-side assert triggered
使用C++和libtorch,调用pytorch转化的script模型时,遇到error
·
1.error描述
在使用C++调用libtorch模型时,出现如下的报错信息:
what(): CUDA error: device-side assert triggered
CUDA kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be incorrect.
For debugging consider passing CUDA_LAUNCH_BLOCKING=1.
网上搜索到的大多数相同的error都是发生在pytorch环境下,但我将pytorch训练好的模型转化为了script模型,并借助C++和libtorch进行调用,在这个过程中遇到了error;
目前我仍然不知道为什么会出现这样的error,但我找到了解决方法,并且与网上大多数方法均不同,因此在这里记录一下。
2.解决方法
- 使用nvidia-smi命令展示使用了显存的进程;
- 找到名为…RendererForSitePerProcess的进程,kill掉,重新运行程序即可;

GitCode 天启AI是一款由 GitCode 团队打造的智能助手,基于先进的LLM(大语言模型)与多智能体 Agent 技术构建,致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话,还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力,真正做到“一句话,让 Al帮你完成复杂任务”。
更多推荐
所有评论(0)