1.error描述

在使用C++调用libtorch模型时,出现如下的报错信息:

what():  CUDA error: device-side assert triggered
CUDA kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be incorrect.
For debugging consider passing CUDA_LAUNCH_BLOCKING=1.

网上搜索到的大多数相同的error都是发生在pytorch环境下,但我将pytorch训练好的模型转化为了script模型,并借助C++和libtorch进行调用,在这个过程中遇到了error;
目前我仍然不知道为什么会出现这样的error,但我找到了解决方法,并且与网上大多数方法均不同,因此在这里记录一下。

2.解决方法

  • 使用nvidia-smi命令展示使用了显存的进程;
  • 找到名为…RendererForSitePerProcess的进程,kill掉,重新运行程序即可;
Logo

GitCode 天启AI是一款由 GitCode 团队打造的智能助手,基于先进的LLM(大语言模型)与多智能体 Agent 技术构建,致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话,还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力,真正做到“一句话,让 Al帮你完成复杂任务”。

更多推荐