设置builder.max_workspace_size的意义

翻译自The significance of builder.max_workspace_size. - TensorRT - NVIDIA Developer Forumsmaximum workspace限制了模型中任何层可以使用的内存数量。这并不意味着如果设置1 << 30，就会分配1GB内存。在运行时，只会分配层操作所需的内存数量。在构建大网络时，设置这个参数，给予足够多的内存

旺旺棒棒冰

1365人浏览 · 2021-11-16 10:27:29

旺旺棒棒冰 · 2021-11-16 10:27:29 发布

翻译自 The significance of builder.max_workspace_size. - TensorRT - NVIDIA Developer Forums

maximum workspace 限制了模型中任何层可以使用的内存数量。这并不意味着如果设置1 << 30，就会分配1GB内存。在运行时，只会分配层操作所需的内存数量。在构建大网络时，设置这个参数，给予足够多的内存是很必要的

后面需要自己尝试看看

天启AI社区

GitCode 天启AI是一款由 GitCode 团队打造的智能助手，基于先进的LLM（大语言模型）与多智能体 Agent 技术构建，致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话，还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力，真正做到“一句话，让 Al帮你完成复杂任务”。

更多推荐