《数学之美》第二十章——谈谈最大熵模型

1 最大熵原理和最大熵模型最大熵原理指出：对一个随机事件的概率分布进行预测时，我们的预测应当满足全部已知的条件，而对未知的情况不要做任何主观假设。概率分布最均匀的时候，预测的风险最小。当我们遇到不确定性时，就要保留各种可能性。匈牙利著名数学家希萨证明，对任何一组不自相矛盾的信息，这个最大熵模型不仅存在，而且是唯一的。此外，它们都有同一个非常简单的形式——指数函数....

XHHP

2217人浏览 · 2021-05-07 11:53:15

XHHP · 2021-05-07 11:53:15 发布

1 最大熵原理和最大熵模型

最大熵原理指出：

对一个随机事件的概率分布进行预测时，我们的预测应当满足全部已知的条件，而对未知的情况不要做任何主观假设。
概率分布最均匀的时候，预测的风险最小。
当我们遇到不确定性时，就要保留各种可能性。

匈牙利著名数学家希萨证明，对任何一组不自相矛盾的信息，这个最大熵模型不仅存在，而且是唯一的。此外，它们都有同一个非常简单的形式——指数函数.

天启AI社区

GitCode 天启AI是一款由 GitCode 团队打造的智能助手，基于先进的LLM（大语言模型）与多智能体 Agent 技术构建，致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话，还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力，真正做到“一句话，让 Al帮你完成复杂任务”。

更多推荐