最大熵模型（Maximum Entropy Model）是一種機率模型，主要基於資訊理論，由美國數學家克勞德·香農提出。它的核心思想是在不確定性最大的情況下，選擇機率分布最均勻的模型。在自然語言處理、機器學習、圖像識別、語音識別等領域都有廣泛的套用。
最大熵模型的基本單位是熵，用於衡量一個隨機變數的不確定性。熵越大，表示隨機變數的不確定性越大，反之則不確定性越小。最大熵模型的特徵函式用來表示輸入x和輸出y之間的關係，其訓練過程包括特徵函式的設計和模型參數的估計。在設計特徵函式時，需要根據任務的特點設計出一組能夠表示輸入x和輸出y之間關係的特徵函式。而在模型參數的估計中，需要根據已知的數據，通過最大熵原理來估計模型的參數。
最大熵模型的優點在於能夠處理多種類型的任務，如分類、回歸、聚類等，並且能夠處理高維數據，例如文本數據、圖像數據等。