勵志

勵志人生知識庫

直接搜尋法

直接搜尋法是一種最佳化算法,它基於啟發式方法,僅利用目標函式值信息來進行無約束最佳化。這種方法不需要計算或逼近目標函式的導數,因此也被稱為「導數無關」的方法。直接搜尋法相比於利用目標函式的一階或二階導數信息的間接搜尋法,如梯度法牛頓法共軛梯度法,具有簡單、靈活和可靠的特性。

直接搜尋法可以分為以下幾類:

模式搜尋法(Pattern Search):通過考慮目標函式行為的試探位移來刻劃,依賴於有理格。這種方法由當前疊代的鄰近格線點的訪問系統策略組成。

單純形搜尋法(Simplex Search):由指導搜尋的簡單策略刻劃。它提出了一種方法,不需要超過n+1個目標函式的值來確定上升(或下降)方向。

其他直接搜尋算法:包括通用模式搜尋算法GPS)和格線自適應搜尋算法MADS),這些算法在每一步搜尋當前點附近的一系列點,這些點組成一個格線,通過增加當前點到一系列矢量的某些倍數中形成。如果算法在格線中找到了能改善目標函式結果的點,則用該點替換當前點。

直接搜尋法的套用範圍廣泛,可以解決目標函式不可微甚至不連續的問題。它們在處理複雜或特殊性質的最佳化問題時特別有效,因為它們不依賴於目標函式的導數信息。