優化算法
貝葉斯優化是一種優化算法，主要用於尋找目標函數的全局最優解，尤其適用於那些目標函數難以計算或計算成本較高的情況。
貝葉斯優化的核心思想是利用目標函數的函數值來構建一箇概率模型，通常使用高斯過程迴歸模型，然後根據這個概率模型來選擇下一個最有可能改善目標函數值的參數配置。在每次迭代中，貝葉斯優化根據當前的概率模型選擇一箇點進行評估，評估完成後，將新的觀測結果加入到模型中，並更新概率模型。這個過程持續進行，直到達到預設的迭代次數或滿足其他停止條件。
貝葉斯優化的主要優勢在於它能夠根據歷史觀測結果智能地選擇下一個評估點，從而在較少的迭代次數內找到接近最優解的參數配置。此外，貝葉斯優化還能處理多峯、非凸等複雜的目標函數。
貝葉斯優化常用於機器學習中的超參數調優、神經網絡架構搜索以及元學習等領域。