留出法（Hold-out）是一種常用的機器學習模型選擇和評估方法。它的基本思想是將數據集分為兩個互斥的集合：訓練集（S）和測試集（T），確保S和T的併集等於整個數據集（S ∪ T，S ∩ T = ∅），即數據集D被劃分為兩部分，一部分用於訓練模型，另一部分用於評估模型性能。這種方法有助於評估模型在未見數據上的表現，從而更準確地判斷模型的優劣。
在使用留出法時，需要注意以下幾點：
確保有足夠的樣本量以保證訓練模型的效果。
在劃分數據時，應保持數據分布的一致性，例如，如果原始數據中正反例的比例是2:3，則在訓練集和測試集中也應保持這一比例。
為了減少隨機劃分的影響，可以通過重複劃分訓練集和測試集，並對多次實驗的結果取平均，來得到更穩定的結果。
通常，訓練集和測試集的比例建議為8:2或7:3。
留出法的優點包括其簡單性和直接性，但它也存在一些缺點，如可能會損失一定的樣本信息，並且需要較大的樣本量。在Python中，可以使用scikit-learn庫中的`train_test_split`函式來實現留出法，例如：
```python
from sklearn.model_selection import train_test_split
train_X, test_X, train_Y, test_Y = train_test_split(X, Y, test_size=0.2, random_state=0)
```
在這裡，`X`和`Y`分別代表原始數據的特徵和標籤，`test_size`參數定義了測試集的比例，而`random_state`參數用於確保每次劃分的結果可重複。