Leave-One-Out Cross-Validation（留一法交叉验证，简称LOOCV） 是一种评估机器学习模型性能的方法，其核心思想是：每次用一个样本作为测试集，其余所有样本作为训练集，重复这一过程直到所有样本都被用作测试一次。具体特点如下：

关键点
操作流程：

假设数据集有 N 个样本。

进行 N 次训练和测试：

每次选择一个样本作为测试集（共 N 种选择方式），其余 N-1 个样本用于训练模型。

最终的模型性能是 N 次测试结果的平均值（如准确率、误差等）。
优点：

数据利用率极高：几乎所有样本都用于训练（仅留一个测试），特别适合小数据集（如医学研究中的稀有病例）。

减少偏差：因训练集接近全集，模型评估结果更接近真实性能。
缺点：

计算成本高：需训练 N 次模型，时间复杂度为 O(N^2)。例如，10万个样本需训练10万次，可能不现实。

方差估计不稳定：若个别样本噪声较大（如异常值），可能影响整体评估结果。

与其他方法的对比
k折交叉验证：将数据分为 k 折（如 k=5 或 10），每次用一折测试，其余训练。计算成本更低，但可能牺牲部分数据利用率。

自助法（Bootstrap）：通过有放回抽样生成多个训练集，适合大数据集，但可能重复采样某些样本。

应用场景
小样本数据：如生物信息学、金融风控中的稀缺事件。

模型选择：比较不同算法或超参数时，最大化利用有限数据。

理论研究：分析模型对单个样本的敏感性。

示例

假设有数据集 {x_1, x_2, x_3}：
第1次：训练集 {x_2, x_3}，测试 x_1。

第2次：训练集 {x_1, x_3}，测试 x_2。

第3次：训练集 {x_1, x_2}，测试 x_3。

最终性能指标为三次测试结果的平均值。

注意事项
计算优化：某些算法（如线性回归）可通过数学公式直接计算LOOCV结果，避免重复训练（如“留一法线性回归”）。

替代方案：若计算资源有限，可减小 k 折（如 k=10），平衡效率与数据利用率。

LOOCV在小数据场景下是评估模型的“黄金标准”，但在大数据场景中需权衡计算成本，选择更高效的方法（如5折或10折交叉验证）。