核心发现
方法论
论文提出主动式门控路由：仅用输入特征训练Logistic Regression门控器，预测代理模型是否安全；再在独立校准集上，以Clopper-Pearson单侧上置信界选择最低安全阈值。安全定义为d(x,y)=|y-g(x)|-|y-f(x)|≤τ，保证Pr(V(t*)>α)≤δ。
关键结果
- 在35个LCBench/OpenML任务上，τ=2、α=0.2时平均覆盖率达66%，平均违例率12%；τ=1时覆盖率约45%，违例率14%，均低于风险目标。
- 可靠性明显优于基线：α=0.2时，门控保序方法超出目标的比例为8/66（12%），回归保序为57/102（56%），朴素阈值为128/172（74%）。
- 校准主要影响效率而非有效性：Beta、温度缩放和等距回归将ECE从0.18降至0.06，但覆盖率变化不超过2.5个百分点；AUC决定可路由性。
研究意义
该工作缓解了黑箱模型准确性与可解释部署之间的长期矛盾。传统级联必须先运行廉价模型，分歧路由甚至需要先运行黑箱；主动门控则在任何模型执行前决策。其高概率条件风险保证尤其适合监管、医疗和工业场景：系统可以明确说明，在置信度1-δ下，替代模型路由集合中超过τ的性能退化比例不超过α。
技术贡献
论文把代理模型替换转化为二分类安全识别与条件风险控制问题。公式V(t)=(1-π)FPR/[ (1-π)FPR+πTPR]给出路由风险；可行性等价于TPR/FPR≥C(π,α)。同时提出任意ROC的充分AUC阈值Φc=min(1,C/2)、凹ROC下更紧的Φ*c，并用固定序列检验解释多阈值搜索无需Bonferroni修正。
新颖性
核心新颖性不是单纯使用门控网络，而是将输入式代理替换与Clopper-Pearson有限样本安全校准结合。相比选择性预测、级联和回归保序，它直接控制代理相对参考模型的退化违例率，并允许门控器概率失准而仍保持分布无关有效性。
局限性
- 安全标签需要离线同时运行随机森林f与决策树g，并依赖校准集与测试集可交换；分布漂移、时间变化或标签机制改变时，保证可能失效。
- 实验主要采用Logistic Regression门控器、1500棵树的随机森林和浅层决策树；二元安全标签会丢失退化程度信息，严格α下有效路由样本很少。
未来方向
未来可研究在线漂移检测、时序与非交换校准、成本敏感阈值和多代理模型路由；还应测试深度门控器、分类任务及真实高风险部署，并建立同时控制安全、延迟、能源与公平性的联合保证。
AI 总览摘要
在许多部署系统中，随机森林等黑箱模型更准确，却昂贵且难审计；决策树或线性模型便宜透明，却不能轻易证明何时足够可靠。已有级联方法必须先运行至少一个模型，分歧路由还需要黑箱输出，因此节省计算的目标被部分抵消。
Uddin、Khider与Bauer提出主动式Proactive Routing。轻量Logistic Regression门控器只读取输入特征，预测代理模型是否安全；独立校准集上的Clopper-Pearson保序阈值选择，使路由集合的违例率满足Pr(V(t*)>α)≤δ。安全退化定义为d=|y-g(x)|-|y-f(x)|≤τ。理论上，可行性由基础安全率π、风险预算α与ROC局部斜率共同决定，AUC仅提供充分而非必要条件。
在35个LCBench/OpenML数据集上，随机森林使用1500棵树，代理为经验证选择深度的决策树。α=0.2时，τ=2得到66%覆盖率和12%违例率；门控保序在α=0.2下仅12%的数据集-容忍度组合超标，而回归保序和朴素阈值分别为56%和74%。校准将ECE从0.18降至0.06，却只改变不超过2.5个百分点的覆盖率，说明排序质量比概率精确度更关键。方法仍受分布漂移、离线双模型成本和小样本校准限制，但为可解释模型的安全替换提供了可操作框架。
深度分析
研究背景
LIME、SHAP和知识蒸馏提高了黑箱可解释性，但通常不是正式替代机制。级联、拒识和Learning to Defer依赖模型输出或人工专家；Wang等人的输入跳过方法强调效率，却缺少质量保证。本文关注在模型运行前，仅凭x判断代理g能否替代黑箱f。
核心问题
给定黑箱f、代理g、真实标签y和容忍度τ，定义d=|y-g|-|y-f|。若d≤τ则安全。门控分数s(x)超过阈值t时路由代理，目标是在V(t)=Pr(d>τ|s≥t)≤α下最大化覆盖率。难点是安全标签需离线生成，而部署时不能访问f。
核心创新
第一，将主动路由形式化为输入式安全分类。第二，用Clopper-Pearson精确上界校准阈值，提供1-δ高概率保证。第三，推导TPR/FPR≥C(π,α)的精确可行性条件及AUC阈值。第四，证明概率校准不决定有效性，主要影响阈值稳定性和覆盖率。
方法详解
- �� 离线训练f与g，并计算每个样本的d和安全标签Y=1[d≤τ]。
- �� 用Logistic Regression训练门控器s(x)=P(Y=1|x)，可选Platt、Beta或等距校准。
- �� 在独立校准集遍历分数阈值，统计路由数n(t)与不安全数k(t)。
- �� 计算UCBδ=B^{-1}(1-δ;k+1,n-k)，选择最低满足UCB≤α的阈值；不存在则停止路由。
- �� 依据π和α分析ROC可行性；随机森林、XGBoost和MLP黑箱实验检验稳健性。
实验设计
主实验使用35个LCBench任务，每个含2000个超参数配置及第50轮验证准确率，按55/15/15/15划分训练、验证、校准、测试。黑箱为1500棵树的随机森林，代理决策树深度从{2,3,4,5,7,9,11,13,15}选择。τ取−1.5至2.0，α取0.05至0.80，δ=0.10；比较门控保序、朴素阈值、Oracle、随机、始终黑箱/代理及Ridge回归保序。
结果分析
τ≤0时基础安全率低于0.45，方法通常正确弃权；τ=2时π=0.82、AUC=0.59，超过Φc=0.44，平均覆盖率66%。τ=0.5时AUC仅0.57，却仍实现24%覆盖，说明局部ROC斜率比全局AUC更重要。α=0.1时超标率21%，主要因校准路由样本过少；α≥0.2时为7%—12%。
应用场景
医疗风险评分、金融审核、工业预测维护和监管机器学习均可使用：高风险或难判样本交给黑箱，门控识别的安全样本交给可审计代理。部署前需拥有代表性校准数据、真实标签和两种模型的离线输出，并监测分布变化。
局限与展望
保证依赖校准样本与未来数据交换，不能自动应对概念漂移。Clopper-Pearson在严格α和小路由样本下较保守，可能完全弃权。Logistic Regression虽便宜但表达能力有限；实验以表格回归和绝对误差为主，尚未覆盖在线系统、复杂结构化数据及联合公平性、延迟和能源目标。
通俗解读 非专业人士也能看懂
把黑箱模型想成昂贵但可靠的专家，把决策树想成便宜、透明的助手。传统做法是先让助手处理每件事，遇到难题再请专家；但这仍消耗助手时间。本文在两者工作前安排一个小门卫，只看订单上的信息，估计助手是否可能出错。
门卫先用历史订单学习：哪些情况下助手和专家差距不大，哪些情况下差距超过允许范围。随后，用一批没有参与训练的订单测试门卫，并选择一个谨慎的分数线。只有当统计上的最坏错误比例仍低于目标时，才允许助手接单；否则直接交给专家。若证据不足，系统宁可不让助手工作。
这像给工厂设置安全闸门：不能保证每件产品绝对完美，却能保证在规定可信度下，送入便宜工位的产品中，严重超差品不会超过某个比例。实验显示，宽松容忍度下约66%的任务可交给透明助手，违例约12%；但严格要求时，系统会主动停止路由。关键不在助手的分数是否像真正概率，而在它能否把安全和危险订单排好顺序。
简单解释 像给14岁少年讲一样
想象你在玩游戏，电脑里有一个超级强但很慢的队友，还有一个普通但秒回消息的队友。每次都问超级队友当然最稳，却很浪费时间。你想让普通队友处理简单局面，难局再交给高手。
问题是，普通队友不能提前告诉你自己会不会失误。论文的方法训练了一个小“裁判”，只看关卡信息，不让两个队友先出手。裁判会给每关一个安全分。分数高，就让普通队友上；分数低，就交给高手。
但不能随便定分数线。研究者拿一批新关卡做检查，并用很谨慎的统计方法决定分数线。比如规定：普通队友造成的严重失误最多占20%，而且要有90%的把握满足它。如果检查样本太少，或者裁判分不清简单和困难，系统会选择不派普通队友。
实验中，35组OpenML任务显示，容忍度较宽时约66%的输入可由透明决策树处理，严重违例约12%。朴素地用0.5分数线会更常违规。这个想法很像游戏中的自动难度判断：不是保证每局胜利，而是让“冒险使用便宜角色”的比例受到明确控制！
术语表
Proactive Routing（主动式路由）
在任何模型运行前，仅根据输入决定使用黑箱还是代理。它避免了级联中必须先运行廉价模型的问题。
论文的总体部署框架。
Gate（门控器）
预测输入是否适合代理模型的轻量分类器。本文使用Logistic Regression输出安全分数。
用于产生路由阈值。
Clopper-Pearson
基于二项分布的精确置信区间方法。其单侧上界用于保守估计路由集合中的违例率。
校准t*并建立有限样本保证。
Violation Rate（违例率）
已路由输入中不安全样本的条件比例。本文定义为V(t)=Pr(d>τ|s≥t)。
安全约束的核心指标。
AUC
ROC曲线下面积，衡量门控器排序安全与不安全输入的能力。它影响效率，但不是有效性的必要条件。
理论可行性分析。
ECE
期望校准误差，衡量预测概率与实际频率的一致性。低ECE不等于更强的分布无关保证。
校准效率分离实验。
开放问题 这项研究留下的未解疑问
- 1 当测试分布随时间漂移时，交换性假设不再成立；需要在线共形、漂移检测或加权校准来恢复安全保证。
- 2 全局AUC无法刻画关键阈值附近的局部ROC斜率；如何直接优化高纯度区域并同时控制覆盖率，仍缺少统一理论。
- 3 多代理、分类损失、公平性和能源成本能否在一个有限样本框架中联合控制，尚待研究。
应用场景
近期应用
医疗与金融审核
使用历史标签同时运行黑箱与可解释模型，训练门控器并在独立校准集上设定α、δ和τ。高风险输入交给黑箱，安全输入交给可审计模型，同时保留路由违例率证据。
工业预测维护
将昂贵的集成模型作为参考，将浅层树部署在边缘设备。门控器只读取传感器特征；当安全样本比例不足或校准证据不够时自动回退黑箱，避免不受控节省计算。
远期愿景
可证明的多模型自治系统
未来系统可在多个成本、解释性和精度层级之间主动选择，并联合约束风险、延迟、公平性与能耗，形成面向监管的可审计模型编排层。
原文摘要
Model routing determines whether to use an accurate black-box model or a simpler surrogate that approximates it at lower cost or greater interpretability. In deployment settings, practitioners often wish to restrict surrogate use to inputs where its degradation relative to a reference model is controlled. We study proactive (input-based) routing, in which a lightweight gate selects the model before either runs, enabling distribution-free control of the fraction of routed inputs whose degradation exceeds a tolerance τ. The gate is trained to distinguish safe from unsafe inputs, and a routing threshold is chosen via Clopper-Pearson conformal calibration on a held-out set, guaranteeing that the routed-set violation rate is at most α with probability 1-δ. We derive a feasibility condition linking safe routing to the base safe rate π and risk budget α, along with sufficient AUC thresholds ensuring that feasible routing exists. Across 35 OpenML datasets and multiple black-box model families, gate-based conformal routing maintains controlled violation while achieving substantially higher coverage than regression conformal and naive baselines. We further show that probabilistic calibration primarily affects routing efficiency rather than distribution-free validity.