【免费下载链接】EXAONE-Tabular项目地址https://ai.gitcode.com/hf_mirrors/LG-AI-Research/EXAONE-Tabular点击查看免费下载EXAONE-Tabular 是 LG AI Research 推出的表格数据基础模型其中的回归器EXAONETabularRegressor不用任何梯度训练靠上下文学习in-context learning即可完成预测。它最亮眼的地方在于模型输出不是传统的一个预测值而是每行一个999 分位数分布头——完整刻画目标的条件分布再从中还原出一个更贴近 RMSE 最优解的点估计。本文带你搞懂这套机制为什么比传统点预测更准。什么是EXAONE-Tabular免训练的表格回归基础模型传统上表格回归要做三件事选模型XGBoost、LightGBM 等、调参、训练。EXAONE-Tabular 全部省掉了架构基于 Transformer 的 Cross-axis Summary TransformerCAST约21M 参数回归器 21,110,247 个12 层、6 个注意力头、嵌入维度 192用法把带标签的行交给fit模型对新的行做一次前向传播就出结果——没有梯度更新、没有按数据集单独训练接口scikit-learn 风格的fit/predict可以直接放进sklearn.pipeline.Pipeline它同时发布了分类器和回归器两个检查点本仓库内就能直接看到回归器权重文件 exaone-tabular-regressor-v1_default.safetensors详细架构见 EXAONE_Tabular_v1.0_Technical_Report.pdf。点预测的局限为什么只给一个数会丢信息传统回归模型线性回归、GBDT、普通神经网络的最后一个神经元只输出一个数字。问题在于它不知道目标长什么样。收入、房价、销量这类目标往往是右偏的大多数样本集中在低值区少数样本拖出长尾。中位数会被偏态带偏。很多模型倾向预测中位数但对偏态目标RMSE 真正奖励的是条件均值conditional mean——中位数在偏态分布下系统性偏低。对离群值敏感且无缓冲尾部噪声直接污染训练和预测。一句话点预测只描述了最可能的值丢掉了整条分布的形状。999分位数分布头一次前向传播得到完整分布EXAONE-Tabular 回归器的输出头不是 1 个神经元而是999 个——对应 0.001、0.002 … 0.999 这 999 个分位数点完整重建目标的条件分布。关键配置值说明quantile_count999输出头宽度必须与检查点一致分位数位置linspace(1/1000, 999/1000, 999)加载器会精确校验这个 bufferdecoder_hidden_width384解码器隐层宽度权重精度float32运行时默认转 float16 计算这种分布式输出带来三个直接收益默认读法直接对齐 RMSEpredict默认把分布还原为条件均值的估计这正是 RMSE 评分的标准答案天然鲁棒读值前先对分位数排序防止交叉分位数打乱顺序再对中间 99.8% 的区域做梯形积分trimmed mean自动忽略最两端各 0.1% 的极端噪声分布信息随手可得同一份输出里中位数、任意分位数、不确定性区间都能读出来。想取中位数或任意分位数改一个配置即可默认读法是裁剪均值trimmed mean适合 RMSE 场景。如果你的业务需要中位数只要在manifest的RegressionConfig里设置point_estimatemedian即可不需要换权重——这也是分布头相对点预测的灵活性优势。相关机制的原文描述见 README.md。效果怎么样基准榜单上的回归成绩在 51 个模型、102 个数据集的 ScoringBench 对比池中排名越小越好模型R² 平均排名 ↓CRPS 平均排名 ↓EXAONE Tabular8.756.07TabPFN-310.036.16Nori-30M14.9011.59TabICLv215.9911.88CatBoost33.5234.62XGBoost38.8338.76注意CRPS连续排序概率评分这一列它专门衡量概率预测的质量是分布式模型的主场。EXAONE Tabular 的 CRPS 排名6.07比 R² 排名8.75还好仅次于 TabPFN-3——这正是 999 分位数分布头完整刻画分布能力的直接体现。在 TabArena 上它整体 Elo1755第 2回归子榜 Elo1883第 2而参数量只有约 21M预测成本约 0.605 秒/千条样本远低于同级对手。快速上手三步跑通表格回归环境要求Python ≥ 3.11、PyTorch ≥ 2.6强烈建议 CUDA GPUCPU 可跑但较慢。克隆仓库后pip install .即可依赖会一并安装from_pretrained会自动拉取回归器权重并做完整性校验。用 sklearn 自带糖尿病数据集体验from sklearn.datasets import load_diabetes from sklearn.model_selection import train_test_split from exaonetabular import EXAONETabularRegressor X_train, X_test, y_train, y_test train_test_split( *load_diabetes(return_X_yTrue), test_size0.25, random_state0 ) reg EXAONETabularRegressor.from_pretrained(devicecuda:0) # 下载校验加载 reg.fit(X_train, y_train) # 无训练存上下文 拟合预处理器 y_pred reg.predict(X_test) # (n_samples,) 浮点预测值就这样——没有调参循环没有训练过程。上手前必须知道的3个细节输入要求数值型数组与 1024 列上限X必须是二维floatNumPy 数组y必须是一维有限实数NaN/inf会报错目标列无需自己归一化模型会按 support 集合做标准化预测后再映射回来超过1024 列的宽表会被自动收窄用单变量f_regression做特征筛选不消耗前向传播再给每个集成成员追加16 个 support-SVD 分量增强大样本集自动触发加权集成fit会把 20% 的样本留出用最小二乘NNLS解出非负的集成成员权重并与均匀权重1/E按 75/25 混合——懂你这张表的成员获得更大话语权同时保证结果始终落在凸组合内。该机制需要约2000 条留出样本样本量约 1 万行以上才激活小表自动回退到均匀平均不会因权重过拟合而变差。详见 README.md。许可证权重仅限非商业用途代码库采用 BSD-3-Clause-LG AI Research License允许商用但发布的模型权重遵循 EXAONE AI Model License 1.2 - NC仅限非商业研究与教育用途详见 LICENSE。总结EXAONE-Tabular 回归器用 999 分位数分布头替代传统点预测输出头本质上是把猜一个数升级为描述整条分布默认裁剪均值精准对齐 RMSE 的目标条件均值、尾部噪声被自动剔除、中位数和任意分位数随时可读再叠加 NNLS 加权集成与 SVD 增强最终在 ScoringBench 的 CRPS 榜单上拿到仅次于 TabPFN-3 的第 2 名——这就是分布式回归头比传统点预测更准的原因。⚖️延伸资料README.md完整用法与超参数说明、config.json模型标识、EXAONE_Tabular_v1.0_Technical_Report.pdf技术报告赞分享【免费下载链接】EXAONE-Tabular项目地址https://ai.gitcode.com/hf_mirrors/LG-AI-Research/EXAONE-Tabular点击查看免费下载相关推荐从点预测到概率分布Nori 1.5的999分位数Pinball回归头原理与使用方法从点预测到概率分布Nori 1.5的999分位数Pinball回归头原理与使用方法 Nori 1.5 是 Synthefy 推出的约 21M 参数表格回归基础基础模型机器学习表格回归人工智能Nori-100M 如何输出完整预测分布深入 999 分位数 Pinball 回归头原理Nori 100M 如何输出完整预测分布深入 999 分位数 Pinball 回归头原理 Nori 100M 是一个约 9830 万参数的表格数据回归基础模型EXAONE-Tabular是什么LG AI Research零训练表格基座模型完全解析分类回归一站式搞定EXAONE Tabular是什么LG AI Research零训练表格基座模型完全解析分类回归一站式搞定 EXAONE Tabular 是 LG AI上一篇免费、原生、只有 8MBmacOS 上的 Photoshop 平替 Compositor 到底能打吗下一篇为什么mlx_lm.load会算错pplx-decider-v1.1-27b-4bit的noncausal注意力陷阱与正确加载方式创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考