NeurIPS Should Lead Scientific Consensus on AI Policy¶

会议: NeurIPS 2025
arXiv: 2510.00075
代码: 无（立场论文）
领域: AI Policy / AI Governance
关键词: 科学共识、AI政策、IPCC模式、NeurIPS、证据驱动政策

一句话总结¶

本文是一篇立场论文，主张 NeurIPS 应主动承担 AI 政策领域的科学共识形成角色，借鉴 IPCC（政府间气候变化专门委员会）在气候科学中的成功经验，填补当前 AI 政策领域共识机制的空白。

研究背景与动机¶

领域现状：全球各国政府均在积极制定 AI 政策（如欧盟的强制性要求 vs. 美国的自愿框架），但 AI 作为变革性技术的政策设计需要严格的科学证据和科学共识作为支撑。当前 AI 研究的证据生产已非常丰富（NeurIPS 2025 收到超过 25000 篇投稿），但关键信息仍然不清晰。
现有痛点：作者将科学驱动的 AI 政策制定分为三个子问题——(i) 证据生成 (evidence generation)、(ii) 证据综合 (evidence synthesis)、(iii) 科学共识 (scientific consensus)。NeurIPS 在证据生成方面扮演核心角色，在证据综合方面有一定参与（如发表综述和元分析），但在科学共识形成方面完全空白。
核心矛盾：尽管 AI 对社会的影响日益深远，政策制定者急需科学共识来指导立法（如欧盟 AI 法案要求按"最先进水平"进行模型评估），但目前不存在任何正式的 AI 政策科学共识形成机制。这与气候科学领域形成鲜明对比——IPCC 已运作 37 年并产生了 6 份评估报告。
本文要解决什么？ 论证 NeurIPS 是推动 AI 政策科学共识形成的最佳场所，并提出具体的试点方案。
切入角度：从社会学、哲学、政治学和经济学的多学科共识文献出发，结合 IPCC 的成功经验，设计适用于 AI 政策领域的共识形成框架。
核心 idea 一句话：NeurIPS 凭借其无与伦比的召集力和声誉，应该像 IPCC 引领气候科学共识一样，主动催化 AI 政策领域的科学共识。

方法详解¶

整体框架¶

本文并非传统的技术论文，而是一篇结构清晰的立场论文，其论证框架由三部分组成：(1) 识别问题——共识形成机制的缺失；(2) 论证 NeurIPS 的独特优势；(3) 基于 IPCC 经验提出具体试点方案。

关键设计¶

问题诊断——三层次分析框架：
做什么：将 AI 政策的科学基础拆解为"证据生成 → 证据综合 → 科学共识"三个递进层次，逐层分析 NeurIPS 和其他机构的参与情况。
核心思路：证据生成已有 NeurIPS（论文发表）和其他渠道（公司报告、新闻调查）覆盖；证据综合有 Yoshua Bengio 领导的《国际 AI 安全报告》作为标杆机制；唯独科学共识形成是完全空白。
设计动机：通过这种层次分析，精确定位问题所在——不是缺证据，也不是缺综合，而是缺共识机制。这使得论文的诉求更加聚焦和有说服力。
NeurIPS 优势论证——内外双重角色分析：
做什么：分别从"内部角色"（对 AI 科学社区）和"外部角色"（对政策制定者和公众）两个维度论证 NeurIPS 的独特适配性。
核心思路：内部方面，NeurIPS 具有无与伦比的"合法性"——专家参与（参与者是科学家）和包容性（NeurIPS 2024 有超过 16000 名来自全球的现场参会者）；外部方面，NeurIPS 具有无与伦比的"可信度"——Google Scholar h5-index 排名第 7 的全球顶级科学场所。
设计动机：借用社会学和哲学中关于共识的多学科文献（Zollman 2012; Stegenga 2016; Miller 2019），将"合法性"和"可信度"作为共识形成的必要条件，论证 NeurIPS 同时满足两者。
替代方案弱点分析：
做什么：系统性地分析所有可能的替代方案（国际 AI 安全报告、AI 峰会系列、其他 AI 会议、咨询机构等），指出各自的局限性。
核心思路：国际 AI 安全报告的核心使命是证据综合而非共识形成，且编写过程耗时巨大（100+ 人数月工作），不适合扩展范围；AI 峰会系列（如英国 AI 安全峰会、巴黎 AI 行动峰会）过度纠缠于高层地缘政治——典型例子是美国副总统从 2023 年 Kamala Harris 关注"AI 风险全谱"到 2025 年 J.D. Vance 转向"AI 机遇"的剧变；其他 AI 会议（FAccT、ICML、CVPR、ACL）在广度或声望上均不及 NeurIPS。
设计动机：通过排除法强化 NeurIPS 作为唯一最佳选择的论点。
IPCC 经验借鉴——合法性-可信度-影响力三维度：
做什么：深入分析 IPCC 的评估报告流程，提炼出可迁移的经验。
核心思路：IPCC 的合法性来自于广泛的专家提名、基于专业领域/地理/性别/学科多样性的作者选择、以"合理一致"而非投票方式达成共识、以及在无法达成共识时使用校准化的不确定性术语；可信度来自于政府深度参与但科学家保持独立性、多轮外部审查、利益冲突申报机制；影响力来自于自定位为"政策相关但不政策规范"、为政策制定者撰写专门摘要（SPM）、政府逐行编辑但科学家保留否决权。
设计动机：IPCC 是 37 年来最成功的科学共识形成机制（获 2007 年诺贝尔和平奖），其经验为 AI 领域提供了最有价值的参考蓝图。

试点方案设计¶

作者提出三个具体的低成本试点方案，在不同层级上运作：

常设工作组 (Working Group)：全年运作的领导团体，负责持续推动共识形成并在 NeurIPS 大会上呈现结论。不同于只在 12 月大会期间活跃的模式，共识形成需要全年的间歇性对话。
专设赛道 (Dedicated Track)：在 NeurIPS 论文征集中设立专门赛道，鼓励促进科学共识的研究——包括科学家观点调查、矛盾证据的元分析、以及 if-then 协议等新方法。
辩论与调查 (Debates and Surveys)：在大会主程序中设置辩论环节（而非仅有主题演讲和圆桌讨论），并在会前会后进行社区调查以评估共识水平。参照 NLP 社区 2022 年的元调查经验。

实验关键数据¶

本文为立场论文，无传统实验数据。但提供了两个具体的共识案例分析：

案例一：评估选择 (Evaluation Selection)¶

方面	现状	共识可解决的价值
评估有效性	哪些评估具有构念效度和可靠性尚不明确	科学共识可确认哪些评估值得信赖
评估成本	运行评估的成本及降本方案缺乏独立测量	共识可提供成本评估的标准化框架
评估缺口	如生物安全评估尚无共识性工具	共识形成过程可揭示研究空白
政策需求	欧盟 AI 法案要求按"最先进水平"评估	科学共识直接满足政策定义需求

案例二：阈值设计 (Threshold Design)¶

方面	现状	共识可解决的价值
计算阈值争议	支持者 (Heim & Koessler 2024) vs. 反对者 (Hooker 2024) vs. 条件支持者 (Bommasani 2023)	共识可超越二元争论，识别混合方案
候选指标局限	训练计算量可靠测量但代理性差；部署后使用统计风险相关但难测量	共识可建立权衡原则（预测效度 vs. 测量成本）
基础设施缺口	某些可产生更好阈值的量尚无法测量	共识过程可驱动政策与研究合作建设测量工具
政策先例	拜登行政令使用 10^26 FLOP 阈值	共识可为未来阈值设计提供科学依据

关键发现¶

NeurIPS 在 Google Scholar h5-index 中排名全球科学场所第 7 位，具有无可比拟的学术声誉
NeurIPS 2024 吸引超过 16000 名来自全球各学科和行业的现场参会者
NeurIPS 2025 收到超过 25000 篇投稿，证据生产极为丰富但关键信息仍然缺失
IPCC 在 37 年间产出 6 份评估报告，直接关联了京都议定书和巴黎协定等重大国际政策

亮点与洞察¶

精准的问题诊断：将"证据生成-证据综合-科学共识"清晰分层，指出问题不在于证据不足，而在于共识机制空白。这种分析框架本身就有方法论价值。
IPCC 类比的深度：不是简单类比，而是深入分析了 IPCC 的合法性、可信度和影响力机制，提炼出可操作的经验。特别是"校准化不确定性术语"和"政策制定者摘要"等具体机制的介绍。
正面回应预期反对：专设"Alternative Views"部分，直面"这不是 NeurIPS 的事"和"AI 社区分歧太大无法达成共识"两大预期反对意见，回应有理有据。
试点方案的务实性：三个试点方案设计为低成本干预，可快速判断是否值得进一步投入，降低了提案的实施门槛。

局限性 / 可改进方向¶

行业影响力的隐忧：论文承认 NeurIPS 与 AI 产业的纠缠（参会者构成、领导层、资金依赖）可能影响共识的独立性，但处理得较为乐观，认为可以仿照同行评审和伦理审查来管理。实际上产业对共识过程的渗透可能比对论文审查的渗透更为严重。
共识范围的边界模糊：论文刻意选择"依赖科学专业知识"的话题（如评估选择），但 AI 政策的许多关键问题（如开源 vs. 闭源、监管力度）天然涉及意识形态和价值观分歧，共识的边界在哪里并不清晰。
全球代表性问题：NeurIPS 参会者以北美和欧洲为主，发展中国家的 AI 研究者和政策需求可能被系统性地边缘化。
实施路径的不确定性：三个试点方案虽然务实，但缺乏具体的时间线、预算和治理结构设计，从提案到落地还需要大量组织工作。
与新成立的联合国独立国际 AI 科学小组的关系：论文写作早于该小组成立，其成立可能改变 NeurIPS 相对于其他机构的比较优势分析。

评分¶

新颖性: ⭐⭐⭐⭐ — 首次系统性地将科学共识形成机制引入 AI 政策讨论，并将 NeurIPS 定位为共识中心。问题识别精准，视角独特。
实验充分度: ⭐⭐⭐ — 立场论文无传统实验，但案例分析（评估选择和阈值设计）具有说服力，IPCC 经验的深度分析弥补了实证不足。
写作质量: ⭐⭐⭐⭐⭐ — 结构清晰、论证严密、对预期反对的回应有力，引用广泛涵盖多学科文献，是立场论文写作的优秀范例。
价值: ⭐⭐⭐⭐ — 提出了 AI 研究社区亟需面对的制度建设挑战，试点方案具有可操作性。但最终价值取决于 NeurIPS 是否愿意采纳和推行。