研究框架

SRI的研究框架是一个系统化的工作流程,用于将宏大的构想逐步转化为问题、证据、模型、原型、评估和社会应用。它强调在跨越多个领域时,始终清晰地分辨哪些是已确认的事实,哪些是推论,以及哪些是未经证实的假设。
为什么需要框架
AI能够快速关联海量信息。然而,生成看似合理的解释与该主张的真实性并不等同。此外,优化单一评估指标可能会导致忽略了未被测量的价值或少数视角。
为了避免过早得出结论而继续推进研究,SRI将观测到公开的过程分离,并在每个阶段设置确认机制。
六个研究阶段
1. Observation|观察
收集现象、论文、统计数据、法律制度、新闻报道、当事人经验和系统日志。记录来源、获取日期、适用范围、缺失数据和观测条件,区分信息的存在性与内容的准确性。
2. Representation|表征
将问题转化为适合的格式,例如文本、数式、图表、数据结构、地图或模拟。任何表征都会强调现实的一部分并忽略另一部分。因此,不能仅凭一个图表或指标来代表全局。
3. Selection|选择
明确采用哪些假设、变量、边界、时间尺度和评估标准。同时记录未采纳的方案及其理由,确保后续的观察者能够重新审视判断。
4. Experiment|原型制作与验证
从小型计算、反例测试、原型构建和比较实验开始。AI的输出仅是待验证的候选结果,而非证据本身。需要确认可复现条件和失败条件。
5. Governance|安全与责任治理
设计谁拥有决策权、谁会受到影响以及谁有能力停止流程。在医疗、法律、公共政策、金融等需要高度谨慎的领域,必须预设专家确认、权限控制、审计日志和使用范围限制。
6. Publication|公开与更新
将研究笔记、预印本、实现资料和面向公众的解读进行翻译。即使发布后,也需管理版本、更正、撤回以及更新理由,避免结论被固定化。
分离四种描述类型
| Fact | 原始资料、观测数据、可重新确认的数据 |
|---|---|
| Inference | 从事实推导出的解释。可能存在其他解释 |
| Hypothesis | 待未来验证的对象。目前尚未确认 |
| Creation | 探索可能性、比喻或未来构想的叙事 |
Non-closure|非封闭设计
不是无限期地悬置判断,而是同时持有当前阶段的临时结论和可供重新审视的空间。保存未选择的方案、少数意见以及模型外的残差,以便在情况变化时能够回溯。
转化为实现
研究成果将被转化为知识数据库、决策支持系统、AI代理、教育教材、公共数据可视化和可审计的工作流。原则是:不能以实现的便利性为由隐藏不确定性或社会风险。
