让人工智能系统配得上被信赖
关于 CORTEX
Cortex Foundation 构建 Cortex Chat、Cortex Code 与 Cortex Bot。我们是研究优先的实验室:有用的系统,以及了解其行为的科学。
我们的宗旨
前沿人工智能将塑造人们所依赖的每一座机构。这一转变应当被研究、测量与治理,而不是交给偶然。
先理解
我们不部署无法解释的东西。可解释性研究先于——并约束——每一次产品发布。
证据先于直觉
关于模型行为的主张视为科学假说:预先登记、测量并发表,包括我们错了的时候。
作为学科的安全
这里的安全是带有测试、限度与故障报告的工程实践,不是使命声明里的一行。
共享的益处
Cortex 是给使用者的。我们尽可能公开系统如何运作,而不是把科学关在封闭项目里。
我们约束自己的事
- 01
可解释性研究先于——并约束——每一次产品发布。
- 02
我们交付的每一项能力,都会就滥用加以评估。
- 03
研究笔记在我们发表时出现在本站。这里没有我们未曾写过的论文。
- 04
未能运行的 Cortex Security 审查是失败,绝不是批准。
- 05
算力跟随问题,而不是演示。
- 06
若一个问题让我们难堪,我们仍会公开作答。
我们构建什么
Cortex Foundation 构建 Cortex Chat、Cortex Code 与 Cortex Bot。我们是研究优先的实验室。此处没有可列明的具名董事会、独立信托或公益公司。
阅读研究计划