依拠に値するAIシステムを
CORTEXについて
Cortex Foundationは Cortex Chat、Cortex Code、Cortex Bot を作ります。研究を先にする研究室です。有用なシステムと、その振る舞いを知る科学。
目的
フロンティアAIは、人が依拠するあらゆる機関を形作ります。その移行は研究・測定・監督されるべきであり、偶然に任せるべきではありません。
まず理解する
説明できないものは配備しません。解釈可能性の研究は、すべての製品リリースに先行し、それを条件付けます。
直感より証拠
モデルの振る舞いに関する主張は科学的仮説として扱い、事前登録し、測定し、誤りも含めて公開します。
規律としての安全性
ここでの安全性は、試験・制限・障害報告を伴う工学の実践であり、使命文の一行ではありません。
共有される便益
Cortexは使う人のためのものです。閉じたプログラムに科学を閉じ込めず、システムの仕組みについて公開できることを出します。
自らに課していること
- 01
解釈可能性の研究は、すべての製品リリースに先行し、それを条件付けます。
- 02
出荷する能力はすべて、悪用の観点から評価します。
- 03
研究ノートは公開したときにこのサイトに出ます。書いていない論文はここにはありません。
- 04
実行できなかった Cortex Security のレビューは失敗であり、承認ではありません。
- 05
計算はデモではなく、問いに従います。
- 06
問いが私たちを困らせても、それでも公開で答えます。
つくっているもの
Cortex Foundation は Cortex Chat、Cortex Code、Cortex Bot を作ります。研究を先にする研究室です。ここに列挙できる、指名された理事会、独立信託、公益法人はありません。
研究プログラムを読む