方丈記——更新され続ける事業計画と、仮設を選ぶという設計

はじめに——改定版のほうが先に出る規約

AI開発企業 Anthropic, PBC は2023年9月に「Responsible Scaling Policy」を公開した。これはAIの能力が危険な水準に達したときの対応手順をまとめた規約であり、公開から間もなく改定版が出た。守るべき約束のほうが、先に書き換えられていく。

普通、規約や事業計画は、完成させてから世に出すものだと思われている。だが、この規約は最初から「書き換えられる前提」で作られていた。AIの能力がどこまで伸びるか、誰にも分からないからだ。

本稿が問いたいのは、技術がどれだけ速く進むかではない。前提が崩れることを織り込んだ計画は、どう作られているのか。その手がかりを与えるのは、意外にも12世紀の日本に建てられた、一辺が一丈（約3m）の小屋である。

その計画は、どの単位なら作り直せる形で作られているか。これが本稿を貫く問いである。