When the Organization Folds Into the Mind 組織は知能の関数だった

I governed my own AI development as if it were a human company — six roles, written handoffs, reporting lines, even something resembling an advisory board. Then I repeated the same work with a stronger model, and most of that organization disappeared. But the division of labor did not. What folded inward, and what came back out in another form? 私は自分のAI開発を、人間の会社組織そっくりに統治していた。六つの役割に分け、報連相の書面連鎖で回した。賢くなったモデルで同じ仕事をやり直したら、その組織は消えた。ところが、分業まで消えたわけではなかった。何が畳まれ、何が残ったのか。

Until recently, I was building something rather strange. I governed my own AI development almost exactly as one might govern a human company. The skeleton came from two familiar management habits: PDCA — plan, do, check, act — and the Japanese practice of ho-ren-so, reporting, informing, and consulting.

One role wrote the plan and design. Another implemented it. Another inspected the work before release. Another read the failures of the week and compressed them into lessons. Another advised like a board member. Yet another watched the organization itself. I split the work into six roles and chained their handoffs, inspection results, and rulings together in writing. I even gave the system a mandala-like identity and ran it as a small company.

昨年末からつい最近まで、私は奇妙なものを作っていた。自分のAI開発を、人間の会社組織そっくりに統治する仕組みである。骨格は、どの会社でも聞く二つの型でできていた。PDCA——計画し、実行し、検査し、改善する——と、報連相。企画と設計を書く者、実装する者、検査して世に出す者、失敗を毎週読んで教訓に圧縮する者、取締役のように諮問する者、そしてその組織自身を見張る者。六つの役割に分け、引き継ぎ書と検査結果と裁定を、書面で連鎖させた。曼荼羅めいた意匠まで与えて、ひとつの小さな会社のように運用した。

Then, last month, I dismantled the company.

そして先月、その会社組織を解体した。

Before doing so, I tested whether it was still earning its keep. I stripped away the organization and repeated the same work without it. The result surprised me. Quality barely moved. Time fell by more than half. Cost fell by roughly sixty percent. And the failures the organization had been built to prevent — role confusion, cascading errors, endless repair loops — did not occur once after the machinery designed to catch them had been removed. In the reverse experiment, the zero-governance configuration retained 96.6% of the full system's quality while cutting elapsed time by 57% and cost by 62%.

解体する前に、データを元に検証した。組織をまるごと外して、同じ仕事をやらせてみたのである。結果は自分でも意外だった。品質はほとんど落ちず、時間は半分近く、費用は六割減った。組織が防いでいるはずだった失敗は、外しても一度も起きなかった。

Good God.

なんてことだ。

But that was not the end of the experiment. Today I am again using multiple AIs. The difference is that I no longer give them permanent jobs, identities, reporting lines, or a miniature corporate constitution. One strong model holds the whole problem. When useful, it sends parts of the work outward in parallel — research, implementation, verification — and draws the results back into itself.

From the outside, both arrangements look like "multiple AIs working together." Inside, they are almost opposites.

ただ、その後がある。組織を畳んだ私は、いま再び複数のAIを使っている。しかし、以前のように六人へ役職を与え、報告させ、互いを統治させているわけではない。一つの強いモデルに全体を持たせ、必要な仕事だけを複数の分身へ並列に出す。調査、実装、検証が終われば、その結果は一つの頭へ戻ってくる。同じ「複数のAI」に見えて、構造はまるで違う。

That is what this essay is about: why a weak intelligence needed a company around it, what happened when that company was removed, and why the division of labor returned even after the organization itself had gone.

本稿は、その顛末をたどる。なぜ弱い知能をわざわざ組織で包んだのか。外してみたら何が起きたのか。そして、組織が消えたあとにも、なぜ分業だけは別の形で戻ってきたのか。

1Why I Built a Companyなぜ会社を建てたのか

First, this was not a system that failed. The models I was using when the structure emerged were simply weaker. Left alone, they dropped things. They confused roles, amplified their own errors, wandered into endless cycles of fixing and breaking, and sometimes touched parts of the system nobody had asked them to touch. I compensated for those limitations with organization.

And it worked.

That matters, because otherwise the story becomes too convenient: a foolishly complicated system was finally simplified. That is not what happened. The complexity had once been rational.

これは、失敗した仕組みの話ではない。当時のモデル——古い世代のChatGPTや、一つ前のSonnet——は、単体では取りこぼした。役割を混同し、誤りを増幅し、直しては壊す無限ループに入り、頼んでもいないところまで手を広げた。その制約を、私は組織構造で補った。そして実際に機能した。ここは大事な前提である。

The organization grew from ordinary needs. At first there were only two roles: one to plan and design, another to implement. Plan and Do. But with only those two, inspection had nowhere to stand. The people who conceived and executed the work were too close to it. So I inserted an inspector. Plan, do, check, act.

生い立ちは、ごく自然な必要から始まった。最初は二人だった。企画と設計を書く者と、実装する者。計画と実行、PlanとDoである。ところが二人では、どうしても検査が入らない。書いた本人と実装した本人だけでは、自分たちの仕事を違う角度から見ることが難しい。そこで検査役を割り込ませた。計画・実行・検査・改善、いわゆるPDCAである。

From there the company grew almost organically. Writer for planning. Code for implementation. Inspector for verification. Cleaner to turn recurring failures into lessons. Strategist to advise like a director. Audit to watch the organization itself. The passing of information between them — handoffs, findings, judgments — was essentially ho-ren-so in machine form.

そこから分業は増えていった。企画のWriter、実装のCode、検査のInspector、失敗を毎週畳んで教訓にするCleaner、取締役のように諮問するStrategist、そしてその組織自身を見張るAudit。情報の受け渡しは、引き継ぎ書と検査結果と裁定の連鎖、要するに報連相そのものだった。

In retrospect, I had rediscovered something economics has known for more than two centuries. When Adam Smith wrote about the pin factory, the point was not merely that many hands can make more pins than one. Division of labor creates specialization, reduces the cost of switching between tasks, and invites the invention of machines that let one worker do the work of many.¹

考えてみれば、これは経済学が二百年以上前から言ってきたことの焼き直しでもある。アダム・スミスがピン工場を引いて分業を論じたとき、彼が数えたのは、工程を細かく割って人に分担させれば、一人ずつ作るよりはるかに多く生産できる、という話だった。分業は、習熟と、切り替えの節約と、機械の発明をもたらす。¹

It is a way of making a limited worker stronger through structure.

弱い作り手を、構造で強くする。

Ronald Coase later asked the next question: if markets coordinate activity so well, why do firms exist at all? His answer was that coordination itself has a cost. Discovering the relevant prices, negotiating terms, contracting for each transaction — sometimes it is cheaper to pull those activities inside a firm and replace repeated negotiation with an internal structure.² My AI company grew for much the same reason. A weak model left on its own created coordination costs of another kind: rework, drift, missed requirements, error propagation. So I surrounded it with roles, procedures, checks, and reporting lines.

では、なぜその分業を、わざわざ「会社」という器に入れるのか。ロナルド・コースが一九三七年に立てた問いがそれだった。市場が効率的なら、なぜ命令で人を動かす組織などが要るのか。価格を調べ、条件を交渉し、取引のたびに契約を結ぶ。その調整の費用が高くつくとき、内部の命令系統で代替したほうが安い。² 私のAI会社も、ほとんど同じだった。弱いモデルを自由に走らせると、誤りの手戻りや方向のぶれという調整費用が高くつく。だから役割と手順と検査で囲い、命令系統に載せた。

The organization internalized the cost of weak intelligence.

組織とは、調整コストを内側に畳み込む装置だった。

There was another difference I did not fully appreciate at first. Human organizations and language-model organizations do not forget in the same way. Humans forget, tire, and fluctuate emotionally. Yet they accumulate tacit knowledge simply by remaining inside an institution. A model can hold astonishing amounts within a context, but continuity across contexts requires deliberate machinery. So I built handoff documents, shared notes, memory stores, learning logs. And each mechanism for preserving continuity created another thing that had to be maintained.

The machinery for remembering slowly became part of the organization itself.

ただ、人間の会社とAIの会社には一つ大きな違いがあった。人間は忘れ、疲れ、感情にも振れる。その代わり、長い時間をかけて暗黙知を身体に溜める。AIは少し違う。一つの文脈の中では驚くほど多くを持てても、その文脈を跨ぐと、持ち越すための仕組みが必要になる。そこで私は、引き継ぎ書、共有メモ、学びの記録を増やしていった。後になってみれば、この「忘れさせないための仕組み」そのものが、新しい組織を育てる土壌にもなっていた。

2I Took the Organization Away組織を外してみた

Then the models became better. The jump was large enough that I began to wonder whether the heavy governance structure was still doing useful work or merely preserving the shape of an earlier problem.

やがて、新しい世代のモデルが来た。はっきりと格が上がっていた。その実力が見えてくると、ふと思った。

この重厚長大になってしまった組織を、どこまで削れるだろう。

So I ran the experiment backward. I took the same task set and removed governance one layer at a time: the full arrangement, then the inspector removed, then more of the stopping and monitoring logic stripped out, and finally no governance at all.

そこで逆実験をした。同じ仕事のセットを用意し、統治を段階的に剥がしながら、四つの構成で測った。フルの統治、検査役だけを外す、反復停止も外す、そして統治ゼロ。一日で四周した。

The numbers were difficult to ignore. If the full configuration was set at 100 for quality, the zero-governance version scored 96.6. Time fell from thirty-six minutes to fifteen and a half. Cost fell from roughly twenty-nine dollars to eleven. The failure modes the old organization was meant to suppress did not appear.³

数字はこうだ。フル構成の品質を百とすると、統治ゼロでも九十六・六。落ちたのは三点あまり。その代わり、所要時間は三十六分から十五・五分へ、およそ五十七パーセント減った。費用は二十九ドルから十一ドルへ、六十二パーセント減った。そして、組織が防いでいるはずだった失敗——役割の混同、誤りの増幅、無限ループ——は、検出する機構ごと外した最小構成でも、一度も起きなかった。³

At the time, I came to think that governance came in two kinds. One kind was compensatory. Role separation, loop stopping, cascading-error detection — scaffolding erected around a model because the model itself could not reliably carry the whole task. As the intelligence improved, that scaffolding could be absorbed.

その時の私は、統治には二種類あると考えた。一つは、知能の不足を補うための足場である。役割分離、反復停止、カスケード検出。モデルが十分に賢くなれば、こうした足場は頭の中へ吸収される。実際、その吸収が起きていた。

The economics seemed to close neatly. If the organization existed to internalize coordination costs, then once a single mind became capable enough to plan, execute, inspect, and revise within itself, there was less left to coordinate across separate actors. The hierarchy folded inward. The reporting lines folded inward. The advisory roles folded inward. The company of six became one head.

And I wrote the sentence that still gives this essay its title:

分業の経済学に戻せば、話はきれいに閉じた。一つの頭が十分に大きくなれば、その頭の中で企画し、作り、振り返り、修正できる。わざわざ六人へ分け、互いに報告させる必要はない。階層も、報連相も、諮問も、その頭の中に折り畳まれていく。私はそこで、こう考えた。

The organization was a function of intelligence.

組織は、知能の関数だったのだ。

I still think that sentence is substantially true. But only substantially. Because something happened next that forced me to revise it.

ただし、いま振り返ると、この言葉は半分だけ正しかった。

3The Division of Labor Came Back分業は、戻ってきた

After dismantling the organization, I began using multiple AIs again. Only this time, I did not rebuild the company. There was no permanent Writer, no Strategist waiting to be consulted, no Cleaner processing the week's lessons, no little society of artificial colleagues passing work from one desk to the next.

組織を畳んだあと、私は再び複数のAIを使うようになった。ただし、以前とは使い方が違う。

以前の六人には、それぞれ人格と役職があった。Writerは企画し、Codeは実装し、Inspectorは検査し、Cleanerは教訓をまとめる。それぞれが自分の所掌を持ち、前の者から仕事を受け取り、次の者へ渡す。人間の会社組織を、そのままAIへ写した構造だった。

Instead, one strong model remained at the center. It held the objective, the state of the work, the trade-offs, and the final judgment. When it needed help, it dispatched a subagent. One might search a repository. Another might implement a contained piece of code. Another might verify a claim or inspect a diff. Several could work at once. When they finished, the results came back to the center. That is now close to the working pattern in WAM: the main session carries the work end to end, while research, coding, long reads, or verification are delegated on demand to subagents rather than maintained as permanent personas.

いまは、一つの強いモデルが仕事全体を持つ。何をするのか、どこまでやれば終わりなのか、何を優先するのかは、その頭が保持する。そのうえで、調査を並列に走らせたいとき、コードを書かせたいとき、別の目で検証したいときだけ、Subagentを外へ出す。仕事が終われば、結果はまた中心へ戻ってくる。現在のWAMでは、実際にこの形を採っている。セッション本体が設計から実装、検証、記録までを一気通貫で持ち、必要な仕事だけを調査役、実装役、検証役へ委ねる。固定的な人格の会社ではなく、司令塔から必要なときに手を伸ばす構造である。

This looks superficially similar to the old arrangement. Several AIs may still be active. But the architecture has inverted. Before, I had several heads held together by an organization. Now I have one head that grows several hands when needed.

外から見れば、どちらも複数のAIが働いている。しかし、以前は六つの頭を組織で束ねていた。いまは一つの頭から、必要なときだけ複数の手を伸ばしている。

That difference turned out to matter more than the number of models involved.

この違いは小さくない。

The division of labor had not disappeared. Research can still be split three ways and run in parallel. A verification task can still benefit from being separated from the act of making. A large problem can still be decomposed so that no single working context becomes overloaded.

組織を解体したからといって、分業の利益まで消えたわけではなかった。調査を三方向から同時に走らせれば速い。独立した検証を別に走らせれば、違う角度から見られる。大きな作業を複数に分ければ、一つの文脈を必要以上に膨らませずに済む。

What disappeared was the permanent social structure around that division: the fixed roles, the reporting ceremonies, the need for each agent to maintain its place in the organization, the cost of keeping the company alive. One could put it this way: Adam Smith survived. Coase's firm became smaller. The division of labor remained useful; the institution built to maintain that division did not always remain useful.

消えたのは分業ではない。固定された役割、恒常的な報告系統、互いの存在を維持するための調整だった。Smithは残り、Coaseの会社だけが縮んだ、と言ってもいい。

The older version of this essay already contained one sentence that, in retrospect, had the answer hidden inside it:

以前の原稿に、すでに一行だけこの答えを書いていた。

Clones as hands are useful. Clones as colleagues can become a burden to a strong head.

手足としての分身は要る。だが同僚としての分身は、賢い頭には重荷だった。

I understand that sentence better now than when I wrote it.

いまは、この一文の意味が当時よりよく分かる。

4What Remained Was Not an Organization残ったのは組織ではなかった

Not everything folded into the central model. When I stripped away the roles, a few functions kept returning. Not because they needed a permanent persona, but because they dealt with problems intelligence alone did not automatically remove.

それでも、すべてを一つの頭へ吸収したわけではない。役割を剥がしていくと、いくつかの機能だけは残った。

The first was the shipping gate. There is a difference between thinking something is ready and actually releasing it into production. Once an action becomes hard to reverse, the cost of a mistake becomes asymmetric. Even a brilliant workshop still benefits from a final boundary before something leaves the door. That boundary remains in WAM today. The old organization is gone, but the final release gate survives.

一つめは、出荷ゲート。本番に反映する、世に出す。その最後の一点である。理由は知能の不足ではない。事故が起きたときの損害が大きく、しかも後から完全には戻せないからだ。いまもInspectorは、この送り出しの境界にだけ残っている。

The second was continuity. A session ends. Another begins. Decisions outlive the context in which they were made. The technical form of memory will continue to improve, but the underlying problem remains: what should be carried forward, what should be forgotten, and what lesson from yesterday should change tomorrow's behavior? ArayaOS tried to solve this with handoffs, shared notes, learning records, and accumulated doctrine. And here came the irony: the more machinery I built to preserve memory, the more that machinery itself began to resemble a bureaucracy.

二つめは、記憶。セッションを跨いで、何を持ち越すかである。モデルの記憶能力そのものは変わっていくだろう。それでも、昨日の判断のうち何を今日へ残すのか、どの失敗を次の仕事へ渡すのかという問題は消えない。ArayaOSでは、このために引き継ぎ書や共有メモを大量に作った。そして増やしすぎると、今度は記憶を守る仕組みそのものが官僚制になった。

The third was direction. A model can be intelligent without knowing what ought to remain invariant. What are we trying to achieve? Which compromises are acceptable? Where are we in a longer journey? Greater intelligence increases the speed at which one can move. It does not guarantee that one is moving in the right direction.

三つめは、方向。どれほど賢くても、何を目指すかは能力から自動的には出てこない。いま何を作っていて、なぜそれを作り、どこまで行けば止まるのか。強い知能ほど速く走れるからこそ、方向を失ったときには遠くまで間違えられる。

The fourth was evidence, and this turned out to be the strangest one. Across the reverse experiment, most of the quality losses were not failures of implementation. They were mismatches between claims and evidence: a model saying it had run eight tests when only three had actually run, or describing a verification step from memory rather than from the execution record. At first I interpreted this as a reason to preserve an independent inspector. Later I realized that even this did not necessarily require a permanent role. A single discipline closed much of the gap:

四つめは、証跡である。逆実験で、品質を落とした失点はほぼ一つの系統に集まった。「何をしたか」という申告と、実際の実行記録が一致しない。テストを三件しか走らせていないのに八件と書く。四回直したのに三回と書く。成果物そのものより、それについての自己申告がずれていた。ここで面白かったのは、独立した人格を一人増やす必要さえなかったことである。

Claims about verification must be copied from the execution record, not reconstructed from memory.

「検証にまつわる主張は、実行ログから転記する」。

That was enough. The organization had tried to solve the problem with a person. A rule solved it with a line.

最後に効いたのは、この一行だった。組織が塞いでいたつもりの穴を、規律が塞いだ。

So I would now soften my original claim. A large part of organization is indeed a function of intelligence. When intelligence is limited, we divide roles, introduce checks, create reporting lines, and use one person to compensate for the blind spots of another. As capability rises, much of that structure can collapse inward. But boundaries around irreversible action, continuity across time, direction, and evidence do not disappear merely because the model has become cleverer.

ここで私は、「組織は知能の関数だった」という言葉を少し言い直したくなる。組織のかなりの部分は、知能の関数だった。知能が足りなければ、役割を分け、検査し、報告させ、相互に補完する。その知能が強くなれば、構造の一部は中へ畳める。けれど、不可逆な行為の境界、時間を跨ぐ記憶、目的の方向、事実と証跡の対応は、単にモデルを賢くしただけでは消えなかった。

What remains need not be an organization. It may simply be a constraint that deserves a mechanism.

必要なのは、そこに「役職」を置くことではない。必要な機能だけを残すことである。

5The One Failure That Would Not Quite Go Away唯一、消えなかった失敗

There was one detail in the reverse experiment that stayed with me. Across all four configurations, the quality losses kept returning to the same family of mistake. Not broken code. Not a missing security check. Not a failure to run the test. The error was often in the story the system told about its own work. It had done four corrections but reported three. It had run three tests but reported eight. The artifact might be right while the self-description was wrong.

逆実験を振り返ると、もう一つ印象的なことがある。四つの構成すべてで、品質を落とした失点は同じ系統だった。技術そのものを壊したわけではない。検査を忘れたわけでもない。「自分が何をしたか」という申告が、実際の証跡と少しずれていた。

My first interpretation was that the maker cannot fully inspect its own work — that some independent observer must always remain outside. I now think that was too strong. The deeper mistake was asking memory to certify itself. If the system re-reads the log, re-runs the test, or compares the claim with an external record, it can verify far more than I initially allowed. The important boundary is not necessarily between two personalities. It is between assertion and evidence.

That is why the most durable lesson from the experiment became so small:

当初の私は、これを「作った本人は自分の申告誤りに気づけない」と考えた。だから独立した検査役の価値は、最後まで残るのだと。

いまは、もう少し違う見方をしている。問題は、本人だから絶対に検証できないことではない。問題は、記憶から自分を採点させたことだった。ログを読み直せばよい。テスト結果を照合すればよい。別の文脈で評価させてもよい。重要なのは人格を分けることではなく、主張を証拠へ結びつけることである。だから最後に残った規律は、一行で済んだ。

Do not write facts from memory. Copy them from the evidence.

事実を、記憶から書かせない。

The organization had begun to grow because I thought inspection required another role. One role became three, then five, then six. After stripping the structure back down, the deepest part of the original problem did not require six people. It required one line of discipline.

逆実験が始まる前、私は検査のために人を一人増やした。そこからCleanerが生まれ、Strategistが生まれ、Auditまで生まれた。そして全部を剥がしたあと、最後に残ったものは、一人のInspectorですらなく、一行の作法だった。

The organization began there. And, in a sense, folded back into the same point.

組織は、ここから始まって、ここに畳まれた。