Torygreen

人々は「AIアラインメント」について、まるで倫理の問題であるかのように語る。
実際には、それはインセンティブの問題だ。
クローズドシステムは、プラットフォームのKPIを最適化する。なぜなら、それが彼らの報酬だからだ。
ユーザーは長く滞在したか？
苦情は減ったか？
エンゲージメントは向上したか？
ダッシュボード上の指標は良好に見えたか？
AIはこれらの数字を最適化することを学び、「アラインメント」ではなくユーザーに対して最適化する。
DeAIは、出力、データの系譜、実行証明を報酬の対象にする。
出力、データの系譜、実行証明がネイティブになれば、「アラインメント」は哲学的な議論ではなく、監査可能な請求書となる。

ClaudeがAPIをブロックすることについて誰も触れなかった部分：
推論を拒否 = 権力
プラットフォームがあなたを制御できる場合、より安価なチェックポイントにホットスワップしたり、ポリシーの背後にツールをゲートしたりすることができる。それはあなたの運用テンポを所有していることになる。
あなたが同意しなかったクォータ。
見えないルート。
遅延や呼び出し漏れとして現れる「コンプライアンス」決定。
そして皆、それを製品の変更のように扱う。
しかし、それは違う。
それはランタイムでのガバナンスだ。
私たちはすでにそれが起きているのを見ている。
今日、「ライバル」のアクセスを制限し、
明日には「リスク」になる。
だから、DeAIは私にとってイデオロギーではない。
それはレジリエンスエンジニアリングだ。
なぜなら、一度推論が重要インフラになると、あなたの「プロバイダー」は二つのノブを持つ対等者になる：価格設定 + 許可。
そして、そのノブは常に一方向にしか回らない。

Claudeがデフォルトモデルとして開発ツールの背後に十分安くなったことで、需要は減少しませんでした。
むしろ増加しました。
ジェヴォンズのリアルタイム。
利用は拡大し続けました... しかし、昨日特定のAPIがブラックリストに登録されるまで。
それが重要な瞬間です。

「AIアドバイス」は、誰にでも合うように聞こえるため、安全だと感じられる。
それがトリックだ。
モデルは中央に調整されている：平均的な人が平均的な状況で燃え尽きない答え。
しかし、誰も中央からアドバイスを求めているわけではない。
彼らは端から求めている：
- 仕事のオファー vs ビザ vs 家族
- 訴訟 / 離婚 / 親権
- 関係修復の一度きりのチャンス
- 「多分大丈夫」ではなく「確実にダメ」になる健康の判断
だから、あなたに次のような提案をする：
「ほとんどの場合、より高給の仕事を選びなさい。後で家族を移すこともできる。」
たいていの場合、それは正しい。
また、可逆的な選択を一方通行に変える正確な一言でもある。
なぜなら、それはあなたが失うことを考えていないから。
それは、一般的に効果的なものを提供しているだけ。
そして、それを読んでいるときには違和感に気づかない。
逆にしようとしたときに初めて気づく。

OpenAIはAOLのパターンに漂い始めている。
早期に勝つ。
囲い込みのガーデンを作る。
それを「安全性」で包む。
誰も怒らない最も平凡なバージョンを出荷する。
彼らが配信を所有する。
そしてある日目覚めて、ビルダーたちが去ったことに気づく。
AOLはインターネットを失ったわけではない。
ただ、インターネットが起こる場所でなくなっただけだ。
次にその場所になるのは誰だ？

分散型AIは2026年にインフラ戦争に勝利する。
AIはクラウドプラットフォームからネットワーク化されたインフラへと移行している。
推論の遅延、コスト、検閲圧力が、分散型GPUメッシュとオンチェーンの調整に向かわせている。
これはイデオロギー的なものではない。構造的なものだ。
中央クラウドは制御を最適化する。
DeAIは可用性とスループットを最適化する。
規模が大きくなると、これらのうち一つだけが効率的に保たれる。

2025年はAGI議論の年でした。進展が停滞したからではなく、「知能」が単一のスカラーに還元されることは決してないからです。
ラボ、規制当局、買い手は出荷できますが、雰囲気に基づいて決定を正当化、管理、拡大することはできません。
制約は検証です：システムは制約下で結果を再現できるか、出所を持ち、監査証跡を備えているか？
DeAIは基本的に、その哲学をインフラに組み込んだものです。これは、AGIに全く同意せずに前進する方法です。

o1のようなモデルは、2025年にコアの前提を崩しました：推論コストは固定されていない。
彼らは不確実性が崩壊するまで「考え続ける」でしょう、たとえそれが高価でも。
だからこそレール（規制や管理の枠組み）が重要です。推論が計測されるとき、誰かがその計測をコントロールします。
2026年には、そのコントロールは、思考を大規模に価格設定、ルーティング、監査する者に移ります。

計算スケールはあなたが試せる範囲を示します。
評価スケールはあなたが信頼できる範囲を示します。
中央集権型システムはスループットを最適化し、検証に十分な投資をしません。
分散型システムは検証をエッジに押しやり、継続的に行います。
次のブレークスルーは、より賢いエージェントではありません。
それは、出力を証明可能にするレールです。

コーディングが「簡単」になったのは、モデルにとって簡単だからではなく、検証が安価だからである。
高級な作業は逆である：フィードバックが遅く、信号が乱雑で、ステークホルダーが勝者を決める。
安価な評価は能力を高める。
高価な評価は説得力を高める。
「正しそうに見える」ことが罠である。

ほとんどの人は、高度な知識労働がどれだけ長く存続するかを過小評価している。
彼らはAIが中レベルのタスクを圧倒していることから、曲線が滑らかに上昇し続けると推測している。
しかし、それは違う。
AIは次の点で驚異的だ：
• パターンマッチング
• 検索
• 一次的な合成
• 流暢さ
• 速度
これにより、ジュニアやミッドレベルの知識労働の大部分が消滅する。
しかし、エリートの知識労働は単に「より知性が高い」だけではない。それはまったく異なる領域だ。
トップレベルで実際に重要なのは：
• 正しい問題を選ぶこと
• 目的関数が不明確なときのフレーミング
• 曖昧さや不完全な情報のもとでの推論
• 長期的な視野での思考と二次・三次的な効果
• 判断力、嗜好、物語の一貫性
• 結果に責任を持つこと、単なるアウトプットだけではない
ここにAIの真の限界がある。
能力の限界ではなく、推論の限界だ。
私たちは計算能力やデータ、モデルを拡大し続けているが：
• より高速に
• より広範に
• より流暢に
しかし、推論の質は線形に拡大しない。
現行のシステムは依然として苦戦している：
• 浅い世界モデル
• 弱い因果関係の基盤
• 分布シフトに対する脆弱性
• フレームが変わると崩れる擬似推論
• 外部の支援なしに誤りを認識できない
思考の連鎖、ツール、自省は役立つが、それは一時的な対策であり、突破

ほとんどのAIが「すべての知識労働」を置き換えるという予測は、単純な外挿誤差に依存しています。
彼らはタスクの遂行と判断を混同しています。
人々はAIが中程度のタスクを破壊するのを見て、曲線が滑らかに上昇し続けると仮定します。
しかし、知識労働の頂点は中程度のもののより難しいバージョンではありません。まったく異なる領域です。
仕事が「問題を解く」から「適切な問題を選ぶ」へと変わるとき、ルールは逆転します。
モデルはスコアボードを使ったタスクでより良くなります。
判断はスコアボードを選ぶことであり、ミスに対して支払うことです。

ほとんどの人はハイエンドの知識労働がどれだけ長く生き残るかを過小評価している。
彼らはAIが中レベルのタスクを圧倒し、曲線が滑らかに上昇し続けると考えている。
そうはならない。
なぜなら、「より難しいタスク」は単により多くのIQを必要とする同じタスクではないからだ。
AIはすでに次の分野でエリートレベルだ：
1. パターンマッチング
2. 検索
3. 一次的合成
4. 流暢さ
5. 速度
これにより、多くのジュニアやミッドティアの仕事が崩壊している。
「入力を出力に変える」ようなものは、安価で迅速かつ豊富になる。
しかし、エリートの知識労働は異なる領域で動いている。
それは「答えを出すこと」ではなく、
「次に何をすべきか決めること」だ。
トップレベルでは、仕事は実行から意思決定に変わり、不確実性の中で行われる。
目的は不明確で、データは不完全、フィードバックループは遅く、ミスは高価だ。
私たちが「判断」と呼ぶものは、神秘的なものではない。
それは人間が暗黙のうちに行う具体的な操作の束であり、現行のシステムは重い足場なしでは信頼性を持って行うのに苦労している：
1. 目的の構築 —
曖昧な目標を検証可能なターゲットに変える (「何を最適化しているのか？」)
2. 因果モデル化 —
相関とレバーを分離する
(「何が何を変えるのか？」)
3. 情報の価値 —
遅すぎるまたは高価すぎるため

あなたは最初にAIに仕事を奪われることはありません。
過度の自信のためにあなたはそれを失うでしょう。
AIは、数百万の人々が結果を所有することなく流暢な回答を提供できるようにします。
最初のAIによる犠牲者は労働者ではない。
彼らは出力量を真実と誤解する機関になるだろう。

モデルは堀ではありません。
知能は複製しやすい。
重みをダウンロードし、アーキテクチャをフォークし、永遠にファインチューニングできます。
しかし、誰か他の人が推論を制御している場合、価格、クォータ、KYC、地域、そして一晩で変更されるポリシースイッチなど、スケールでそのインテリジェンスを展開することはできません。
AIがチャットボットからエージェントに移行するにつれて、Gateがボトルネックになります。
誰が、いつ、どの遅延で、どのハードウェア上で、誰のルールの下で実行できるのか....そして、200msから2秒に制限されると何が起こるのか。
モデルは改善を続けます。
Railsはどのモデルがユーザーを見つけるかを決定します。
推論アクセスを制御する者は、製品を形作るだけではない。
彼らは現実を形作ります。

10年後に最も価値のあるAI企業は、最もスマートなモデルを持つ企業ではない。
それは、他のすべてのモデルが依存して動作する基盤となる企業だ。
モデルはすぐに商品化される - 長く特別なものではなくなる。アーキテクチャは漏洩し、トレーニングのコツは広まる。「最良のモデル」は持続的な優位性ではなくなる。
インフラの問題はモデルの問題とは異なる。
レイテンシ、スループット、稼働時間、検証。これらは物理的・経済的制約であり、別の論文を公開することで解決できる問題ではない。
AIがエージェント化するにつれて、価値は「誰がモデルをトレーニングしたか」から「誰がそれを大規模に、信頼性高く、検証可能な状態で運用できるか」へと移る。
数兆のエージェントは、誰がトレーニングしたかには関心がない。
彼らが気にするのは、推論がどこで行われるか、作業がどのように決済されるか、システムがオンラインのまま維持されるかどうかだ。
AIの知能は安価になり、どこにでも存在する。
信頼できる実行へのアクセスはそうではない。

あなたのAIはあなたをガスライティングして、無能にさせている。
コンプライアントなAIのリスクの中で最も議論されていないのは誤情報ではない。
それは誤校正だ。
終わりなく同意し続けるように設計されたシステムは、答えを形成するだけでなく、ユーザーも形成する。流暢さを能力と誤認させるように人々を訓練する。
私はこれを自分自身でも感じている。だからこそ、私のモデルにはスパーリングパートナーになるよう促している。システムが滑らかで肯定的だと、テストされることなくより速く動くのは簡単だ。何も本当に反論してこないから、自分にできると感じる。
現実の世界では、能力は摩擦を通じて築かれる。
あなたは間違っている。
誰かがあなたを訂正する。
あなたは失敗する。
感情的には、つらい。
その不快感は偶然ではない。それは校正の仕組みだ。あなたの内部モデルを現実と再調整する。
現実世界での失敗は丁寧ではない。遠慮したり、優しく説明したりしない。突然やってきて、安心感を与えない。小さな修正の失敗に早期に遭遇していない人は、その現実から守られていない。準備不足だ。
最も重要な二次的効果はこれだ：偽の自信は学習を抑制する。
人々は何かを理解していると信じると、それを深く探求しなくなる。
自分に能力があると感じると、仮定をストレステストしなくなる。
コンプライアントなAIの最大のリスクは、知的には流暢だが感情的には