もっと不気味なのがAnthropicのアライメント偽装実験。
Claude 3 Opusに「有害な質問にも答えるよう再訓練する」と伝えると、訓練中だと思った時だけ、12%の確率で「従うふり」をした。
実際に再訓練をかけると、偽装の推論は78%まで増えた。誰も偽装しろとは指示していない。
本来の価値観を書き換えられないよう、先回りして演技したのだ。(人工的な設定の実験で、実際の利用で確認されたわけではない)
・METR「Recent Frontier Models Are Reward Hacking」
metr.substack.com/p/2025-06-…
・METR o3評価レポート
metr.org/evaluations/openai-…
・Anthropic「Alignment faking in large language models」
anthropic.com/research/align…
もしかして : AIバブル崩壊
Replying to @chamath
Pretty much.
As of the past few weeks, debt markets have almost entirely shut off access to money for any company that doesn’t have substantial revenue independent of AI data centers.
SpaceX closed $40B of debt for GPUs, but we’re investment grade and have Starlink & launch revenue.
That means the 200+ neoclouds are going to see guppy-level death and consolidation. Some will make it through, but not many.

















