m.hagiwara

AI がインシデント対応を肩代わりするほど、エンジニアが自分のシステムへの勘を失っていく、という元 SRE のブログ記事。 ・いわゆる「AI SRE」はアラート調査、仮説立て、テレメトリ照会、直近デプロイとの相関付け、修正の実装までこなす。夜間の定型障害を人が起きずに片づけてくれるのはありがたい ・問題は、その定型障害こそが、対応者が安全に「システムがどう振る舞い、どう壊れるか」の勘を育てる場だったこと。定型を自動化に奪われると、前例のない重大障害が来たとき練習不足のまま人が引き継ぐことになる ・これは新しい話ではなく、1983年のリサンヌ・ベインブリッジ「Ironies of Automation」が指摘した逆説。自動化は熟練の機会を減らすのに異常時の責任は人に残る、だから運用者はむしろ以前より訓練が要る、と ・著者の予測は、AI で平均 MTTR は下がるが、複雑な障害の解決時間はむしろ延びる。勘を失った対応者が調査に手こずるから ・航空の対比が効いている。エンジン停止は10万飛行時間あたり1回未満とまれだが、起きたら即座に正しく対処せねばならない。だからパイロットは半年ごとにシミュレータで異常時を反復する ・処方箋は、AI の説明を聞くだけでなく実地の練習。障害シミュレーションやカオスエンジニアリングで、不完全な情報の中で判断し、人を動かし、対応を回す技能を鍛える LLM が仕事を巻き取るほど溜まる「理解の負債 (comprehension debt)」という言い方が腑に落ちた。 sylvainkalache.com/blog/ai-h…