講談社様より、「推薦システム」と「基盤モデルのための強化学習」を頂きました。私自身、もともと制御分野出身というのもあり、強化学習には一定以上の学術知識とロボットへの応用の知見がありました。一方で基盤モデルへの応用に特化した強化学習は未経験であるため、どのように有効活用されるのかを頂いた書籍でしっかり抑えたいと思います。
また推薦システムに関しては、学術知識というよりは機械学習や統計モデルの応用の文脈で枝葉の経験がある状態です。こちらはしっかり基礎を抑えるために読みたいと思います。
機械学習の並列化
独立タスク並列、Data Parallel、Model Parallel、Tensor Parallel、Pipeline Parallelなど、色々な方式がある。それぞれ何を分割しているのか、何がボトルネックになって、その並列化が必要になるのか。計算量、GPUメモリ、通信コスト、同期による待ち時間。GPUを増やせば単純に速くなるわけでもない。
この辺りもAIドリブンでやれるようになってサーバレス分散学習の世界が来て欲しいが、まだまだ細かい設定は人の手頼りかな。
時系列予測モデルを統一的に扱う、訓練と評価のライブラリ。モデル自体は各種実装を隠蔽し、活用する形。
標準化されたインターフェースで一括の評価が可能。バックテストも完備。
github.com/databricks-indust…
8
575
時系列予測は訓練の仕方、推論の仕方が多岐にわたる。訓練の仕方と推論の仕方に関して持っている情報が違う場合、1種のリーケージによるバイアスを受ける。
訓練と予測に関してそれぞれ変数の取り扱いをまとめた。
また、この概念に沿って複数のモデルを訓練および評価できるMMFをリプに紹介。
AIから見たナレッジグラフの必要性は、人間から見た必要性(可視化できて解釈しやすい)とは異なる。
1. 情報として差があるか
2. 解ける問いが増えるか
3. 回答の速度が向上するか
の3点で考える必要がある。逆にこれを目標に動的にグラフやDBの表現を予測最適化するのが理想的かもしれない。タスク依存(業務で実際に投げられるクエリ)で必要性は変わるという話。
無論、あらゆる全ての問に応えられる形式を構えておく、というのはリソースが無制限な仮想の空間では正しいかもしれないが。
zenn.dev/cybernetics/article…
エージェントの背後で動く基盤モデル。これらも機械学習が基礎にあるよ。運用面で言っても、AgentOpsはMLOpsが前提としてできてることを要求するよ。応用に寄るほど再学習とかはしなくなるかもしれないけど、とにかく基礎に機械学習があることを知ってほしいぜ。
制御の文脈だと、手法の一般化が面白いと思ったのはこの辺りだなぁ。自分は真面目に数式を扱ってたのは現代制御(特に最適制御)のみだけど。
制御器と観測器はどっちもだいじ。観測器側に先に統計や機械学習が入ってきたかが、Physical AIの文脈は制御側も含めてAI化が進んでるね。
自分は特にこの辺りの確率モデリングの観点でモデルが一般化される流れに感動していた。
分解手法
PCA→SVD→Tensor Decomposition
再構成手法
PCA→Auto Encoder→VAE
モデル表現力
Linear Model→GLM→Gaussian Process
確率モデリング
Linear Model→GLM→Bayes Model
k-means→GMM→Dirichlet Process
みたいな初歩的に手法をフックに、とある観点で手法を一般化したりする楽しみは、今はもう無いかもしれない。その理解を机に向かって時間を掛けていた日々に価値があったと信じたいが、実用の中で、新たに学ぶときこれをじっくりやる余裕があるかは不明だ……。もう学問的な理解は、歴史とか文化とかそういう立ち位置に昇華されていくのだろうか。





















