データ基盤をLv.0〜3に段階的にレベルアップさせ、AIエージェントが大半の仕事を担う世界へ移行するためのリアルな戦略と実践。
・データ基盤のレベル定義(0:散乱 → 3:AI主導)と適切な優先順位での育て方
・ LLMエージェント「Socrates」を支えるBasic Tables(定義・品質・権限を揃えたデータインターフェース)
・Analytics Catalog(Action TaxonomyからKnowledge Baseまで)による行動・データ・指標・知見の一元管理とEDA Agentsによる自動化
自社のデータ基盤の現状レベルを診断し、AIエージェントに仕事を移譲するためのインターフェース整備やカタログ設計の優先順位を決められます。
メルカリ現場の「過去→現在→未来」の時系列と具体的な構成要素が公開されており、理論ではなく「今からどう進めるか」の実務的な道筋が見えます。
speakerdeck.com/na0/ai-shi-d…
LLMの「文章生成」に頼らず、プログラム内で「判断だけ」を超高速に返す新モデル「Jev」の正体と、自動化フローへの組み込み方。
・問い合わせを0.3秒で「経理/開発/営業」に振り分ける判断ロジックの作り方
・コードdiffを渡して「本番データ消える危険度」をスコアで判定し、自動マージを止める方法
・確信度を見て「自動実行 / 確認 / 人間に回す」の3分岐を安全に制御するパターン
Slackやメールの一次振り分け、エージェントのツール呼び出し前ゲート、フォーム入力中のリアルタイム分類など、「遅いと意味がない判断」を全部Jevに置き換えて自動化の速度を一気に上げられます。
speakerdeck.com/minorun365/k…
リクルートの西村さん(『Pythonではじめる数理最適化』共著者)が大阪大学の寄附講座最終報告シンポジウムで話した資料。社内での数理最適化の活用事例と、産学連携で技術をどう広げてきたかが具体的に載っています。
数理最適化をどうビジネス要件に落とし込み、実際に事業価値を出したのか。産学連携で技術普及と案件探索をどう回してきたかの全体像がわかります。
・ビジネス制約付き推薦を二段階最適化でどう解いたか(目標達成率を大幅に改善)
・クーポン配信をUplift Modeling+ナップサック問題で費用対効果最大化した事例
・価格決定で暗黙知を定式化し、運用者の判断を支援する方法
「スコア順で適当にやる」から脱却して、制約を満たしつつ目的を最大化する施策設計の具体的な型が手に入ります。
抽象論や入門解説ではなく、リクルートの実案件(推薦・クーポン・価格など)と産学連携の運営ノウハウまで載っています。
speakerdeck.com/recruitengin…
深層学習が複雑な関数を効率的に近似し、汎化・最適化で従来手法を上回る数理的理由。表現能力・汎化・最適化の最前線を体系的に把握できます。
・Besov空間などの非一様滑らかさ・スパース性に対する適応的近似と、カーネル法を上回る推定レート
・過剰パラメータ化下の汎化(圧縮バウンド、double descent)とNTK・平均場Langevinによる最適化解析
・特徴学習の動力学と、Transformerや拡散モデルが次元の呪いを回避する仕組み
モデル選択やアーキテクチャ設計の根拠を理論から持てるようになり、実験結果の解釈や改善方向を見極める判断材料になります。
第一人者による2023年時点の最先端を、数学的な厳密さと実務的な洞察を両立させて体系的にまとめた稀有な総括資料。
speakerdeck.com/taiji_suzuki…
単回帰から重回帰・一般化線形モデルまでを、研究目的(関連の探索・予測・因果推論)と紐づけて解説。回帰係数の正しい読み方と、目的別の変数選択の考え方が一気に整理できるスライドです。
・単回帰→重回帰への拡張と、回帰係数が「他の変数を一定にしたときの変化量」であることの具体例付き理解
・研究目的(関連の探索 / 予測 / 因果推論)によって変数選択の基準が変わる理由と、DAGを使った交絡の考え方
・「全部入れる」「ステップワイズで自動選択」が必ずしも適切でない場面と、過学習や解釈の歪みを避ける視点
分析結果を上司やクライアントに説明するとき、「この係数は何を意味しているか」「なぜこの変数を入れたか」を目的に沿ってロジカルに語れるようになります。不要な変数を入れすぎて解釈が崩れるミスも減らせます。
数式の羅列ではなく「何を知りたいか」から逆算して変数選択と解釈を説明する構成で、臨床研究寄りの具体例が豊富。因果と予測の境界を意識した実践的な視点が強いです。
speakerdeck.com/shuntaros/hu…
安いGPUレンタルサービスを実際に使った人の本音レビュー資料。
個人で触った安いGPUレンタルサービスをGood/Badで正直に比較。価格・信頼性・ストレージのリアルな違いがわかる。
・Runpod / Lambda Cloud / DeepInfraなどの実使用感と時価的な価格帯
・ストレージ代や回線速度を入れると「安い」が崩れるケース
・小規模・中規模・大規模実験で実際に使い分けているサービス
次の学習や推論のGPU選びで無駄な課金を避け、用途に合ったコスパの良い環境を選べるようになる。
公式スペックやまとめ記事ではなく、実際に触った人のGood/Badが載っています。
speakerdeck.com/aratako/an-i…
強化学習の基本(MDP・状態価値関数・ベルマン方程式)から、動的計画法による厳密解の求め方を丁寧に、近似手法(TD法・DQNなど)の考え方までを60分で体系的に押さえられる超圧縮資料。
・マルコフ決定過程と状態価値関数・行動価値関数の関係をバックアップ図とともに理解できる
・ポリシー反復法/価値反復法の厳密計算の流れを掴み、なぜ近似が必要になるのかが腹落ちする
・ニューラルネットワークによる関数近似やDQNの位置づけを、基礎理論の延長として整理できる
強化学習を業務で使う(または検証する)前に「何が理論的に正しくて、どこが近似か」を判断できるようになり、実装やチューニングの議論で的外れな選択をしにくくなる。
書籍『ITエンジニアのための強化学習理論入門』をベースに、動的計画法部分を比較的丁寧に残しつつ60分に圧縮。サンプルコード(GitHub)付きで、理論と実装の橋渡しが明確。
強化学習を「なんとなく使える」から「なぜそうなるか説明できる」レベルに引き上げられます。
speakerdeck.com/enakai00/60f…
K-meansみたいに「球状クラスタを仮定して個数を決めなきゃいけない」問題を、密度で解決する手法について整理。
「密集しているデータ同士だけをクラスタにする」という人間の直感に一番近いクラスタリング手法・DBSCANの仕組みから、パラメータの意味・他手法との違いまで一気に掴めます。
・コア点・到達可能範囲(ε)・minPtsの概念を図で直感的に理解できる
・アルゴリズムの流れ(ランダムに点を選んで密度をチェック→クラスタ拡張→ノイズ判定)をステップごとに追える
・K-meansや階層的クラスタリングとの違い(任意形状OK・ノイズ識別・クラスタ数不要)と、パラメータ調整の難しさ・高次元の課題まで押さえられる
顧客の行動ログや位置情報、異常検知タスクで「明らかに密なグループとノイズを切り分けたい」ときに、K-meansに頼らず根拠を持って手法選択・パラメータ検討ができるようになります。
大学の授業資料らしい丁寧な図解とアルゴリズムのステップ解説が揃っていて、Hands-on用のデモサイトまで用意されています。単なる概要紹介ではなく「実際にどう動くか」まで追えます。
speakerdeck.com/trycycle/ji-…
生成AIからAIエージェントを経て「フィジカルAI」へ、さらにその先のAgentic Roboticsへと繋がる技術の流れと、社会実装に向けた現実的な課題・解決アプローチが体系的に整理されています。
・VLA(Vision-Language-Action)モデル、Diffusion Policy、世界モデル、模倣学習+強化学習など、フィジカルAIを支える主要技術の役割と使い分け
・データ収集の難しさ、連続稼働時の信頼性、安全性・説明責任、現場ごとの個別対応、環境変化による忘却といった「社会実装で本当にぶつかる壁」とその対処例(MPRGの研究事例含む)
・AIエージェントが「実行時の判断」だけでなく「開発・改善プロセス自体」を担うAgentic Roboticsという新しい考え方
AIエージェントで効率化できる部分と、物理世界でまだ人間が責任を持たなければいけない部分の境界線がクリアになります。自社の自動化・ロボット導入検討時に「どこまで現実的か」を判断する材料として使えます。
流行りの「フィジカルAI」という言葉を曖昧に使わず、技術の進化段階・具体的な手法・現場課題・研究者視点での取り組みを一気通貫で繋げられます。単なる解説ではなくこれから何が起きそうかの解像度が高くなります。
speakerdeck.com/hf149/fijika…
日本がなぜ独自のLLMを作る必要があるのか、データ・計算資源・人材のリアルな壁と、それをどう乗り越えているのかが具体的にわかります。オープンサイエンスで進めるLLM-jpの裏側が丁寧に整理されています。
・日本語オープンデータが約1兆トークン程度しかない中で、どうコーパスを組んでいるか(国立国会図書館などとの連携含む)
・並列化(DP/TP/PP)やWarmup-Stable-Decayスケジューラ、Adamのε設定など、実際の学習でつまずきやすいポイントと対策
・失敗事例も含めて公開するLLM-jpの方針と、Apache 2.0へのライセンス整理の背景
自社で日本語LLMを導入・継続学習する際の「データはどこまで足りているか」「計算コストの現実感」「オープンモデルを選ぶ判断基準」を具体的に持てる。政府支援の全体像も把握しやすいので、補助金や計算資源の話が出たときの判断材料になります。
技術詳細だけでなく「なぜ日本がやるのか」「何がボトルネックで、今どこまで進んでいるか」という政策・コミュニティ視点が同時に書かれていて、成功談だけでなく失敗や制約も共有しているので、実務的に参考にしやすいです。
speakerdeck.com/odashi/niini…
Kaggle 2x Masterが実際のコンペで成果を出した手法を、現場の制約に落とし込んだ実践知です。
LLMの性能改善・軽量化・高速化の「考える順番と判断軸」。プロンプトからファインチューニング、推論高速化までを、制約下でどう選ぶかが整理されています。
・Few-shot / CoT / Self-ConsistencyからRAG、LoRA/QLoRAまでの段階的な性能向上の考え方
・量子化(QLoRA・GPTQなど)やvLLMを使った軽量化・高速化の実践ポイント
・Kaggle実例:Gemma2 9BのQLoRAで上位5%、vLLMで推論時間を40分→10分に短縮、合成データでデータ不足を克服した手法
GPUメモリやコストの制約がある中で「次に何を試すべきか」の優先順位が明確になり、検証→改善のサイクルを高速化できます。
一般論や理論の解説で終わらず、Kaggleで実際に成果を出した具体的な手法と、「現場でどう判断するか」の思考プロセスがセットになっています。
speakerdeck.com/sinchir0/llm…
DAGを使った統計的因果推論の基礎から、構造的因果モデル(SCM)、d分離、因果探索(LiNGAM)まで一気に押さえられます。
・DAGを使って因果関係を表現し、条件付き独立性をd分離で判定する方法
・構造的因果モデル(SCM)の考え方と、確率分布の分解
・LiNGAMを使った因果探索の基礎と、モデルの妥当性を確かめる視点
施策の効果検証や交絡の調整をする前に「因果グラフを描いて仮定を可視化する」習慣がつき、誤った結論を出しにくくなります。分析設計の質が上がり、説明責任も果たしやすくなります。
グラフィカルモデルに特化して、理論(SCM・d分離)から因果探索(LiNGAM)までをコンパクトにまとめており、入門しながら「次のステップ」まで見通せる点が強みです。
speakerdeck.com/tetchi/gurah…
SGDの限界から自然勾配法の理論的基盤(Riemann幾何・Fisher情報行列)、Mirror Descentとの関係、KFACなどの実用的近似、RL・深層学習への応用までを体系的に整理した内容です。
・非ユークリッド空間でのSGDの問題点と、自然勾配がRiemann多様体上の最急降下方向になる理由
・Fisher情報行列の逆行列による更新が、Mirror Descent(Bregman divergence)と等価になる関係性
・KFACやAdamなどの近似手法が自然勾配の実用化にどう寄与しているか、Natural Policy Gradientの考え方
モデルの学習が不安定なときや、Adamなどの挙動を深く理解したいときに「パラメータ空間の幾何」を意識したオプティマイザ選択・調整の判断材料になります。研究や高度な実装で自然勾配系手法を検討する際の出発点としても使えます。
理論の導出から近似手法・応用までを一気通貫でカバーしており、単なる解説ではなく「なぜ自然勾配が優れているか」と「どう近似して使うか」の両方をバランスよく押さえられます。
speakerdeck.com/mkimura/zi-r…
少し古いスライドですが、今でも十分使える。むしろ「ChatGPT以降のNLP」の出発点として読み返す価値が高い、横井祥さんの「ChatGPT と自然言語処理 / 言語の意味の計算と最適輸送。
2023年のものですが、ChatGPTの影響を冷静に整理した上で、最適輸送(OT)で言語の意味をどう計算・アラインメントするかがコンパクトにまとまっています。
・Word Mover’s Distanceなどで「文書を点群として輸送コストで類似度を測る」考え方
・不均衡最適輸送による言い換え表現の単語アラインメント(null alignmentも自然に扱える)
・Gromov-Wasserstein距離を使った、直接対応がない多言語埋め込み空間の重ね合わせ
意味的な距離や単語対応を設計するときに、「最適値(距離)」だけでなく「最適解(どの単語がどの単語に対応するか)」まで得られる枠組みとしてそのまま使えます。LLMの評価や多言語対応の設計でも参考になります。
ChatGPTの話題から自然にOTの魅力へ繋げていて、最適値と最適解の両面をNLP視点で直感的に解説してくれています。少し前の資料ですが、考え方の土台として今でも有効。
speakerdeck.com/eumesy/chatg…
事前学習済みTransformer(BERT)の中に「知識ニューロン」が存在し、それを特定・操作することで事実知識を更新・削除できる可能性を示した研究の解説です。
・FFNをkey-value memoryと捉える先行研究の視点と、Integrated Gradientsを使った知識ニューロンの識別方法
・知識ニューロンの活性化をゼロにする/2倍にすると予測がどう変わるかの実験結果
・valueベクトルを操作するだけで特定知識を更新(成功率34.4%)・削除できるケーススタディと、他の知識への影響の小ささ
モデルが覚えている事実をピンポイントで修正したいときや、知識の格納場所を調べたいときの具体的なアプローチの参考になります。
論文のアイデアから実験結果、知識編集の具体例までを日本語でコンパクトにまとめてあり、数値も丁寧に紹介されています。
speakerdeck.com/kogoro/knowl…
生成AIにKaggleの「アイデア探索〜実装〜実験」をどこまで任せられるか、ROGIIコンペでの実体験ベースでわかります。3週間で341実験を回しつつ13位(金メダル相当の成果)を出した進め方と、失敗から得た具体的なTipsが詰まっています。
・公開ディスカッション767件をAIに読ませて「画像化+物理的に筋の通った合成データ」という解法の骨格を見つけさせる方法
・1〜3行の指示でAIに自律的に実験を回させ、人間は方針・評価基準・最終提出だけを判断する役割分担
・AIがやりがちな失敗(間違ったカットオフ基準、リーク見逃し、過剰に複雑化する、本質的な改善を避けて微調整ばかり提案する)とその対策(事前ルール設定・定期的な外部ベンチマーク確認・「これもっと単純にできない?」と問い直す習慣)
Kaggleだけでなく、社内のデータ分析やモデル開発でも「AIに任せる部分/人が判断すべき部分」の線引きが明確になります。実験の進め方やツール連携(Kaggle CLI、nvidia-kaggleなど)の知見をそのまま業務の効率化に転用しやすいです。
単なる「AIでコードを書かせた」話ではなく、アイデア探索まで踏み込んだ実例と、失敗を詳細に振り返った実践Tipsが豊富。ツールの具体的な使い方や「人間に残った役割」が明確に書かれている点が強いです。
speakerdeck.com/k951286/ima-…
AIエージェントにデータ分析を任せる前提で、データ基盤をどう作り直すかを、メルカリの分析エージェント「Socrates」の実例から追える資料です。
会話で要求を具体化し、カタログと説明文からデータを見つけ、クエリとPythonで分析まで進める流れが整理されています。社内にデータ基盤やBigQueryはあるが、AIエージェントに渡すとテーブルを間違える・列の意味を取り違える、という人に向きます。
・分析要求の理解から仮説、クエリ生成、Pythonでの加工・可視化、結果の解釈、レポート化までの機能分解 ・「AIエージェント=LLM+Context」と切り、知識の選択・圧縮やツール側でどこを直すかの見取り図
・発見可能性を最優先にし、テーブル名・データセット名・列descriptionをエージェントが正しく読める状態にするポイント
効果測定の定型集計をエージェントに任せるとき、どのテーブルを渡すか・説明文をどこまで書くかの設計レビューに使えます。広告や満足度のアドホック分析でも、「目的に対応するデータを自分で見つけられるか」を基盤側のチェックリストに落とせます。
エージェントのデモ紹介やプロンプト例の羅列と違い、データ基盤との対話(カタログ・説明文・権限・長期記憶)まで一気通貫でつながっており、基盤改修の優先順位を決めるときに見返せます。speakerdeck.com/na0/ai-ezien…
因果推論における「効果の異質性」を、MTEとCausal Tree/Forestの両面から整理できる。観察できない要因まで含めた検証の考え方と、観察できる属性でCATEを推定する実務寄りの流れが掴めます。
・ATEとCATE、効果修飾の違いを押さえたうえで、異質性を「観察可能/観察不可能」の両軸でどう切り分けるか
・MTEの定義・導出のイメージと、大学進学の限界収益のような実例での読み方
・決定木・ランダムフォレストの前提からCausal Tree/Forestへつなぎ、ホームエナジーレポートの節電効果のようなCATE推定の使いどころ
「全体平均はプラスなのに、一部セグメントでは逆効果」といった施策の当たり外れを、事後的に分解して次の対象選定に回す判断材料にできる。誰に介入すべきかを平均効果の外から見る視点が身につきます。
MTEとCausal Tree/Forestを一つの流れで対比している点が強いです。理論の導出で終わらず、実例まで落としているので「どっちの手法をいつ使うか」の分岐が残る。
保存して、次に施策効果の内訳を見るときに開く用にしておくと便利です。
speakerdeck.com/taka88/fores…
数理最適化と機械学習の融合アプローチ(久保幹雄先生)が、予測してから最適化するだけでは足りない理由と、実務で使える6つの融合パターンを体系的に整理した資料です。
「予測して最適化」だけでは失敗しやすい理由と、ML→MO / MO⊃ML / ML⊃MO / RL・MPC融合までの6分類、および在庫・配送・スケジューリングへの落とし方。
・MLでコストや需要を予測してから数理最適化するパターンと、SPO(Smart Predict-then-Optimize)で「最適化結果の差」を直接最小化する方法
・MIPLearnやOptimization Proxyのように、過去の最適解からヒントを学習してMIPを高速化するML4MOの考え方
・最適決定木や区分線形回帰など、分類・回帰そのものを数理最適化で解くMO4MLと、動的ロットサイズ・配送計画へのMPC+シナリオ生成の枠組み
需要や移動時間の予測値をそのまま目的関数に入れるのではなく、文脈付きシナリオやリコースを持った多期間モデルに置き換える判断基準が得られます。在庫・配車・起動停止のような「予測が外れると計画が崩れる」業務で、どこまでMLに任せてどこから最適化に戻すかの切り分けに使えます。
単なるサーベイではなく、分類・推薦・スケジューリングまで同じ枠組みで横断し、「なぜ予測→最適化が失敗するか」と新しい動的フレームワークまで一気に繋がっています。
speakerdeck.com/mickey_kubo/…
機械学習・深層学習・統計の先で、写真や動画から「立体の形と動き」を復元する流れを一本で追える資料です。
点の集まりの統計処理から、NeRF、3D Gaussian Splatting、写真を入れるだけで立体を出す基盤モデルまで、名前と役割が先に揃います。
・箱のマス目・点の集まり・面のつなぎ、という昔からの持ち方と、関数で形を表す深層モデルの違い
・写真を重ねて立体を学ぶやり方(NeRF)から、粒を置いて速く描くやり方(3D Gaussian Splatting)への移り変わり
・1枚ずつ最適化せず、写真を入れるだけで奥行きやカメラ位置まで出す新しい型(DUSt3R、VGGT)と、文章と立体をつなぐ入口
店舗なら棚や売り場を写真から立体にして、欠品・死に筋・導線の確認を週次の需要予測に足す。広告なら商品を1回撮って任意の角度の静止画・動画素材に回す。工場や物流なら形状のばらつきを、目視から点のずれの数値監視に落とす。満足度調査なら店舗体験の自由記述を、混雑や棚の見え方の空間データと突き合わせる下準備にも使えます。
個別論文の「動かしてみた」や手法名の辞書と違い、表現・計測・生成・言語接続が120枚超で時系列につながっており、案件の前に「今どの世代の手法か」を見返す地図としてブックマークしやすい完成度です。
speakerdeck.com/nnchiba/miru…
