米国OpenID Foundation理事長、MyData Japan理事長、公正取引委員会デジタルスペシャルアドバイザー。OpenID Connect, FAPI, JWT/JWS など作った人。デジタルIDとプライバシーが専門。日経BPから「デジタルアイデンティティ」出版。世界各地で講演しています。フルートが趣味。

大手町周辺
Joined January 2008
Nat Sakimura/崎村夏彦 retweeted
インフラ攻撃、もう始まっとるんよな... この1週間で止まったもの、並べてみる。 20日 Googleのロンドンのデータセンターが落ちて、🇬🇧イギリスの銀行が朝から止まった。Revolutはカード決済もATMも送金も。原因は「電源イベント」。 21日夜 PHPの穴2つで止まったもの。 🇫🇮フィンランド 政府のサイト 🇳🇱オランダ 議会・サイバー当局・データ保護当局のサイト 🇯🇵日本 みずほ銀行の一部、さくらインターネット、pixiv、DMM、niconico、BASE、コドモン(保育園の連絡アプリ)、ウマ娘、グラブル →戦争でもハッキングでもなく「穴が見つかった」だけで、国の役所と銀行と保育園が一晩止まる 同じ週 日本の証券会社に総当たり攻撃、マネックスは新規口座開設を停止。流出はスカイチケット1400万、ブックオフ643万、コミックシーモア420万。 そしてWSJ。8月に🇩🇪ドイツの空港で貨物機を襲ったドローン、操縦してたのはロシア軍情報機関の工作員やった(当局者談)。 →事故と、穴と、攻撃が、同じ週に同じ顔で並んどる どれが攻撃でどれが事故か、止まった側からは区別がつかん。 区別がつかんから、次は「止めた」だけで効く。 PHPの修正版は出た。でも攻撃コードは出回って、試し撃ちはもう飛んできてる(英The Register)。 これ、まだ序盤なんやろな...
5
510
16
1,240
110,053
EmDash、PHPでてんやわんやあったので、「PHPやWordPressは危ないからEmDashがよい」みたいな話が飛び交っているので、あえて反論意見。 EmDashもオープンソースなので、人気が出てきたら普通に狙われますし、狙われはじめたらバージョンアップはWordPressほど手軽とは行かないので、結構知識が必要になるかと思います。 逆に、どうにも人気が出ずに開発が続けられないとなれば、普通に開発終了とかもあり得ます。オープンソースだから誰かが開発を引き継ぐというのは、ちょっと夢物語な気も。 また、Cloudflareは比較的安いですが、とはいえアクセス数が1000万リクエストとか超えると従量課金に移行するので、コストも上がっていきます。D1やR2など付帯サービスもそれぞれに課金されるポイントがあるので、思わぬ高コストになる可能性も。 そんなこんなで、いざEmDashもうやめたい! となっても、データを引っ張り出すにはD1とかSQLiteとかの知識が必要になるので、なかなかの負債になる可能性はあります。 面白いおもちゃなので、その辺を理解して使うのは全然良いと思いますし、応援はしていますが、甘い言葉にはご用心!
4
62
20
408
26,974
Nat Sakimura/崎村夏彦 retweeted
【質問】 Webサイトを WebView で包んだ「ガワアプリ」は、今回の eMudhra 中間CA侵害に対して安全か? ■結論 プラットフォームで明確に差があります。iOS はほぼブラウザ並みに安全、Android は「ブラウザではないクライアント」側に分類すべきです。デスクトップのガワ(Electron など)はさらに弱いです。 ■iOS(WKWebView / SFSafariViewController) ● WKWebView は OS の証明書検証を使い、Apple は 2018年以降に発行された公開証明書に OS レベルで CT を強制しています。Safari と同じ扱いなので、ログにない偽証明書は拒否されます。 ● 加えて Apple は 10月19日からトラストストアで該当中間CAをブロック済み。OS が最新なら、アプリ側の更新なしで守られます。 ● アプリ内で NSURLSession を使う API 通信も同じ OS 検証を通るため、同様に安全です。 ■Android(WebView) ● Android WebView は Chrome ベースですが、証明書検証は Chrome のものではなく OS のハンドラに委ねています。Android WebView アプリは不正な証明書チェーンの 77.0% を受け入れ、不正な中間CA証明書のテストはすべて通過させており、主要ブラウザや iOS アプリより大幅に弱い。原因は Android WebView がシステムレベルの証明書検証ハンドラに依存しており、最小限のチェックしか行わず、Precertificate などの拡張に対応していないことにあるという研究があります。つまり CT は強制されません。 ● Chrome 本体は CRLSets で中間CAをブロックしていますが、WebView はその恩恵を受けません。守られるかどうかは Android のシステムトラストストアが更新されるかにかかっており、今回の文書のパッチ済み一覧に Android は載っていません。 ● 最近の Android では Network Security Config で CT を有効化するオプションが追加されていますが、アプリ側の明示的な設定(オプトイン)が必要です。既存アプリで設定していなければ無効です。 ● Capacitor、Cordova、React Native の WebView 系も中身は同じ Android WebView なので同じ評価になります。 ● アプリ内の API 通信(OkHttp、HttpURLConnection)も OS のトラストストアを使うため同様です。CT ライブラリの追加か証明書ピンニングをしていない限り、偽証明書を信用します。 ■デスクトップのガワ ● Electron は自前の Chromium を同梱しており、CT 強制も CRLSets も効きません。文書にあるパッチ済みバージョン(44.9.1 / 43.8.1 / 42.11.16)にアプリ側がアップデートする必要があります。 ● Tauri は OS の WebView を使います。Windows(WebView2)は Windows のトラストストアを参照するので自動CTL更新でブロック済み、macOS(WKWebView)も安全、Linux(WebKitGTK)はディストリの ca-certificates 更新待ちです。 ■現実的な整理 ● iOS のガワアプリ: OS 更新で OK。アプリ対応は不要。 ● Android のガワアプリ: Android の trust store 更新状況が不透明なため、現時点では「未対応クライアント」として扱う。確認には、端末から文書のテストURL(dv-g3b-emudhra.we-have-a-pro…)に WebView からアクセスし、エラーになるかを見る。 ● 自社で Android ガワアプリを納品している場合: 恒久対策は証明書ピンニング(接続先が固定なので相性がよい)か、CT 検証ライブラリの組み込み。Network Security Config で信頼する CA を接続先が使うものだけに絞るのも有効です。 ● Electron 製の業務ツール: バージョン確認と更新。社内配布ツールで放置されがちな領域です。
【質問】 クライアントが特定のURLにしか接続しない場合、今回の eMudhra 中間CA侵害の影響は受けないのか? ■結論 URL を固定しても、それだけでは防げません。 侵害された中間CAは任意のドメイン名の証明書を発行できます。つまり攻撃者は「あなたが見に行く特定URLそのもの」の偽証明書を作れます。クライアントはホスト名と証明書が一致しているかしか見ないので、通信経路に割り込めれば攻撃は成功します。 ■攻撃が成立する条件 実際に成立するかは「経路に割り込めるか」で決まります。 ● DNS の改ざん、BGP ハイジャック、偽 Wi-Fi、乗っ取られたプロキシやルータなどがあれば成立する ● 完全な閉域網で、外部の攻撃者が経路上に入れないなら、実質的なリスクは低い ● 社内プロキシ経由の通信は、プロキシ側のトラストストアが未更新かどうかが論点になる ■特定URLしか見ない場合に有効な対策 ● 証明書ピンニング  接続先の証明書(または発行CA)を固定し、他のCAからの証明書を拒否する。固定接続先ならこれが一番確実。 ● トラストストアを絞る  接続先が使うCAだけを信頼し、公開ルートをまとめて外す。プライベートCA運用の閉域網なら、そもそも公開ルートを入れない構成にできる。 ● 接続先の証明書を確認する  接続先が eMudhra / AAA ルート配下の証明書を使っていた場合は、サーバ側の証明書再発行も必要。 ■注意 そのクライアントがパッケージ取得やAPI呼び出しなどで別のURLにも接続していないかは要確認です。「特定URLだけ」のつもりで、実際には OS 更新や依存ライブラリ取得で外部に出ていることはよくあります。
28
4
90
23,431
Nat Sakimura/崎村夏彦 retweeted
お名前.comのVPSでEA自動売買を回していた人の多くがハッキングを受けて、不正取引をされ、高額の口座残高が破損されている。 ポストを見る限り600万円の損失を被った人もいて、総額は数十億円かもしれない。 一方、証券会社は「VPSを使ったのはあなたの判断ですよね?」と言うだけだろう。 これからお名前.comへ集団訴訟の流れが出てくるのではないだろうか?🤔
11
446
43
1,183
261,413
Nat Sakimura/崎村夏彦 retweeted
ああなるほど、英語やフランス語を母語とする人たちにとって、「最先端のコンテンツの正規版にアクセスしたいのなら、外国語を習得するのが正しい道筋だよ」ということを「先進国に住んでいるはずの自分たちが」言われるのって初めての体験なんだろうな。そりゃアンガーマネジメントも難しいわな。
94
5,128
193
35,131
3,806,400
Nat Sakimura/崎村夏彦 retweeted
ご来訪頂いた皆様、どうもありがとうございました!勢い任せのイベントでしたが楽しんで頂けたなら嬉しいです。リアルでは久し振りに、あるいはリアルでは初めて会う人もたくさんで楽しかったです。最後は著者特権で末次さんにサインも書いて(描いて)もらいミッションコンプリート。
4
6
88
2,546
Nat Sakimura/崎村夏彦 retweeted
グローバルリセットがそろそろ来るし 加えて明日の朝6時前に期限切れのリセット権もある こういう時はAstra Ultrafastで 「すべてのテストコードを徹底的に洗って、各テストが何を守っているか、重複や本番経路との乖離がないかまで確認して、価値の低いテストをリストアップして台帳を作って」 と依頼すると Pro 500でも1時間ほどで燃やし尽くせるのでおすすめです 実際の編集作業をやらせると遅くなるので、まずは純粋に頭の良さ・分析力だけを活かせる静的な解析だけに絞って大量の入力トークンと共に消費するのが吉 実際の作業はあとでじっくりやればいい
3
17
7
272
28,149
Nat Sakimura/崎村夏彦 retweeted
NVIDIAが「社内に蓄積した大量の情報をAIで扱えるようにデータ整形して検索可能にするモデル群」を無償公開
1
114
10
797
48,494
Nat Sakimura/崎村夏彦 retweeted
Tiboがインターネット崩壊時代に備えてDaybreakBlue取得をオススメしてる。ChatGPTのPlusプラン以上の人は誰でもDaybreakBlueに申し込める。承認されたらChatGPTがDaybreakモードになって脆弱性チェックとかのセキュリティタスクが拒否されにくくなる。(サイバーモデルはDaybreakRedじゃないと使えないので一般人は無理)僕的にはただちにセキュリティ問題に直面して困ってるわけじゃないが、まあインターネット崩壊時代に何が起きるか分からんから申請できるもんなら申請しといて損は無いか。何か起きてからじゃ間に合わないしな…と思ったらDaybreakBlue申請には物理セキュリティキーが必須らしい!物理キー買わなきゃいけないのかよ…面倒くせぇ~。IDmelonってスマホアプリで物理キーをエミュレートできるという説もあるけど今はもうIDmelonでは通らないという報告もある。てかDaybreakBlueに申請するにはeKYCで免許証提出して本人確認せなアカンらしい!うわ、マジでイヤなんだが。ユーザのチャットをFBIに通報するような企業に個人情報渡したくなさすぎィ!
Daybreak Blue取得を進めているが、物理キーを購入して配送を待つ間に攻撃されて間に合わない説(一般エンジニアって物理キーを所持しているものなんですか???)
1
42
11
397
39,689
Nat Sakimura/崎村夏彦 retweeted
うわぁ…顧客の資産、人質になってるやん... GMOのお名前.comデスクトップクラウド、やられ方がエグいな VPSにFX口座のパスワード記憶させて自動売買、が標準の使い方 →サーバー取られた瞬間、口座の鍵が全部持ってかれる →しかも盗んで出金じゃなく「勝手に損する取引」で消すから、FX会社の不正出金チェックは素通り 脅迫文が本当なら「身代金払わんと顧客の金を溶かす」 →損するのは口座持ってる個人、脅されてるのはGMO →払っても払わんでも叩かれる詰み構造 金融系サイバー攻撃のエスカレーション、エグいんやけど…
事実かどうか分からんけど、ぐわわわ・・・
9
295
17
796
142,890
Nat Sakimura/崎村夏彦 retweeted
PHP2Shellについての報告。確かにメモリ破壊系の脆弱性は厄介で、こんな複雑なのを発見でき攻撃できちゃうのはAI時代ならでは。でも逆に、開発に適切にAIを使えば堅牢にできるはずという希望も見える。 / “PHP2Shell: AI uncovers critical RCE vulnerabilities affecting …” htn.to/nVzKgfj91Z
57
2
143
4,989
Nat Sakimura/崎村夏彦 retweeted
なぜICCにノーベル平和賞を贈らなかったのか? one.nhk/www.web.nhk/tv/an/ko… ノルウェー・ノーベル委員会のフリードネス委員長の答えです 受賞したピレイ氏に敬意を示しつつ、あえてこの質問をぶつけてみました 明確なメッセージが込められていました (山澤里奈)
3
157
2
429
24,200
Nat Sakimura/崎村夏彦 retweeted
これ、ちょっと面白いので、とりあえず、自分なりに考察してみた。 簡単に言うと日本の文化とか発信されるコンテンツとかが、それ自体は、つい最近生まれたものだったりするが、その生まれたきっかけは、案外、古い歴史が関係していて、日本がつねにガラパゴス化していたからだ、みたいな話。 それは、日本がたぶん縄文時代から数千年に渡り、文化的連続性を保って来たからってこと。 島国だから外部からの人の流入が少なく、外部からの文化の取り込みも、常に自発的で、必要なものだけを取捨選択して、定着するものだけを取り込んで来たからだな。 となると、極めて現代的な文化でも、最近のコンテンツでも、それ以前のものへの参照が多い。 LLMの強化学習では、こういう参照が多いものは、芋づる式に学習が強化される。マンガやアニメでも、葛飾北斎につながり、鳥獣戯画に繋がり、源氏物語絵巻に繋がる。ラノベだって、源氏物語に繋がり、竹取物語につながる。 芋づる式のノードの連鎖は、強化学習では、強調されるから、極々最近のコンテンツも、非常に広がりが出る。だから、生成AIでは、日本文化が参照される頻度が高くなる。
研究者たちは、すべての大規模言語モデル(LLM)が密かに日本に執着していることを証明しました。 そして、彼らはついにその理由を突き止めました。 彼らは、大規模言語モデルに潜む隠れた文化的バイアスを調査した論文を発表しました。 彼らは、gemini、chatgpt、claude、llamaなどのモデルに対して、24の異なる言語で31,000の質問をテストしました。 彼らはすべての地理的なヒントを排除し、モデルに単に場所を選んで答えるよう求めました。 その発見は普遍的でした。幅広いモデルと言語を横断して、日本文化に対する遍在する「執着」が存在します。 日本と何のつながりもない言語でプロンプトを与えても、彼らは実際のグローバルな人口統計学的重みに比べて、著しく高い割合で日本の規範、価値観、美学にデフォルトします。 最も衝撃的な部分? 彼らはAIがこの執着を発展させる正確なタイミングを追跡しました…そして、それは生のインターネットを読むからではありません。 事前トレーニング中、モデルは実際には世界に対するかなりバランスの取れたグローバルな視点を保持しています。この執着は、安全フェーズで注入されます。 テック企業がこれらのモデルを「役立つ、無害で、礼儀正しい」ものに微調整する際、AIは企業の安全ガイドラインを直接日本の文化的概念にマッピングし始めます。完璧で非攻撃的で従順なアシスタントを作成しようとする過程で、彼らはモデルが世界をどのように見るかを歪めました。 量子化プロセス(モデルをローカルで高速に動作させるために圧縮する)は、この決定論性を実際に増幅します。ローカルモデルが小さく速くなるほど、よりステレオタイプ的に振る舞い、日本文化のトロープが急激にスパイクします。 私たちは実存的なAI安全についてこれほど時間を費やしていますが、本当の整列問題は、私たちの最も先進的な推論エンジンが日本のインターネット文化に過度に固執していることです。 すべてのモデルアップグレードは、物語、事実、コードを生成する方法を規定する見えない地域バイアスを強化しています。インターネットの文化的常識は普遍的ではありません… それは、redditとアニメwikiのヘビーユーザーが執着していたものに単に局所化されているだけです。 xitter.cf/thesupermannx/status/2…
5
120
5
360
29,358
Nat Sakimura/崎村夏彦 retweeted
ジュリスト読んで体が温まるかはともかく、AIと民事責任はホットなテーマであることは間違いないので、ぜひご一読をー。 私の担当パートは、AIエージェントです! 裁判例もまだない論点であることから、勇気出して結構チャレンジングなことを書いてみました。
【ジュリスト11月号は明日発売🔆】 少し寒くなってきましたね。 ジュリストを読んで体を温めましょう! さて、ジュリスト11月号(1629号)は、 特集「AI利活用における『民事責任』を考える」をお届け。 発売は明日23日です! お楽しみに!
10
34
2,353
Nat Sakimura/崎村夏彦 retweeted
これまで「蓋」がされてた(ように錯覚されていた)パンドラの箱が一気に開いてしまい、今は「(長年の)膿を出す辛抱の期間」と信じたい。。 これまでサイバーセキュリティの現場が悶々としていた課題に一気に向き合ってる日本中の企業と経営層が、ひと皮むけて脱皮した姿を数ヶ月後に見たい、という気持ちでいます。
1
7
22
1,530
15日に出たFSBペーパーの最終版では、human oversightは業務の重要性やリスクを考慮して最も適切な形態のものを選択すべきとした上で、human in the loopをあくまで選択肢の1つとする一方、そのような「上流にシフトした意思決定」をhuman in commandと呼んでいます。 fsb.org/2026/10/sound-practi…
私も、Human-in-the-LoopからHuman-Centricに移行すべきとは思っているのだけれど、現代の法体系では、プロセスの結果責任の帰属先が人以外あり得ないので、意思決定を手放すことは無過失責任とほぼ同義になるのよね。 因果関係の観点からいえば、一連の因果の連鎖の中で、不当な結果の発生の回避に向けて人が関与できるタイミングが上流に移動してくる(生成後のコードをレビューするのではなく、ハーネス設計などを徹底する)だけで、結局、新たな人の意思決定が生じてはいるはず。
1
4
1
18
2,523
Nat Sakimura/崎村夏彦 retweeted
「第1回AI・デジタル改革推進会議」を開催 古川大臣が共同議長を務める「AI・デジタル改革推進会議」を開催しました。 AI・デジタルの徹底活用による社会変革の推進に向け、政府横断でAX社会実装を推進し、AX・DXの恩恵が行き渡る社会の構築に向けて取り組んでまいります。 digital.go.jp/councils/ai_di…
13
37
7
134
11,812
🚨【速報】GitLab、危険度が最高の「10.0」となる重大な脆弱性が発覚 ・2014年以降、約12年間のバージョンが影響対象 ・ログイン不要でサーバー上のプログラムを遠隔実行される恐れ ・GitLabは修正版を公開し、早急な更新を推奨
42
2,022
654
7,734
1,346,817
Nat Sakimura/崎村夏彦 retweeted
本日の総務省検討会での報告資料、セキュリティインシデントの傾向がわかりやすい  📊被害のうち情報漏えい4.3倍、ランサムウェア1/3  📈Webシステムでの被害が上半期の4倍 「フロンティア AI時代のサイバーセキュリティ戦略」 soumu.go.jp/main_content/001…
1
3
8
882