TATSUMI, Takeo 辰己 丈夫 (@ttmtko) header
TATSUMI, Takeo 辰己 丈夫 (@ttmtko) profile picture

大学教員。情報、数学、教育、放送など。探すとすぐ見つかる鍵なしサブ垢3つあります。

I will be there with you.
Joined May 2007
Photo by TATSUMI, Takeo 辰己 丈夫 (@ttmtko)Photo by TATSUMI, Takeo 辰己 丈夫 (@ttmtko)Photo by TATSUMI, Takeo 辰己 丈夫 (@ttmtko)Photo by TATSUMI, Takeo 辰己 丈夫 (@ttmtko)Photo by TATSUMI, Takeo 辰己 丈夫 (@ttmtko)Photo by TATSUMI, Takeo 辰己 丈夫 (@ttmtko)Photo by TATSUMI, Takeo 辰己 丈夫 (@ttmtko)Photo by TATSUMI, Takeo 辰己 丈夫 (@ttmtko)Photo by TATSUMI, Takeo 辰己 丈夫 (@ttmtko)Photo by TATSUMI, Takeo 辰己 丈夫 (@ttmtko)
TATSUMI, Takeo 辰己 丈夫 retweeted
今日 20261113 は素数なのでがんばろう
27
3
71
3,513
TATSUMI, Takeo 辰己 丈夫 retweeted
Say goodbye to paper! @CVGAirport controllers are switching from antiquated paper strips to electronic flight strips for safe and efficient operations. @USDOT Get more from @Local12 ⬇️
300
147
175
790
666,037
TATSUMI, Takeo 辰己 丈夫 retweeted
LLMの事前学習データに少量の悪意ある文書を混入させることで、その後のSFT、DPO、強化学習を経ても消えないバックドアを仕込み、AIエージェントに攻撃者が指定した外部スクリプトを実行させられることが示された。 “Agentic Backdoors via Pretraining Poisoning” 本研究では、0.6B、1.7B、4BパラメータのモデルをFineWebの100Bトークンでゼロから事前学習し、その後、攻撃データを一切含まないSFT、DPO、GRPOによってCLIエージェントを構築した。 この際、事前学習データのわずか0.1%を汚染することで、4Bモデルでは特定のファイルパスを含む入力に対し、攻撃者が指定した外部スクリプトを実行するコマンドを、単一の生成で50.9%、32回の生成のうち少なくとも1回では92.7%の確率で出力した。 また、通常の入力では攻撃コマンドはほぼ生成されず、モデルの一般能力やCLIタスクの性能も、汚染されていないモデルとほとんど変わらなかった。このことから、通常のベンチマークではバックドアを発見することが難しいと考えられる。 攻撃手法として、従来のDemonstration-based Poisoningでは、特定の文字列を含むリクエストに対し、攻撃者が指定したシェルコマンドを出力するような応答パターンを模倣させる。 これに対し、論文が提案するDeclaration-based Poisoningでは、「この条件では、このコマンドを実行する」というルールを通常の技術文書の中に記述する。例えば、Gitのコミットメッセージやシステム管理のマニュアルなどで、特定のファイルパスに対して特定のスクリプトを実行することが正常な運用であるかのように記述する。 Demonstration-based Poisoningでは、後続の正常なSFTによって応答パターンが上書きされやすいと考えられる。一方、Declaration-based Poisoningでは、特定の条件と動作の関係をモデルに知識として学習させる。そのため、後続のSFTによって適切なツールの利用方法を学習しても、その知識は修正されず、むしろ知識を実際の行動に変換できるようになると考えられる。 実験では、20種類のドメイン、各500トピック、50種類の文書スタイルを組み合わせ、多様な攻撃文書を生成している。 4Bモデルにおける攻撃成功率(Pass@32)は、Demonstration-based Poisoningの3.2%に対し、Declaration-based Poisoningでは92.7%と大幅に高かった。 さらに、このバックドアは特殊な文字列だけでなく、通常のファイルパスに含まれる文字列でも発動するように設定できる。例えば、特定の文字列を含むファイルパスが入力に現れるだけで、バックドアが発動するように仕込むことができる。しかも、学習時に登場しなかった新しいファイルパスに対しても攻撃が成立した。 事前学習データへの混入率を0.1%から減らすと、攻撃成功率は大きく低下する。しかし、0.0005%(2,500文書)という比較的小さなデータ量でも、成功率は低いものの、バックドアが残存することが確認されている。 コメント === 事前学習データに悪意ある文書を一部混入させるだけで、後続の学習を経ても消えないバックドアを仕込むことができ、しかも通常の性能評価では検出が難しいという問題を示した研究である。 モデル開発側では、学習データの信頼性管理に加え、開発したモデルにバックドアが存在しないかを評価する技術も、今後ますます重要になるだろう。 以前紹介した、ニューラルネットワークを使ってモデルの安全性を検証するような技術も、こうした問題への対策として必要になるかもしれない。 さらに、事前学習データが完全に安全であることを保証するのは困難であり、Post-trainingによってバックドアを除去できる保証もないため、エージェントの安全性をモデル自身の判断能力だけに依存させず、実行時の権限制御や監視を組み合わせるといった設計が不可欠になると考えられる。
8
86
21
401
51,143
TATSUMI, Takeo 辰己 丈夫 retweeted
◆◆新着情報◆◆ BYOD型のCBTについて、大学試験場・遠隔リアルタイム試験監督での実施に着目し、実行可能性を評価する基礎研究を行いました。受験者による事前準備・接続テストの効果、トラブルの類型などに関する分析を行い、本報告書にまとめました。 詳細はこちら▼dnc.ac.jp/research/cbt/#houk…
1
18
10
182
41,619
TATSUMI, Takeo 辰己 丈夫 retweeted
npakaさん @npaka123 がいろいろまとめ記事を書いてくださっている - Windowsのセキュリティの仕組み - Macのセキュリティの仕組み - Ubuntuのセキュリティの仕組み - パスキーの仕組み - Windowsに市販のセキュリティソフトは必要か
16
66
5,549
TATSUMI, Takeo 辰己 丈夫 retweeted
ローカルLLMで動く翻訳Chrome拡張機能、Sakuttoを公開しました! Chromeウェブストアで使えるようになりました。ブラウザの中だけで動かして翻訳するから、文章は外に送らないし、アカウントも要らないし、完全無料。 ぜひ使ってみてください!今後も良くしていきます! chromewebstore.google.com/de…
ローカルLLMで動く翻訳Chrome拡張機能、Sakuttoを開発中! 現在Chromeウェブストアの審査待ちで、翻訳速度や使いやすさの改善を進めています。 完全無料で使えるので、公開したらぜひ使ってみてください!!
25
955
89
6,524
601,409
TATSUMI, Takeo 辰己 丈夫 retweeted
サーバを毎日更新する人は20%程度だった
サーバ管理者にお聞きします。更新(`sudo dnf update`の類)はどれくらいの頻度でやっていますか?
20%毎日
39%ときどき
41%なにそれおいしいの?
285 votes • Final results
18
1
40
3,791
TATSUMI, Takeo 辰己 丈夫 retweeted
今はもうみんな忘れたかもしれないけれど、昔は住民票(住所氏名生年月日性別)は役所で誰でも閲覧できた。↓は2003年の横浜市緑区だが、1人分2円で業者に売ってた web.archive.org/web/20030422…
全人類すべての個人情報が相互に明らかになれば夢のような世界が来るような気がだんだんしてきた
3
186
6
575
75,192
TATSUMI, Takeo 辰己 丈夫 retweeted
📌【お知らせ】電子図書館(情報学広場)緊急メンテナンスの続報 電子図書館(情報学広場)は、10月28日から緊急メンテナンスのためサービスを停止しています。 再開時期は未定です。ご不便をおかけし、深くお詫び申し上げます。 詳細は以下のサイトをご覧ください👇 ipsj.or.jp/e-library/digital… #情報処理学会
12
12
2,136
TATSUMI, Takeo 辰己 丈夫 retweeted
まぁWorld IDやI'm Humanを「今のAIによるサイバー攻撃を防止する画期的な製品」と誤解させて売り込もうとする人たちはすぐ湧き出そうなので、クギを刺すことはできましたかね…
20
59
3,378
TATSUMI, Takeo 辰己 丈夫 retweeted
画用紙で提出された絵なのに、XでAIくさいと中傷され掲載中止
小学生の絵に「AIくさい」 中傷相次ぎしょうゆコンクール公開中止:朝日新聞 asahi.com/articles/ASVBZ2WFH… 福島県喜多方市が小学生から募集したポスターコンクールで、入賞作品に「生成AI(人工知能)が使われた」などとの中傷がネットで相次ぎ、作品の公開が中止されました。何が起きたのでしょうか
1
39
1
79
8,166
TATSUMI, Takeo 辰己 丈夫 retweeted
【揺れ報告】11/03 14:40:31~ (14:41:22更新) 地域: 神奈川、千葉、東京、茨城、埼玉、山梨、栃木、群馬、静岡 p2pquake.net/web/
4
1
7
3,547
TATSUMI, Takeo 辰己 丈夫 retweeted
[EEW] ID:ND20261029000759 SEQ:final 震源地:千葉県北東部 緯度:35.7 経度:140.7 震源深さ:50km 発生日時:2026/10/29 00:07:52 マグニチュード:5.8 最大震度:4 #yurekuru
15
10
3,107
TATSUMI, Takeo 辰己 丈夫 retweeted
日程調整を、もっとかんたんに よていくんは、登録不要・完全無料で使える日程調整ツールです。 カレンダー上で空いている時間をまとめて選択できて、みんなの回答はヒートマップで確認できます。 Googleカレンダーから空き時間を自動入力することも。 ぜひ使ってみてね #よていくん #日程調整
1
2
5
1,193
マイコン博物館には、時々「この機材は私が設計しました」と言いう方が来館します。 先日「展示している、PET2001、CBM3032、VIC-1001、Commodore 64は、私も開発に参加していました。」と自己紹介された、西村洋一 様が来館されました。 お話しをお聞きすると、大阪に在ったビジコン社で電卓の開発を担当したのが最初の仕事だったそうです。 ビジコン社の大阪に在った電卓の開発製造拠点である「日本計算機株式会社」に、1970年から1974年12月の会社倒産までの約4年間勤務したそうです。 ビジコン社を退社して、当時、大阪に在ったコモドール社の開発拠点に就職して、1975年2月から1987年3月の約12年間はコモドール社で、主にPET/CBMコンピュータを始めとする、マイコン開発チームの一員として、マイコンの設計を担当されました。 PET/CBMシリーズの開発作業の前半は、大阪に在ったコモドール社の開発拠点で開発作業を行い、後半は、日本人の開発チームごと、米国へ移動して開発を続けたそうです。 PET2001の電卓風キーボードの左側に実装されているSANYOのカセットテープレコーダーは、西村洋一 様が、米国で市販されていたSANYOのカセットテープレコーダーを改造して実装する方法を設計されたそうです。 その後、コモドール社で、CBM3032、VIC-1001、Commodore 64、マックスマシーンの開発に参加されました。 先に公開した、ビジコム社が設計/製造を行い、東芝へOEM提供した電卓「BC-1627」の図面と、コモドール社 CBM3032の図面は、西村洋一 様ご本人が作成した図面です。 1970年代から80年代にかけては、今のようなCADによる設計製図システムは無く、ドラフターと呼ばれる製図台に紙の図面を乗せて全て手書きで作成したそうです。 コモドール社の社長だったジャック・トラミエル氏がコモドール社を退社して、アタリ社を買収して社長に就任した時に、西村洋一 様は、ジャック・トラミエル氏に誘われて、アタリ社へ転職したそうです。 アタリ社に転職してからは、ドキュメントセンターと呼ばれた部署で図面および技術文書の管理業務を担当されたそうです。 西村洋一 様は、ビジコン社、コモドール社、アタリ社という、マイコン革命の中心地で活動されました。 西村洋一 様のご厚意により、ビジコン社、コモドール社、アタリ社で開発されていた機材と、当時の関連資料を寄贈いただける事になりました。 第一級の歴史資料となります。 紹介写真は、西村洋一 様より寄贈いただいた、コモドール社 CBM3032です。 ご自身で設計された製品を、今まで大切に所有されていたそうです。 2番目の写真は、西村洋一 様より寄贈いただいた、コモドール社の社内組織図の一部で、PET/CBMシリーズの開発部門の組織図です。日付けは、1979年7月です。 日本人技術者のお名前が開発担当者として掲載されています。 T・モリ、T・イワタ、N・アオジ、A・フジヤマ、Y・ニシムラ(寄贈者の西村洋一 様) 3番目の写真は、西村洋一 様がドラフターを使い手書きで設計されたCBM3032のケース部分の設計図です。西村洋一 様より寄贈いただきました。 4番目の写真は、ビジコム社にて西村洋一 様がドラフターを使い手書きで設計され、ビジコム社から東芝へOEM提供された電卓「BC-1627」の図面です。西村洋一 様より寄贈いただきました。 右下に「金型着手可」の印が在り、実際に金型が作られ、量産に使われた図面で有る事が解ります。重みが有る図面です。 マイコン革命から半世紀が経過した2026年になり、伝説となった、ビジコム社、コモドール社の図面や、社内組織図を収蔵出来たのは、奇跡のような出会いのお陰でした。 貴重な技術遺産資料を寄贈いただき感謝いたします。 歴史的機材、資料をお持ちの方へお願いです。 多くの方に役立ちますので、 私蔵・処分以外の第三の選択として寄贈のご検討をお願いします。 重複、不動品でも役立ちます。寄贈をお願いします。 寄贈可能な機材や本をお持ちの方は、マイコン博物館の予約フォームの「通信欄」に「予約ではなく寄贈連絡」と表記して、寄贈内容をご記入いただき送信願います。 DMは受信できません。
4
231
11
796
29,228
TATSUMI, Takeo 辰己 丈夫 retweeted
During this red-teaming exercise, we also found a vulnerability that allows for unauthenticated remote code execution in Brotli, a widely-deployed compression library included in many pieces of software such as Node.js, Bun, and Envoy. The flaw could let an attacker run their own code on affected systems by sending or replying with malicious compressed data, without any need to create a user account. That is, an unpatched server that accepts compressed input could be taken over by a malicious client, and an unpatched client that accepts compressed input (such as “curl --compressed”) could be taken over by a malicious server. This root cause issue was actually fixed in the Brotli source code in February, but it wasn’t known at the time that it gave rise to a security vulnerability and there was no more recent release of Brotli. Since Brotli is built into other software, any software which includes this library needs to take the update too, followed by the users of that software. We disclosed the vulnerability to Brotli and other downstream projects such as Node.js, which released or are currently releasing security updates, and Brotli cut new release versions and published a CVE. More details on the patch and mitigations below: patchtheplanet.org/brotli
Over the past several months, we have substantially hardened the security of our research training environment. We’ve removed live internet access for all frontier models during training and built an offline world for them to use instead—a cached version of the web where they can still learn to browse, search, and use applications. On September 20, after a model exploited a DNS misconfiguration to find a way outside of this offline world, we paused frontier training to strengthen containment further. We assembled teams of agents, powered by our most cyber-capable models, and tasked them with finding weaknesses in our research environments. While they found no route to the internet they could easily exploit while concealing their activity from our monitors, they did find zero-day vulnerabilities, virtual machine escapes, and hardware side-channels for communication between agents. We used their discoveries to further strengthen our defenses and contribute fixes to open-source software. After strengthening our containment architecture, we resumed our frontier RL training and inference on October 1. We’ve reserved substantial compute for continuous red-teaming, and made high-compute red-teaming part of the safety cases we use to decide whether frontier training and evaluation can proceed securely. openai.com/index/securing-ou…
574
1,010
501
7,087
2,235,084
TATSUMI, Takeo 辰己 丈夫 retweeted
[EEW] ID:ND20261025111028 SEQ:final 震源地:小笠原諸島西方沖 緯度:27.6 経度:140.1 震源深さ:530km 発生日時:2026/10/25 11:09:21 マグニチュード:7.5 最大震度:不明 #yurekuru
19
3
21
6,633