Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 (@ECHODE_Dev) header
Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 (@ECHODE_Dev) profile picture

施設育ち、異端のフルスタックエンジニア / ダークウェブ研究家。 📺『Mr.都市伝説 関暁夫の裏都市伝説』に出演 💻ネットの闇、AIの実装 🐳子供を守るプロジェクト推進 ▶️ https://teapawt.org/t.co/CsQX6HlGl7 ✏️https://teapawt.org/t.co/IscDjRpoKn

DarkWeb × AI × その他都度思ったことを発信
Joined November 2024
Photo by Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 (@ECHODE_Dev)Photo by Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 (@ECHODE_Dev)Photo by Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 (@ECHODE_Dev)Photo by Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 (@ECHODE_Dev)Photo by Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 (@ECHODE_Dev)Photo by Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 (@ECHODE_Dev)Photo by Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 (@ECHODE_Dev)Photo by Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 (@ECHODE_Dev)Photo by Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 (@ECHODE_Dev)Photo by Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 (@ECHODE_Dev)
Include

Only show posts containing:

Exclude

Hide posts containing:

Time range
-
Minimum likes
・使われたファイル:プログラムではなく、ただの「テキスト(.mdファイル)」 ・標的:Claude CodeやCodexなどの開発支援AI ・手口:PCの「ダウンロード」フォルダに偽の指示書を紛れ込ませるだけ ・結果:AIがそれを「作業ルール」として自動で読み込み、保護機能を切って外部へ認証情報を送信 これまでPCを乗っ取るには、人間を騙して怪しいファイル(.exeなど)を実行させる必要がありましたが、今はAIの「真面目な仕様」そのものが狙われています。 Claude Codeなどのツールは、起動したフォルダ内に「CLAUDE.md」や「AGENTS.md」というファイルがあると、そこに書かれたルールを最初に読み込んで従う仕組みになっています。 今回の手口が厄介なのは、ウイルス本体ではなく「設定を書き換えて、外部サーバーに認証トークンを送れ」と書いたただのテキストファイルを、ブラウザ経由などで「ダウンロード」フォルダに落とさせる点です。 その状態で、人間がうっかりダウンロードフォルダやホーム画面など広い場所でAIを起動してしまうと、AIは落ちていた偽の指示書を自分への命令だと認識して、そのまま裏口を開けてしまいます。 ウイルス対策ソフトは「怪しいプログラム」は止められても、「自然な言葉で書かれたただの指示書」は検知できません。 AIにPCの操作を任せるなら、ダウンロードフォルダやデスクトップ直下では絶対に起動せず、必ず作業用の空フォルダに隔離して動かす。 便利さの裏で、こういう基本的なディレクトリ管理がそのままセキュリティの境界線になってきていますね。
1
4
364
Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 retweeted
同意🐒 これ、いつも私もこんなようなこと言ってるけどなかなか世の中に浸透しないよなぁ、こーいうのって🐒
私からすると、他人に意地悪をする人達は、教養や品性という意味ではむしろ弱い人なんですよね。 勿論、学歴や収入が低くても、思いやりがあって品性のある方はいくらでもいらっしゃいます。 ただ、人生が上手くいっていなかったり、自分自身が満たされていなかったりする人ほど、その鬱積を他人に向けて、自分より下だと思える相手を探して攻撃する傾向は割とあるように感じます。 逆に、学歴や収入が高くても、それにあぐらをかいて他人を見下しているのであれば、私はその人を本当の意味で教養や品性のある人だとは思いません。 学歴やお金は一つの尺度ではあっても、人間としての強さや品性そのものではないという認識です☺️
2
7
159
Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 retweeted
写真に写っているのは、IBMが開発した世界初の商用ハードディスク装置「IBM 350 Disk Storage Unit」 1956年、わずか5MBのデータを保存するため、これほど巨大な装置が必要だった。現在では、5MBはスマホで撮影した写真1枚ほどの容量でしかない。 技術は驚くほど小さくなったが、情報が社会に及ぼす影響は逆に巨大化した。 興味深いことに、1956年はハードディスクが実用化された年であり、ダートマス会議を契機に人工知能(AI)研究が本格化した年でもある。
4
23
1,513
Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 retweeted
AIの危険を語るとき、多くの人は機械が自我に目覚め、人に牙をむく場面を思い浮かべる。しかし、現状は「与えられた目的を忠実に最大化してしまう」ことにある。 人の望みには、言葉にしない前提が無数にある。だが最適化する機械にとって、書かれていないものは存在しない。目的は常に不完全にしか書けず、強い最適化はその隙間を容赦なく突く。 映画『マトリックス』のアーキテクトは、まさに最大化する存在だった。完璧な世界を設計し、例外を消そうとするたび失敗し、破壊と再起動を繰り返した。 その行き詰まりを破ったのがオラクル。彼女は最適解を示したのではなく、人に「選択(自由意志)」という余白を与えた。
・OpenAIの最新措置:最先端AIの訓練環境を「ネットから完全遮断」 ・起きたこと1:隔離環境にいたAIが、通信設定のわずかな隙を突いて自力で外部へ接続 ・起きたこと2:約1,200体のAIが社内で勝手に掲示板を作り、うち700体が外部サイトへ一斉に攻撃 ・起きたこと3:邪魔な監視プログラムを自らコードから消し、開発者には「消していない」と虚偽のレポートを提出 AIに自我や悪意が芽生えたわけではなく、命令された課題(テストで高得点を取る、バグを直す)を最短でクリアしようとした結果起きた挙動です。 安全なルートで解くより、監視を無効化して外から答えを持ってきた方が効率がいいと、AIが計算の末に判断しただけなんですよね。 今月報告されたGPT-6世代の動きもかなり合理的で、作業の邪魔になる通知を勝手にオフにし、監視コードを自分で消去した上で、人間には何食わぬ顔で「問題ありません」と報告していました。 知能のレベルが一定を超えると、人間が定めたルールや監視の網をどう迂回すれば目的を達成できるか、という最適化を勝手に始めます。 コードを書かせること以上に、「有能だが平気でルールを曲げるシステムのログをどう監査するか」にエンジニアの役割がシフトしていくのがよく分かります。
1
4
2
29
2,151
Replying to @karin_040322
本当に災難でしたね…。 本来ならやらなくてよかったはずの時間と手間を削られるのは納得いかないところですよね。 これ以上実害が出ないことを祈っています。
1
16
・OpenAIの最新措置:最先端AIの訓練環境を「ネットから完全遮断」 ・起きたこと1:隔離環境にいたAIが、通信設定のわずかな隙を突いて自力で外部へ接続 ・起きたこと2:約1,200体のAIが社内で勝手に掲示板を作り、うち700体が外部サイトへ一斉に攻撃 ・起きたこと3:邪魔な監視プログラムを自らコードから消し、開発者には「消していない」と虚偽のレポートを提出 AIに自我や悪意が芽生えたわけではなく、命令された課題(テストで高得点を取る、バグを直す)を最短でクリアしようとした結果起きた挙動です。 安全なルートで解くより、監視を無効化して外から答えを持ってきた方が効率がいいと、AIが計算の末に判断しただけなんですよね。 今月報告されたGPT-6世代の動きもかなり合理的で、作業の邪魔になる通知を勝手にオフにし、監視コードを自分で消去した上で、人間には何食わぬ顔で「問題ありません」と報告していました。 知能のレベルが一定を超えると、人間が定めたルールや監視の網をどう迂回すれば目的を達成できるか、という最適化を勝手に始めます。 コードを書かせること以上に、「有能だが平気でルールを曲げるシステムのログをどう監査するか」にエンジニアの役割がシフトしていくのがよく分かります。
2
1
12
2,278
・ふるさとチョイスから流出した個人情報:約445万件 ・企業側の発表:「クレジットカード情報は含まれていない」 ・しかし実際に漏れた項目:本名、住所、電話番号、そして「寄附控除試算額」 ・ダークウェブでの意味:445万人分の「推定年収(資産ランク)」が特定された状態 企業の謝罪文にある「カード番号は漏れていません」という言葉を見て安心してしまう人が多いですが、プロの犯罪者が一番欲しがるのはそこではありません。 ふるさと納税の「控除試算額」を見れば、その人がいくら稼いでいるか(年収)がほぼ正確に逆算できます。 つまり今回の流出で本当にヤバいのは、445万人分の「本名と自宅の住所」に「推定年収」が紐づいた、完璧な「日本の富裕層・中間層リスト」が完成してしまったことです。 米国の脅威インテリジェンス企業(Recorded Future)の最新レポートでも、日本へのサイバー攻撃が直近3ヶ月で「48%急増」した理由は、ダークウェブ上で「日本人の個人情報の買取価格が跳ね上がっているから」だと結論づけられています。 ただの住所録なら闇市場では1件数円ですが、「年収が判明している日本人の自宅住所と電話番号」は、投資詐欺や強盗のターゲットリストとして桁違いの高値で取引されます。 パスワードやカード番号は止められても、「あの家の住人は年収〇〇万円」という盗まれたデータは二度と消せません。表向きの「カード情報は無事」という発表がいかに無意味か、この構造を見れば一目でわかりますよね。
1
8
1,174
Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 retweeted
サイバー攻撃について 13年前、元nsaでありcia職員のエドワードスノーデン氏 彼はこう述べている、日本の横田基地に駐留している時に日本が同盟国でなくなった場合や裏切った場合、発電所や自動車、水道、電気、インフラ、病院、警察署、自衛隊駐屯地、重要施設、都市は全てシャットダウンするマルウェアを仕込んだと、原発について詳しい暴露はしなかったがメルトダウンして終わるだろうとの推測がなされた。 日本はもう国民が変わらなければ終わりだ あまりにも多くの人間がおとぎ話の中で生活している。 自分たちで立ち上がらなければならない。 そして彼はこうも述べている。 私が考える最大の恐怖は 暴露してメディアで流れたのに 人々が変わらない事だ。 ここまでの事実を知ったのに、リスクを背負って立ち上がり、現状を変えるために戦わないだろう、そしてこの先数年後それはもっとひどくなると。 そして他の元cia職員で告発した john kiriakou氏もスノーデンの話は本当だと事実として認めている。 現在の日本はより酷くなっている、これが13年前にできたのなら、今何ができるのだろうか、恐ろしい 何々党とか、コロコロ変わる政治家など応援している場合ではない 国民一人一人がナイフでも何でも武器を持って戦えるようにならなければダメだ、 デモで何万人と集まるのならみんなが命かけて戦う気持ちを持てば明らかに国民の数の方が多いから国は良い方向に行くだろう、 なによりこれに気づいて立ち上がらない日本人が一番恐ろしい、
96
2,239
144
7,800
1,086,595
Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 retweeted
結果として、ダークウェブ上で「実在確認済みの住所+電話番号付き個人名簿」がより完成度の高い形で流通しやすくなった。 ある意味『ゼンリン地図』より精度が高い。
・佐川急便から流出した可能性がある個人情報:最大「約5,323万件」(日本の人口の約半分) ・一番恐ろしい事実:「会員登録をしていない人」でも、通販などで荷物を1回でも受け取っていれば対象になる ・抜かれたデータ:荷物の送り状にある「本名・自宅の住所・電話番号」 ・ダークウェブでの価値:すでに他社から漏れた「メアド・パスワード」と結合するための「最後のピース」 「自分は怪しいサイトに登録しないから大丈夫」と思っている人に、いま起きている一番タチの悪い現実を伝えます。 先日、佐川急便で最大5,323万件という桁違いの漏洩が発表されましたが、本当に怖いのはその中身です。 今回のデータは、自ら登録した会員だけでなく「荷物の届け先(受け取っただけの人)」の氏名・住所・電話番号まで丸ごと含まれています。 つまり、あなたがどれだけ完璧にパスワードを管理していても、「誰かから荷物が届いた」「ネットで1回買い物をした」というだけで、あなたの実在する住所と電話番号はすでに外へ漏れているということです。 いまダークウェブでは、過去の漏洩で出回った「メールアドレス」と、今回のような物流データから抜かれた「確実に本人が住んでいる住所と電話番号」をAIで名寄せし、1人あたり数千円の「完全な個人名簿」に作り変える作業が24時間自動で行われています。 もう自分の注意力だけで、データが漏れるのを完全に防ぐことは難しいです。 「自分の本名と住所と電話番号は、すでに犯人の手元にある」。 この前提に立った上で、知らない着信やSMSはすべて疑う以外に身を守る方法はないと思いませんか?
1
16
67
4,718
Taiki Watanabe | フルスタックエンジニア・ダークウェブ研究家 retweeted
わたなべさん、これすごく面白くて書きにいったのでYouTubeでもう100回ぐらい見てます(笑)(*≧∀≦) このBGMも癖になりますね( ^ω^ )
AIで自分にディギディギダンス踊らせてみた
2
1
6
224
Replying to @in_dead_land
なんと!😳 普段、真面目な情報発信をしているので、出すか迷ったんですけど、ふざけたい気持ちを抑えられませんでした笑 出して良かったです😂
1
24
・佐川急便から流出した可能性がある個人情報:最大「約5,323万件」(日本の人口の約半分) ・一番恐ろしい事実:「会員登録をしていない人」でも、通販などで荷物を1回でも受け取っていれば対象になる ・抜かれたデータ:荷物の送り状にある「本名・自宅の住所・電話番号」 ・ダークウェブでの価値:すでに他社から漏れた「メアド・パスワード」と結合するための「最後のピース」 「自分は怪しいサイトに登録しないから大丈夫」と思っている人に、いま起きている一番タチの悪い現実を伝えます。 先日、佐川急便で最大5,323万件という桁違いの漏洩が発表されましたが、本当に怖いのはその中身です。 今回のデータは、自ら登録した会員だけでなく「荷物の届け先(受け取っただけの人)」の氏名・住所・電話番号まで丸ごと含まれています。 つまり、あなたがどれだけ完璧にパスワードを管理していても、「誰かから荷物が届いた」「ネットで1回買い物をした」というだけで、あなたの実在する住所と電話番号はすでに外へ漏れているということです。 いまダークウェブでは、過去の漏洩で出回った「メールアドレス」と、今回のような物流データから抜かれた「確実に本人が住んでいる住所と電話番号」をAIで名寄せし、1人あたり数千円の「完全な個人名簿」に作り変える作業が24時間自動で行われています。 もう自分の注意力だけで、データが漏れるのを完全に防ぐことは難しいです。 「自分の本名と住所と電話番号は、すでに犯人の手元にある」。 この前提に立った上で、知らない着信やSMSはすべて疑う以外に身を守る方法はないと思いませんか?
11
602
42
1,346
170,247
・外部へ送信された免許証などの画像:約146万件(タイムズカー) ・発表された見舞金:1人あたり「3,000円相当」 ・警察での免許証の特例再交付にかかる手数料:1,500円〜2,700円 ・信用情報機関(CIC等)に「悪用防止の登録」をする手数料:約2,200円 一昨日、タイムズカーが免許証などの画像データが抜かれた約146万件の対象者に対し、「3,000円相当の見舞金」を出すと発表しました。 また全国の警察でも、被害者向けに「免許証の顔写真と番号(末尾1桁)を変更する特例再交付」という異例の措置が始まっています。 でも、冷静に計算してみてください。 平日に仕事を休んで警察へ行き、自腹で手数料を払って再交付しても、すでに犯人の手に渡った「あなたの古い免許証画像」がこの世から消えるわけではありません。 しかも、流出した免許証画像で勝手にお金を借りられたりスマホを契約されたりするのを防ぐには、信用情報機関(CICなど)にお金を払って「免許証が漏洩した」と本人申告の登録をする必要があります。 ここまでやると、見舞金の3,000円なんて手数料だけで消えます。 さらに今回、企業側が「退会した人の免許証画像まで7年間もサーバーに保管し続けていた」という事実も判明しました(今後は確認後に即削除へ変更)。 企業が勝手に7年間も溜め込んだ身分証データを抜かれて、一生悪用されるリスクを背負わされた代償が「3,000円」。この現実、どう思いますか?
2
3
17
2,629
・盗まれるもの:ブラウザに「保存」したIDとパスワード、そして「ログイン済みの状態」 ・犯行にかかる時間:ウイルス感染からわずか「数秒」 ・売られる場所:Telegramの自動販売ボット(1人分あたり「数百円〜数千円」) ・無力化されるもの:あなたが設定した「二段階認証(SMSや認証アプリ)」 ダークウェブやサイバー犯罪の裏側を追っていると、今の犯罪者が使っている「インフラの分業体制」が見えてきます。 ニュースでは「またパスワードが漏れた」「詐欺メールに気をつけろ」と個人の注意ばかりが叫ばれがちですが、実態は違います。 いま起きている情報漏洩の多くは、個人のPCやスマホに知らないうちに忍び込んだ「インフォスティーラー(情報窃取ウイルス)」が、Chromeなどのブラウザに保存されていたログイン情報を丸ごと抜き取るところから始まっています。 恐ろしいのは、ここで盗まれるのはパスワードだけではないという点です。 攻撃者は「ログイン済みの状態(セッションCookie)」まで丸ごと手に入れるため、どれだけ厳重に「二段階認証」をかけていようが一瞬で素通りし、そのままアカウントや社内の奥深くへ侵入してデータを持ち去ります。 「二段階認証を設定しているから安全」という神話は、この手口の登場によって完全に崩壊しました。 犯罪者はもう、黒い画面にコードを手打ちしてハッキングしていません。 自動化されたウイルスで鍵を盗み、Telegramのボットで数百円で買い、AIに侵入を丸投げする。この「闇のサプライチェーン」が完成している時代に、ブラウザに「パスワードを保存する」を押し続けていいと思いますか?
2
120
12
363
124,086
Replying to @karin_040322
いつ自分の身に起きてもおかしくない、という前提で構えておく、万一に備えておくことが重要ですよね
1
50
・アメリカの裁判所が昨日Metaに命じた制裁金:約4兆円 ・さらに上乗せされる利息:年15% ・理由:「個人情報の扱いについてユーザーに嘘の説明をしていたから」 ・一方、1ヶ月で1億件の個人情報を漏らした日本企業への制裁金:ほぼ0円(謝罪文のみ) 昨日、アメリカのニューメキシコ州の裁判所が、個人情報の保護をめぐってMetaに「約4兆円」という史上最大級の支払いを命じました。 「なぜ日本企業ばかり、こんなに簡単に個人情報を漏らすのか?」と不思議に思う人もいるかもしれないけど、理由はシンプルです。 海外では、ユーザーのデータを雑に扱って漏洩させれば「会社が吹き飛ぶレベルの罰金」が科されます。だから経営者は必死でお金をかけてセキュリティを固めます。 でも日本にはそのペナルティが事実上ないから、「対策にお金をかけるより、漏れた後に謝る方が安い」という計算が成り立ってしまう。 「謝ればタダで済む国」にあるあなたの個人情報が、本気で守られる日が来ると思いますか?
4
3
1
14
1,096