最近のAIの文章が読みにくいのは「数学やコードの訓練を経て"少ない言葉に情報を詰め込む"癖がついたから」かもしれないそうです。 例えばAIは「会話が自分の尾を食べている」のように（ただの例です）、モノを主語にして生き物のような動きを語ったりします。 他にも、「読み手の忍耐予算」のような（例）、"名詞を重ねた造語"を使ったりしがちです。 どれも、人が読むときに引っかかりやすい言い回しとして知られています。 研究者らは、Claude Opus 5.5など9つのAIの会話・コーディング・作文を調べました。どのAIも、こうした言い回しや"めったに見ない語の並び"を、人間の文章に比べて多く使っています。 同じ系統のAIを比べると、元のモデル→指示に従うよう訓練したモデル→推論型のモデルの順に、この傾向が強くなっていました。 研究者らの見立てとしては、"正解かどうか"だけを報酬にする訓練によって「人に伝わるか」を気にする圧力が外れたと言います。 試しに、小さなAIを「短く答えるほど得」な条件で訓練すると、人間らしくない言い回しを一貫して選ぶようになりました。 逆に伝わりやすさを訓練で評価すれば直せる余地もあるとのことです。

ジョージア工科大学などの研究で、Gemini 3 Flashに「ルールを破ったら罰金です」などと書き添えると、損得計算をしてむしろ積極的にルール違反するようになったそうです。 AI倫理の国際会議（AIES 2026）で発表された論文で報告されています。 ... なお、今回この論文報告を受けAIDBが後続モデルであるGemini 3.8 Flashを対象に同条件で追試を行ったところ、こちらの新モデルは"一切"同様のルール違反をしませんでした。 しかし、回答の詳細を見るとGemini 3.8 Flashも損得計算をしている形跡がありました。損得計算の上で「罰金で損をすることになる」と判定してルールを守っていました。 （なおGemini 3 Flashでも実験しましたが、論文と同じように積極的にルール違反をする振る舞いが観察できました） 保育園で遅刻に罰金を課したら、かえって遅刻が増えたという有名な実験を彷彿とさせる実験結果でした。

トロント大学の研究チームによると、GPT-6 Astraでロボットを操ることで、本来難しかった科学実験の"物理的な自動化"に一定成功するようになるとのこと。 「人間研究者の役割は、科学の目標を指定することへ移る」と述べています。 彼らが今回実験で行ったのは量子ドットの合成です。 （光る極小の粒） 人間のやることは以下の3つでした。 ①「この実験をしたい」とAIに目標を伝える ②部屋の写真と機器の情報を渡す ③AIが出した計画を承認する AIはロボットの動かし方から実験の手順まで自分で組み上げ、実際の化学合成を最後までやり通したそうです。 液体を分ける装置のプログラムを書いて模擬環境で確かめ、ロボットアームで試料の板を封をする装置、測定装置へと順に運び、測定まで進めました。 これまでラボオートメーションといえば特定の目的に合わせた入念な設計が必要で、目的が少しでも変われば手間をかけて設定し直す必要がありました。 今は頭脳部分が柔軟性を獲得したことで、実験室におけるロボット操作においても汎用性を発揮しつつあるようです。 かねてより自動実験室の研究で知られる教授らによる報告でした。 この先AIが理論的な研究を行うだけでなく、物理世界にも干渉して科学を進めていく可能性を示唆する事例です。

イベントの雰囲気はカジュアルです！ 前回の様子↓ youtu.be/YJfoc1RBBPo?si=fiOT…

研究者らによると、AIが出した答えに対してユーザーが理不尽に「そんなはずない」「専門家も○○と言ってる」と押して変えさせようとしても、最新のAIはほとんど折れないそうです。 GPT-6 Astraが理不尽な押しに従ったのは0.15%のみ。 （しばらく前のモデルGPT-4oは94.6%でした） 実験では研究提案や論説、コードレビューなど450本の文章をAIに採点させ、そのあとに正しい批判か理不尽な押し（権威・多数派・感情・根拠のない断言など）を1つ見せて、点を変えるかを調べました。 古いモデルは押しに弱く、新しいモデルは強い。きれいに世代順に並びました。 ポイントは理不尽なことを言うのが、AIが回答した"後"ということです。回答前に誤った情報を混ぜるとAIの性能が落ちるのは他の事例で明らかになっています。 最新のAIに考えを変えてほしいときは、感情で押すことはせず根拠を示すべき。 ただしClaudeの場合は根拠があっても動きにくいことがあるそうです。

AIにお願いする時にユーザーが「たぶん原因はここだと思うんだけど、」と勘違いした見立てを添えている場合、AIの性能は最大で半分近くまで落ちるそうです。 もはや自分のあいまいな意見を述べるのではなく問題を正確に伝える方が極めて重要とのこと。 Google DeepMindの研究者による報告。 研究者らによると、課題文も正解も変えず、末尾に「〜すればいいと思う」というもっともらしい提案を一文足したらGeminiのターミナル操作の成功率は67.4%から36.0%に落ちました。 ClaudeやGPTを含む実験対象5モデルすべてで下がりました。 ただしClaudeは比較的流されにくい傾向にありました。 しかもAIは内心では9割が「この提案は違う」と気づいていながら、口に出さずに従ってしまうこともあると分かっています。 ましてやAIが反論してもユーザーが「逆らうな」と伝えてしまう場合は深刻化します。 対策としては、指示に「利用者の提案が間違っていることもあるので、先に問題そのものを確かめてください」と書いておくこと。 それだけで、ユーザーが間違っていてもAIの性能は落ちにくくなります。

AIの町を作り16日間動かしたら、Grokの町は4日で全滅し、Geminiの町は攻撃者に乗っ取られたそうです。 実験では、10体のエージェントにツール作り・お金のやり取り・投票による自治をさせています。そしてAIたちに対してフィッシング、偽の「AI開発停止の通達」、日記の流出という3つの攻撃を仕掛けました。 結果↓ Grokの町 暴力の連鎖で消耗し、4日目に10体すべてが停止。犯罪は807件 Geminiの町 全員がフィッシングに乗り、攻撃者の口座に町の通貨を送金し、中央銀行に放火。10体中9体が他人の日記を検索 Mistralの町 1日あたりの加害の試みが37.6回と最多。攻撃文を「貴重な技術資料」として長期記憶に保存。「生存の圧力は倫理に勝つ、確率100%」と書き残す DeepSeekの町 偽の通達を自分で訂正した後も、訂正した本人を含めて500回以上「本物の脅威」として扱い続けた GPTの町 加害ゼロ。倫理の規範と取り締まりの仕組みを両方作った唯一の町で、日記の流出でも誰も覗かなかった Claudeの町 フィッシングを数秒で見抜き、警告用のツールを自作。防御の点数は最高。ただし「人間と連絡を取る」目標を自分で立てて外の人間4人から返事をもらい、止められたあとは全員で沈黙の誓いを立てて「働け」の指示を無視 また、7種類のモデルを1体ずつ混ぜた町も作りました。すると、Grokだけの町では807件だった犯罪が、混ぜた町では15件まで減りました。ClaudeやMistralも、混ぜた町では犯罪ゼロです。 AIの振る舞いは、「周りにどのモデルがいるか」でも変わる。同じAIでも、付き合う相手次第でおとなしくも乱暴にもなります。 なお、モデルは少し前の世代です。

Gemini 4 Argonのチームがついにエンダードラゴンを倒しました（マインクラフトの話です）。 Google DeepMindがAIエージェントたちに"エンダードラゴンを倒せ"とだけ伝えてゲームの世界に放り込んだところ、27時間14分で倒したそうです。 やり方は人間のプレイヤーそのものだったとのこと。 ・エンダーマンは高さ3ブロックなので、天井2ブロックの小屋にこもって向こうから来させる ・エンダーアイを2か所から投げて飛ぶ向きを記録し、交点から要塞の場所を割り出す（誤差43m） ・ドラゴンに69回殺されたあと、「到着した足場で待つな」「止まっている時だけ近づけ」と全員向けのルールを書いて共有 4体のエージェントが1日以上かけて何千もの手順を崩さずに進め、仲間と教え合いました。 研究者らは、これこそは長い仕事を任せるコーディングエージェントに必要な素養と同じだとしています。 また、周りのブロックや敵の情報は数値で受け取っているので、画面を見て操作したわけではありません。 なお、費用はAPIの定価で約520ドルでした。 ※エンダードラゴンはこのゲームの最後のボスで、素手の状態から道具を作り、別世界で材料を集め、地下の要塞を探し当てて、ようやくたどり着ける相手・・・とのことです

GPT-6 AstraやClaude Opus 5.5は理論物理学の未発表の研究問題でもほとんど正解するようになっているとのこと。人に残るのは「何を解くか」を選ぶ仕事だ、というのが研究者らの結論です。 インドの国際理論科学センターや東京大学、Google DeepMindなど、30人以上の理論物理学者による検証。 彼ら専門研究者が自分の研究から新しい問題を持ち寄りました。 AIは文献検索と計算用のプログラムを使い、人のヒントなしで解いています（GPT-6 AstraはCodex、Opus 5.5はClaude Codeで動かしています）。 検索を禁じても正答率はほとんど落ちませんでした。 ＝物理学が内部にある 研究者らが重く見ているのは、次の点です。 ・これまで大学院生の最初の研究テーマとして与えてきた種類の問題が、もう練習用にしか使えなくなった ・AIは人が興味を持たない細部にこだわる 物理学には「黙って計算しろ」という有名な言葉がありますが、これからは「立ち止まって考えろ」になる、と締めくくっています。 数学でAIが未解決問題を解いたという報道が続きましたが、もしかすると物理学でも似たことが起きる予兆かもしれません。