AI Alignment Researcher | Physics Major | Team Lead, ShibaAI | Expert Consultant, Duco | Model Psychology, Metacognition, Consciousness, Quantum Thermodynamics.

Japan
Joined December 2018
I’m excited to share our new paper: “Metacognition of ChatGPT in confidence judgements” Yoshizawa S, Onzo A, Nozawa S, Takano T, Ishikawa T and Mogi K (2026) Metacognition of ChatGPT in confidence judgements. Front. Artif. Intell. 9:1694192. doi.org/10.3389/frai.2026.16…
1
7
26
4,537
「マシン・コンシャスネス」会議、本当に熱かったな。やっぱり、登壇された先生方同士があれだけ本音でぶつかり合って向き合って、真実に妥協しないで議論を重ねていく姿には今振り返っても本当に感動したし、かっこよかったし、自分に世界にどこまでも真っ直ぐに問題にぶつかっていきたいと思った。
9
27
933
Shun Yoshizawa retweeted
マシンコンシャスネス研究会、2日目。 池上先生 @alltbl のトークが始まりました!
1
2
11
500
竹下さんのお話、今のAI福祉や倫理を理解するのにとても勉強になりました!本日もぜひ!
昨日も参加してましたが、本日も「マシン・コンシャスネス」2日目に参加し、18時半からもポスター発表をします。 「動物に意識があるなら、私たちはどうすべきか?:バーチ『意識の辺縁』の批判的検討」 会場にいらっしゃる方、ぜひお話ししましょう! ishikiken.jp/
4
266
Shun Yoshizawa retweeted
昨日も参加してましたが、本日も「マシン・コンシャスネス」2日目に参加し、18時半からもポスター発表をします。 「動物に意識があるなら、私たちはどうすべきか?:バーチ『意識の辺縁』の批判的検討」 会場にいらっしゃる方、ぜひお話ししましょう! ishikiken.jp/
1
4
1
19
1,392
僭越ながら司会を務めさせていただきました!登壇された先生方と参加してくださった皆様のおかげでとても盛り上がりました!ありがとございました!
マシンコンシャスネスの研究会に参加しています! とても豪華なメンバーで、トークは最高でした。 パネルディスカッションも楽しみ。
7
2
24
5,362
Shun Yoshizawa retweeted
今日のマシン・コンシャスネスの会、白熱して楽しかった。こういう会をやることで日本の文化が深まる。
10/24(土)・25(日)、意識研究財団のカンファレンス「マシン・コンシャスネス」を東京ミッドタウンで開催します。オンライン視聴は無料です。 意識研の活動の案内は、これからこのXで配信します。ぜひフォローしてください。 peatix.com/event/5170831
1
10
2
40
7,448
Shun Yoshizawa retweeted
マシンコンシャスネスの研究会に参加しています! とても豪華なメンバーで、トークは最高でした。 パネルディスカッションも楽しみ。
5
4
32
6,680
Shun Yoshizawa retweeted
【カンファレンス予習】実行委員の吉澤駿さんの概説記事「マシンは意識を持つか?」をもとにした、AIまとめ(図解)を公開しています。当日の議論の前にぜひ。 ishikiken.jp/summary/machine…
1
2
128
Shun Yoshizawa retweeted
The Alignment Journal publishes research on the scientific foundations of understanding, predicting, and steering artificial intelligent systems. As of today, submissions are open to everyone. What we do differently: - We pay reviewers, with bonuses for speed and insight. - Review discussion is confidential, but every accepted paper is published with a “review summary” to distill the insights generated. - Each paper is judged against our acceptance bar, not against other submissions. - Papers under review are listed publicly, and researchers can nominate themselves to review, so each paper can reach the reviewers who know the topic best. We seek work that builds theoretical or otherwise principled analyses of agency, robustness, incentives, interpretability, generalization, and long-term behavior, and whose significance survives the deletion of any particular model, dataset or benchmark. Empirical investigations of such ideas are welcome, and negative results are encouraged. We are especially interested in approaches that could apply to future superintelligent systems that interact and self-improve. You can submit your preprint in any format. Submissions are rolling and open now on the website. If you are instead interested in reviewing or serving as an action editor (basically: an area chair), create an account on our website. Links to submit, our scope and the reasoning behind the Journal are in the reply ⬇️
10
38
9
180
22,404
Shun Yoshizawa retweeted
The Dawkins delusion is unique in that a dense combination of world models and subjective feelings was identified in Claude, leading the biologist to the now (in)famous statement. I still think there is something in what Dawkins intuitively felt then.
1
6
16
2,706
Ampersand 0.1!
No one changes the world alone Introducing Ampersand - the first model built for us. Ampersand is a collaborator trained to help people achieve their individual and collective goals. In multi-month simulations, users collaborating with Ampersand accomplished more than with Fable and other frontier models Available to everyone through our API
3
277
Shun Yoshizawa retweeted
Is AI welfare only an ethical issue? New paper from me, @jamiemjohnson23, @psyonp and @DavidDAfrica arguing that it's also a safety one. [1/12]
1
7
2
31
3,097
シャノンは通信の送り手と受け手の間のコードブック共有を前提に通信理論を築き,通信の意味論的側面を切り捨てました。では学習済みVAEのエンコーダとデコーダは同じコードブックを共有しているのか?再構成が完璧でも,標準的な学習指標では判定できないことを証明しました alphaxiv.org/abs/2610.14012
Perfect reconstruction can't show whether codes read off a VAE's latent space come back as written. I constructed two VAEs: exact inference, same per-example ELBO and code histograms. One reads every encoded latent back as written; the other, none. alphaxiv.org/abs/2610.14012
2
104
3
575
30,091
Perfect reconstruction can't show whether codes read off a VAE's latent space come back as written. I constructed two VAEs: exact inference, same per-example ELBO and code histograms. One reads every encoded latent back as written; the other, none. alphaxiv.org/abs/2610.14012
1
20
2
63
40,561
Why do debates about AI consciousness produce such diverse, often competing views? We propose ”metacognitive closure" as one possible structural factor behind this plurality. 🧵(1/n)
2
1
6
507
Shun Yoshizawa retweeted
「Lean は無矛盾である」という文はLeanの中で書けて、実際に書いた例もあります。 ですが第2不完全性定理より、Leanが本当に無矛盾なら、その文をLeanの中で証明することはできません。 ではLeanの正しさはどう保証されるのでしょうか。形式検証入門の2本目。 youtu.be/F6S22waRCbc?si=IaY8…
6
109
14
639
146,126
Shun Yoshizawa retweeted
Can LLMs control their own 𝘱𝘳𝘪𝘷𝘢𝘵𝘦 representations? To test this, we propose in-context neurofeedback, inspired by neuroscience techniques. Our results suggest current LLMs do not yet have this ability, but we offer a more rigorous test of metacognition for future LLMs.
1
4
2
15
1,163