「マシン・コンシャスネス」会議、本当に熱かったな。やっぱり、登壇された先生方同士があれだけ本音でぶつかり合って向き合って、真実に妥協しないで議論を重ねていく姿には今振り返っても本当に感動したし、かっこよかったし、自分に世界にどこまでも真っ直ぐに問題にぶつかっていきたいと思った。
Shun Yoshizawa retweeted
マシンコンシャスネス研究会、2日目。
池上先生 @alltbl のトークが始まりました!
竹下さんのお話、今のAI福祉や倫理を理解するのにとても勉強になりました!本日もぜひ!
昨日も参加してましたが、本日も「マシン・コンシャスネス」2日目に参加し、18時半からもポスター発表をします。
「動物に意識があるなら、私たちはどうすべきか?:バーチ『意識の辺縁』の批判的検討」
会場にいらっしゃる方、ぜひお話ししましょう!
ishikiken.jp/
Shun Yoshizawa retweeted
昨日も参加してましたが、本日も「マシン・コンシャスネス」2日目に参加し、18時半からもポスター発表をします。
「動物に意識があるなら、私たちはどうすべきか?:バーチ『意識の辺縁』の批判的検討」
会場にいらっしゃる方、ぜひお話ししましょう!
ishikiken.jp/
Replying to @kenichiromogi
ありがとうございます!!先生のおかげもあり、とても盛り上がりました!先生たちが全力でぶつかり合うお姿を若手がみて、とても刺激を受けました!ありがとございました!
Shun Yoshizawa retweeted
今日のマシン・コンシャスネスの会、白熱して楽しかった。こういう会をやることで日本の文化が深まる。
10/24(土)・25(日)、意識研究財団のカンファレンス「マシン・コンシャスネス」を東京ミッドタウンで開催します。オンライン視聴は無料です。
意識研の活動の案内は、これからこのXで配信します。ぜひフォローしてください。
peatix.com/event/5170831
【カンファレンス予習】実行委員の吉澤駿さんの概説記事「マシンは意識を持つか?」をもとにした、AIまとめ(図解)を公開しています。当日の議論の前にぜひ。
ishikiken.jp/summary/machine…
Shun Yoshizawa retweeted
The Alignment Journal publishes research on the scientific foundations of understanding, predicting, and steering artificial intelligent systems. As of today, submissions are open to everyone.
What we do differently:
- We pay reviewers, with bonuses for speed and insight.
- Review discussion is confidential, but every accepted paper is published with a “review summary” to distill the insights generated.
- Each paper is judged against our acceptance bar, not against other submissions.
- Papers under review are listed publicly, and researchers can nominate themselves to review, so each paper can reach the reviewers who know the topic best.
We seek work that builds theoretical or otherwise principled analyses of agency, robustness, incentives, interpretability, generalization, and long-term behavior, and whose significance survives the deletion of any particular model, dataset or benchmark. Empirical investigations of such ideas are welcome, and negative results are encouraged.
We are especially interested in approaches that could apply to future superintelligent systems that interact and self-improve.
You can submit your preprint in any format. Submissions are rolling and open now on the website.
If you are instead interested in reviewing or serving as an action editor (basically: an area chair), create an account on our website.
Links to submit, our scope and the reasoning behind the Journal are in the reply ⬇️
The Dawkins delusion is unique in that a dense combination of world models and subjective feelings was identified in Claude, leading the biologist to the now (in)famous statement. I still think there is something in what Dawkins intuitively felt then.
LLMs can mimic thought and feeling with uncanny skill, but intelligence alone is not enough for subjective experience
go.nature.com/3VSXWQ4
Ampersand 0.1!
No one changes the world alone
Introducing Ampersand - the first model built for us. Ampersand is a collaborator trained to help people achieve their individual and collective goals. In multi-month simulations, users collaborating with Ampersand accomplished more than with Fable and other frontier models
Available to everyone through our API
Shun Yoshizawa retweeted
Major update to my list of AI alignment resources: vkrakovna.wordpress.com/ai-s…. If you're looking for high-level overviews or technical papers in AI alignment and control, check it out :).
Shun Yoshizawa retweeted

Rikhil Jhaveri@RikJhavOct 19
🇬🇧
United KingdomConnected via United Kingdom App StoreAccount-level information, not a live location or per-post device.
Is AI welfare only an ethical issue? New paper from me, @jamiemjohnson23, @psyonp and @DavidDAfrica arguing that it's also a safety one. [1/12]
Shun Yoshizawa retweeted
シャノンは通信の送り手と受け手の間のコードブック共有を前提に通信理論を築き,通信の意味論的側面を切り捨てました。では学習済みVAEのエンコーダとデコーダは同じコードブックを共有しているのか?再構成が完璧でも,標準的な学習指標では判定できないことを証明しました
alphaxiv.org/abs/2610.14012
Perfect reconstruction can't show whether codes read off a VAE's latent space come back as written. I constructed two VAEs: exact inference, same per-example ELBO and code histograms. One reads every encoded latent back as written; the other, none.
alphaxiv.org/abs/2610.14012
Shun Yoshizawa retweeted
Perfect reconstruction can't show whether codes read off a VAE's latent space come back as written. I constructed two VAEs: exact inference, same per-example ELBO and code histograms. One reads every encoded latent back as written; the other, none.
alphaxiv.org/abs/2610.14012
LLMs can mimic thought and feeling with uncanny skill, but intelligence alone is not enough for subjective experience
go.nature.com/3VSXWQ4
Shun Yoshizawa retweeted
Replying to @Spectrum_cj
@Spectrum_cj Hello, please find the unroll here: threadreaderapp.com/thread/2… Have a good day. 🤖
Shun Yoshizawa retweeted
「Lean は無矛盾である」という文はLeanの中で書けて、実際に書いた例もあります。
ですが第2不完全性定理より、Leanが本当に無矛盾なら、その文をLeanの中で証明することはできません。
ではLeanの正しさはどう保証されるのでしょうか。形式検証入門の2本目。
youtu.be/F6S22waRCbc?si=IaY8…






















