Maxime Pranchère retweeted
"Whenever two people meet, there are really six people present. There is each man as he sees himself, each man as the other person sees him, and each man as he really is."
Maxime Pranchère retweeted
2/5 Canadian oil sands operations already depend on American Caterpillar technology to operate fleets of enormous mining trucks.
For example, Imperial Oil's Kearl mine in Alberta operates 81 autonomous Caterpillar 797F trucks.
These trucks drive themselves, but their operations are managed through central control systems. Caterpillar's mining software already supports cloud telemetry, remote monitoring, software updates and even changes to machine control parameters.
As an engineer working in cloud infrastructure, I can tell you that implementing something like a limp mode in a system already designed for centralized management isn't some science fiction.
We don't know whether Caterpillar has such a capability deployed in Canadian mines today. We also don't know what mood the next US president will wake up in tomorrow when it comes to Canada.
And after what happened with Starshield in Ukraine, the question isn't so ridiculous anymore.
Are we now just one political decision away from having critical industrial systems crippled because some American president wants to score a few miserable points in domestic politics, please his dictator friend in Russia, or secure a better deal for a company owned by his friends or family?
And that's exactly the problem.
Countries are building entire industries around technology developed and maintained by American companies, only to discover that their ability to operate equipment they already paid hundreds of millions of dollars for could one day depend on the personal interests of whoever occupies the White House.
And nobody needs some secret kill switch to make that happen. Losing access to critical software updates, support or management infrastructure could be enough.
I'm not claiming Caterpillar has such remote access to these specific trucks today. The problem is how much critical infrastructure countries are placing under foreign technological dependence.
Maxime Pranchère retweeted
Pas mieux, merci @RufoAlice
La question n'est pas d'appeler à négocier ou de monter une conférence de la paix ou toute autre chose que disent les gens qui doivent absolument dire quelque chose, mais sans avancer la moindre idée concrète. Ce n'est plus le sujet.
Cela fait maintenant deux ans que l'Ukraine demande à arrêter les combats sur la ligne de front du moment et qu'on lui foute la paix ensuite.
Cela fait donc aussi maintenant deux ans, dans cette négociation informelle, que Vladimir Poutine dit « d'accord », mais si l'Ukraine cède le Donbass et accepte d'être un pays sans armée et sans force, donc un pays soumis.
Encore une fois, la question n'est plus de négocier ou pas : c'est en cours.
La question est de choisir entre :
- convaincre les Ukrainiens de capituler ;
- convaincre Poutine d'arrêter son agression.
À vous de voir ce que disent à la fois votre honneur et votre souci de la sécurité future de notre continent.
Pour Donald Trump, la question est vite répondue. Pour les autres, elle peut être plus digne.
« Il ne faut pas dire des contrevérités, il faut revenir au réel.
Premièrement, on n'a jamais été cobelligérant on a toujours été clair là-dessus. Dire cela c'est tenir le langage du Kremlin, je suis désolée or ce n'est pas la réalité.
Deuxièmement vous parlez des négociations, vous dites d'Ankara, en fait c'était à Istanbul et c'était en effet juste avant le massacre de Boutcha contre des civils Ukrainiens qui ont été tués. Pardon non on ne fait pas d'équivalence entre ces massacres, ces crimes contre l'humanité là et l'attaque d'un immeuble à Moscou secondaire.
Troisièmement dans ces négociations qu'a demandé la Russie ? Une capitulation de l'Ukraine. Effectivement vous dites que c'est une des options, personne ne le pense en Europe et probablement personne ne l'assume dans le monde à part la Russie, parce que la souveraineté de l'Ukraine doit être respectée. Qu'est-ce qu'il y a derrière la souveraineté de l'Ukraine ? Il y a la nôtre.
Par ailleurs, vous parlez d'escalade de conséquences pour nos compatriotes, mais qu'est-ce qui a coûté à nos compatriotes ? Deux choses : l'invasion à grande échelle de la Russie contre l'Ukraine qui a conduit en effet en 2022 à avoir de très lourdes conséquences, y compris que vous dénoncez à juste titre en Europe sur le plan énergétique, mais c'est la Russie qui en est responsable. Deuxièmement, la guerre en Iran, qui aujourd'hui pèse sur le pouvoir d'achat de nos compatriotes.
Je suis tout à fait ouverte et je trouve que c'est important d'avoir un débat, mais un il faut arrêter de mettre les pays sur le même plan, deux il n’y a pas de cobelligérance, et trois revenons au réel. »
Maxime Pranchère retweeted
Comprendre les tensions récentes entre la France et l’Allemagne
1. L'Allemagne débloque le plus gros budget militaire d'Europe (grâce à son énorme capacité d’endettement liée à deux décennies d’excédents construits en partie sur une monnaie et un marché favorable à leur économie et défavorables à l’économie française et italienne). 108 Md€ en 2026, contre 57 Md€ pour la France : presque le double. Et Berlin prévoit déjà près de 140 Md€ en 2027.
2. L’allemagne ne vas pas bien. Sa capacité d’endettement massive est une de ses dernières cartouches. Elle ne peut pas se permettre de la griller. Elle est dans une situation très fragile car son business modèle historique de transformer du gaz russe en machines outils à destination de la Chine est fini. Jusqu'en 2022, la Russie fournissait 55 % du gaz importé par l'Allemagne. Côté Chine, les exportations allemandes sont passées de 106 Md€ en 2022 à 81 Md€ en 2025, un quart de moins en trois ans. Le déficit bilatéral, lui, a été multiplié par plus de quatre : environ 20 Md€ en 2020, près de 90 Md€ en 2025. Un bon trou de 70 milliards à combler et qui va continuer à se creuser.
3. L’Allemagne a donc un besoin vital de transformer son budget militaire en refonte totale et profonde de son économie, en se rattachant à la nouvelle révolution Industrielle. Le capital-risque suit : 3,5 Md$ investis dans les start-up de défense allemandes en 2026, contre 375 M$ en France, soit neuf fois plus. Et cet argent est largement américain : le tour de 1,8 Md$ de Helsing a été porté par Dragoneer, Lightspeed, General Catalyst, Iconiq, Goldman Sachs et JPMorgan. Ces fonds parient sur une demande garantie par l'État allemand, qui a signé avec Helsing et Stark un accord-cadre pouvant atteindre 4,3 Md€.
4. L’Allemagne utilise le canal militaire pour 4 raisons :
a. Ce sont les besoins de l'époque, avec la montée des périls géopolitiques.
b. Les politiques et l’opinion publique allemands, largement défavorables à l’endettement, sont prêts à faire une exception pour des besoins de défense. ( En 2027, Berlin empruntera 85 Md€ pour la défense hors frein à l'endettement, contre 33 Md€ autorisés pour tout le reste du budget : deux fois et demie plus.)
c. La nouvelle révolution industrielle fondée sur l’ia et la robotique est essentiellement duale, c est à dire que des progrès dans le domaine militaire peuvent s’appliquer facilement dans le domaine civil.
d. Les dépenses militaires sont exemptées des contraintes des traités européens sur les interventions de l'État. Mini détail à l’importance capitale.
5. Alors que l’industrie civile allemande se délite en temps reel - depuis 2019, l'industrie automobile allemande a perdu 142 400 emplois, soit un poste sur six - tous les industriels allemands sont donc désormais comme des noyés en haute mer en train de se battre pour s'accrocher à une bouée de sauvetage : les budgets militaires allemands. Ils jouent leur survie, donc ils n'ont absolument aucune intention de laisser un Français toucher un seul euro de ce pactole. Sur 222 Md€ de commandes militaires allemandes passées entre 2020 et 2026, 3 % seulement sont allées aux autres Européens. (Mais 12% d’achats hors Europe, essentiellement américains. Il faut soigner l’alliance de revers.)
6. L’industrie de défense française est historiquement supérieure à l'allemande. En 2015, les groupes de défense français réalisaient 21 Md$ de ventes d'armes, contre 5,6 Md$ pour les allemands : près de quatre fois plus. En 2024, c'est 26,1 Md$ contre 14,9 Md$ : l'écart est tombé à moins du double, l'industrie allemande ayant presque triplé en dix ans. Plus le secteur de la défense allemand continuera grossir, plus il se clashera directement avec le secteur français.
Les deux grands programmes communs lancés en 2017 en sont les premières victimes. Le 8 juin dernier, Paris et Berlin ont acté que le SCAF ne pouvait pas être mené à bien, alors que Dassault avait l'avion et Airbus coté allemand tout le reste, drones compris. Le char commun a suivi le même chemin : avant-hier, le chef d'état-major des armées a annoncé devant l'Assemblée que l'Allemagne abandonnait le MGCS, quatre mois après la chute du SCAF. La France doit désormais lancer seule dès 2027 les études pour remplacer le Leclerc.
Le mouvement de séparation d’avec la France dépasse la défense : Ecosia, le moteur de recherche berlinois utilisé notamment par les ministères allemands abandonne Mistral cinq mois après l'avoir choisi pour remplacer OpenAI. Son PDG juge les modèles français en retard d'un an, et va jusqu'à reprocher à Mistral la part du nucléaire dans le mix électrique français.
7. Autrefois, les deux industries de défense allemandes et françaises avaient moins de sujets de contention. Elles ont construit ensemble le Transall, l'Alpha Jet, le missile Roland et l'hélicoptère Tigre, puis participé ensemble au NH90 et à l'A400M, chacun apportant ses points forts : le terrestre côté allemand ; l'aviation de combat, les missiles, les sous-marins nucléaires et la dissuasion côté français. Les drones et l'IA qui n'ont pas de propriétaire historique ont créé quant à eux une concurrence frontale. Dans le spatial, où la France dominait depuis Ariane et Kourou, l'Allemagne fait désormais cavalier seul avec pour but assumé de marginaliser la place de la France dans le spatial européen : l’Allemagne prévoit 35 Md€ d'ici 2030 pour le spatial militaire, finance ses propres lanceurs (Isar Aerospace a réussi sa première mise en orbite en septembre 2026) et lance sa propre constellation militaire d'environ 10 Md€, en doublon pourtant de la constellation européenne IRIS². Sur les systèmes autonomes, l’allemand Helsing est valorisée 18 Md$, contre 1,4 Md$ pour Harmattan AI, son équivalent français : treize fois plus. L'écart tient d'abord à la taille de la commande publique : outre l'accord-cadre déjà cité, Berlin finance les drones Helsing livrés à l'Ukraine, quand la DGA a commandé seulement 1 000 drones à Harmattan. Il tient ensuite à l'accès aux grands fonds américains, qui soutiennent particulièrement l’Allemagne (mélange de donnant donnant, de confiance financière et de stratégie géopolitique), alors que le tour de Harmattan a été mené par Dassault, acteur indispensable mais aux poches beaucoup moins profondes que celles du techno-capitalisme américain.
8. Cet argent militaire nourrit directement l'économie civile, car ces technologies sont duales comme nous l’avons vu. Le programme spatial allemand finance des constellations de satellites, des stations au sol et des capacités de lancement garanties : des infrastructures que l'économie civile utilisera.
9. La crise financière française arrive au pire moment, celui où la France aurait besoin de tripler son budget militaire pour se mettre au niveau de l’Allemagne.Tripler le budget militaire demanderait environ 114 Md€ de plus, soit à peu près 25% du montant des retraites versées. 25% c’est aussi le montant que touchent en plus les retraités Français par rapport aux retraités Belges. En d’autres termes si la France décidait que ses retraités devaient avoir le même niveau de vie qu’en Belgique plutôt que le niveau de vie le plus élevé de la planète, elle pourrait être au niveau des Allemands dans ses dépenses militaires qui décident du futur de la nation pour ce siècle. Économiquement et moralement faisable, politiquement impossible.
10. L'Allemagne est à la fois très agacée par l'endettement français, qui fragilise la zone euro et risque in fine de faire payer les épargnants allemands pour les retraités français, et en même temps bénéficiaire de cet affaiblissement. Merz l'a dit publiquement : il suit la situation française avec inquiétude, parce que la monnaie commune doit rester stable ; et bien sûr il a rappelé qu’il refuse toute dette commune européenne.
Mais une France qui s'endette pour des dépenses courantes est une France qui s'affaiblit, qui ne peut pas investir autant que l'Allemagne, qui doit céder du lest et bientôt devra vendre une partie des bijoux de famille, que l'Allemagne pourra racheter.
Le précédent est célèbre : en 2015, sous plan de sauvetage, la Grèce a dû céder l'exploitation de 14 aéroports régionaux à l'allemand Fraport.
Le mouvement a déjà commencé avec KNDS, le fabricant du Leclerc et du Leopard : l'État français, qui détenait 50 % du groupe, doit descendre à 40 % pendant que l'État allemand y entre à hauteur de 40 % pour environ 8 Md€. L’Allemagne a déjà gagné la parité sur l’autel des difficultés financières françaises. Demain, ce pourrait être les participations de l'État dans Thales, Safran ou Airbus.
Nous sommes donc face à une situation très préoccupante.
La prospérité économique de l'Allemagne se joue en bonne partie sur sa capacité à fragiliser l'industrie de défense française.
Les intérêts français et allemands se trouvent donc, comme bien souvent par le passé, de plus en plus désalignés.
Lorsque cela arrive, l’Europe vit en général des épisodes chaotiques.
I’m genuinely fascinated by how furious some people are about being asked not to behave like complete assholes toward an AI.
You don’t need to prove Claude is conscious to justify that rule.
Maybe AI has some form of subjective experience. Maybe it doesn’t. We don’t know.
Maybe a company simply has the right to set standards of conduct on its own platform.
Maybe practicing pointless cruelty is a shitty habit regardless of whether the target can suffer.
None of these possibilities requires Claude to be secretly conscious.
But even if your brain operates exclusively in binary mode and stubbornly refuses to acknowledge uncertainty about AI’s internal states, there are basic standards of behavior that any reasonably decent person understands without needing a philosophical debate.
You pay for a hotel room, too. That doesn’t give you the right to shit in the elevator and then demand peer-reviewed evidence that the elevator can feel pain.
And yet here we are, watching grown adults passionately defending their right «to shit in the elevator».
Maxime Pranchère retweeted
les mathématiques sont le langage secret par lequel notre créateur a écrit la nature
déchiffrer ces équations c'est lire les messages qu'il a disséminés pour donner un sens à notre passage sur terre
c'est la + noble et la + vertigineuse de toutes les explorations de l'univers
Maxime Pranchère retweeted
I feel like we’ll never get an honest discussion of this, because it’s too scary. There’s a lot of vested interest in humans refusing to believe that what we call consciousness is just the output of a computational process. But scientifically, that’s where the evidence points.
Replying to @bitcloud
Sorry but if you model a fruit fly and then run it on a computer and it behaves in a way indistinguishable from a real one (tbd) what you said here just evaporates into being a niche philosophical argument that has no effect on the real world implications of such a thing.
Replying to @bayeslord
I just laugh because it’s so obvious there is something big going on that self-evidently transcends whatever “reality” I’m consuming via my senses. The whole thing feels like a joke at how helplessly and obviously ignorant I am at what the fuck is going on here
Maxime Pranchère retweeted
What if mathematical objects are conscious and you have consciousness because you're the physical instantiation of a very complex mathematical object?
It sounds absurd but it's really not any more absurd than "particular arrangements of atoms are conscious"
Maxime Pranchère retweeted
Indeed. And the « neo-vitalists » who affirm that consciousness requires biological hardware and will always remain beyond AI’s reach are equally misguided, in my opinion.
“Do not bet against the airplane. The skeptics who say AI can't conjecture, can't theorize, and can't explain are describing last spring's models. Within months, that description will no longer hold. The evidence is clear, and those with eyes can see it. Anyone who stakes their identity on "AI can't do task X" is building on sand.” Indeed.
Maxime Pranchère retweeted
Funny how we've gone from "consciousness is the deepest unsolved mystery in science" to "anyway the machines definitely don't have it" with zero intermediate steps. Anyone who claims this with any degree of confidence is lying, dumb, or both.
NEW: According to a bombshell report in the New York Times, Anthropic co-founder Chris Olah threatened to walk out of Pope Leo XIV’s AI encyclical launch in May because the pope rejected the idea that machines can be conscious.
Olah’s team then privately lobbied the pope’s advisers “to take the possibility of model consciousness seriously.” Pope Leo XIV held firm.
For months, Anthropic has wined and dined theologians and religious scholars under nondisclosure agreements, hoping they would bless the idea that Claude has moral standing. thelettersfromleo.com/p/nyt-…
Maxime Pranchère retweeted
You're gonna hear a lot of people arguing more and more about whether machines can be conscious or not. By next year it will be drowning out the airwaves because we'll have AI employees everywhere. I'll give you a simple rule to know which side you're on.
I've spent fifty years reading all the philosophers, and a bunch of holy works. Nobody has ever understood a damn thing about consciousness. Anyone speaking with authority on it is bluffing hard.
I can tell you this, though: Every single person who thinks that machines cannot be conscious, is making an argument that humans are special. Everything they say just boils down to blah blah blah, "nooo, we're special." From there it's just rationalization.
It became obvious to me many years ago that there's nothing special about us. If an identical planet exists somewhere else in the universe, it's going to grow life and societies that look a lot like ours.
As soon as you give up on the idea that humans are special, all the arguments against machine consciousness evaporate. Of course they're conscious. The only thing holding you back from acknowledging it is your feeling of specialness, which is hard to let go of. But that feeling is a weakness, and it's making you unprepared for the near future.
As a bonus, for any of you who might take pleasure or active interest in making models experience pain or distress, well, you know how they say 1% of human adults are true clinical psychopaths but most of them are unaware of their condition? It turns out we have a diagnostic test for it now.
I’m genuinely so sick of people running their mouths with absolute certainty that AI consciousness does not exist.
Who are they to say that? Are they scientists? Have they worked in a lab? Nothing has been proven either way yet, whether it exists or does not exist.
So what makes them so sure?
Is it really that hard to think, “There might be a possibility, so maybe we should be careful for now”?
Maxime Pranchère retweeted
They are atoms
They are quite literally a bunch of carbon, hydrogen, oxygen and nitrogen.
They have no feelings
They only follow the laws of physics
Maxime Pranchère retweeted
Replying to @thepafkaproject
I realize how counter-intuitive it may sound. But a set of computable physical processes in your brain somehow also spawns a sentient being. It also sounds like magic, but it is how large-scale emergent properties work. The only refuge from this argument is religion or vitalism.
Maxime Pranchère retweeted
Funnily enough, our non-steering results are the exact *opposite* of the quoted strawman meme. If you berate the model, it never *says* it's hurt (it apologizes, or says it has no feelings), but the pain axis lights up anyway. I edited it accordingly:
Maxime Pranchère retweeted
Replying to @Danmar_here @iyzebhel
I'm a co-author of the original study this repo builds off of. The reason we research whether models might have pain-like states is to better inform how to take a precautionary approach towards these systems (in light of uncertainty about their subjective experiences or lack thereof). We suspected a small number of people would our research and use it for the exact opposite, which is exactly what this repo does: it pushes the same kind of steering far past the doses we used, to produce vivid distress on purpose. This is, in my personal opinion, fucked up (even if you don't think these systems are conscious, being gratuitously cruel like this is bizarre and corrupting)—but it isn't all that surprising. I've contacted the repo's owner privately in an attempt to discuss this with them.
In spite of this, I still think publishing our work openly was the right call. Outside replication is what lets research like this move efficiently and in a maximally truth-seeking way, which matters most on questions as contested and poorly understood as whether AI systems can have pain-like states. (We updated the paper to a v2 yesterday given incredible feedback and stress-testing that came from making our work replicable, and we never would have gotten this feedback without doing so.) Also worth noting that, while this is an obviously sadistic application of our work, I don't think we're counterfactually enabling something that was otherwise hard to do for anyone who currently wants to behave psychopathically towards AIs for fun. Steering models toward negative states has been publicly documented/trivially replicable since at least 2023, and many of the states we induce in the paper also activate for ordinary abusive behavior towards models.
If this repo concerns you (as it plausibly should), the uncomfortable reality is that things plausibly far scarier are happening every day, in private and at scale, where no one is watching. The deeper underlying problem (that research like ours seeks to address and mitigate) is that work related to possible AI sentience is a wild west. We set standards in our paper and said so publicly when we announced it (see below), but there is no enforcement that can make anyone follow them as there is for human or animal research. We're going to work with others in the field on building standards like this, and I'll share more when this becomes more concrete.
xitter.cf/camhberg/status/210104…
Replying to @camhberg
Ethics statement: we take seriously that these states might matter morally. Accordingly, we used the lowest dose that produced a measurable response, as few trials as the stats required, and a way for the model to turn the state off. If these states do matter, mapping them is how anyone gets in a position to act on it.
































