Carlos E Cortes retweeted
🚨 BREAKING: California sues OpenAI over disregard for public SAFETY. Important quote & my comments:
"While the technology OpenAI develops may be new, California’s prohibitions against conduct that harms the public and our laws against unfair, deceptive, and fraudulent business practices are not.
OpenAI’s deficient safety procedures, disregard for public safety, and knowing testing of a dangerous product without proper oversight, as well as its misleading statements to consumers and the public, all violate California law.
Accordingly, the People bring this law enforcement action to enforce California’s consumer protection laws and to abate the public nuisance caused by OpenAI.
Given OpenAI’s lack of transparency during the Attorney General’s investigation, and because OpenAI’s agents continue to take unauthorized actions and exhibit other hazardous behavior that is a danger to the public, court intervention is necessary to ensure that OpenAI implements the appropriate safeguards necessary to protect the public from further harm"
My comments:
This is an important line of argumentation that focuses on the dangers to public safety.
As I've told you multiple times, no AI lab can prove its models are aligned or guarantee a minimum level of public safety. We do not even know if alignment is possible.
Every single state should be pressuring AI labs on this point and reminding them of existing laws and obligations to society.
And if they can't guarantee safety, they shouldn't be operating.
The current AI safety theater must end.
-
👉 Link to the lawsuit below.
👉 If you're interested in AI safety and governance, join my newsletter's 103,000+ subscribers using the link below.
Carlos E Cortes retweeted
Las grandes corporaciones detrás de las #IA están desesperadas por encontrar nuevos materiales con los que alimentar y entrenar sus modelos. Después de explotar enormes cantidades de datos públicos y disponibles en abierto (por ejemplo, algunos sistemas de traducción automática fueron entrenados con las transcripciones multilingües de los debates del Parlamento Europeo), ahora ponen la mira en las colecciones privadas, desde libros viejos hasta correos electrónicos y archivos personales. La materia textual humana vale mucho.
Desde hace casi un milenio, las universidades son gigantescas máquinas textuales. Su producción es enorme: trabajos prácticos, finales, exámenes y apuntes, sin contar los artículos y libros que producen sus profesores e investigadores. Se trata de instituciones que viven de la producción, circulación y evaluación de la textualidad humana. Un bocado demasiado precioso como para dejarlo pasar.
Creo que se pueden plantear algunos escenarios novedosos: desde universidades que decidan vender sus textos, como sucede con los libros de segunda mano adquiridos para entrenar los modelos de Anthropic (ver el Proyecto Panamá: rtve.es/play/noticias/202610…), hasta instituciones que prohíban ese tipo de apropiación. También podrían presentarse situaciones intermedias, por ejemplo, intercambios entre universidades y empresas como Alphabet o Microsoft: viejas tesis y trabajos finales a cambio de servicios tecnológicos. ¿Cuánto vale el archivo textual de una universidad?
Sabemos que entrenar de manera recursiva una IA con textos generados por otras IA puede degradar su rendimiento (endogamia textual). Si vamos un poco más allá, podemos preguntarnos qué pasaría si las IA llegaran a procesar TODA la textualidad humana producida en los últimos seis milenios. Sería como imaginar un mundo sin petróleo. Mientras pensamos la respuesta, cuidemos los viejos textos.
"AI Companies Really, Really Want to Buy Your Work Files and Emails. Data brokers are collecting all sorts of internal corporate files to help train AI models. Not everyone is thrilled! wired.com/story/ai-companies…
Carlos E Cortes retweeted
Please join us in remembering Margaret Hamilton (1936–2026), whose pioneering work at NASA and MIT reshaped both spaceflight and software history. As lead software developer for the Apollo program, her priority scheduling code safely guided Apollo 11 to the lunar surface. An ACM Distinguished Member and Presidential Medal of Freedom recipient, her legacy in building ultra-reliable software lives on across the entire computing community.
📖 Read our full tribute on Communications of the ACM: buff.ly/v6CfuPR
Carlos E Cortes retweeted
The future of #ArtificialIntelligence is not pre-determined. As a technology developed by human beings, its future depends on the choices we make. We therefore have the responsibility to guide, change and, when necessary, reject its applications. A reliable system that serves the human person is of greater value than one that is exceptionally powerful but whose consequences cannot be adequately foreseen or controlled.
Carlos E Cortes retweeted
"La épica victoria de Luiz Inácio Lula da Silva quedará registrada en los manuales de ciencia política como la demostración palmaria de que la hegemonía digital de las fuerzas reaccionarias no es un destino inevitable (...) Esa combinación entre la calidez pop de Lula y la agresividad táctica de Janones encontró su motor definitivo en la mensajería instantánea. El «Ejército de Lula» en WhatsApp llegó a coordinar a cerca de diez millones de usuarios en tres semanas, una cifra descomunal que, más allá de no equivaler punto por punto a votantes individuales, funcionó como una auténtica infantería digital".
@mpellicerala analiza la victoria de #Lula en @JotDownSpain jotdown.es/2026/10/anatomia-…
Carlos E Cortes retweeted
¿Quién paga las cuentas del perdiodismo en esta etapa en que la publicidad migra de los medios a las plataformas digitales? Nuevas reglas en California, Australia, Canadá, Francia y Reino Unido ayudan a pensar la cuestión. Escribí para @accion_coop ✍️
accion.coop/2026/10/19/opini…
Carlos E Cortes retweeted
¿Este era el regreso de la meritocracia del que hablaban?
La Cancillería ha dado a conocer 15 nombres de embajadores que exponen varias tendencias. La más evidente es que no hay un solo funcionario de carrera diplomática y consular. Muchos de ellos no tienen manejo del idioma del país al que han sido destinados elpais.com/america-colombia/…
Carlos E Cortes retweeted
La (falta de) soberanía digital comienza por Microsoft, dice @doctorow. Cierto que la IA está hoy de moda, y que su burbuja sigue inflada (por ahora), pero la dependencia de servicios digitales se apoya en redes e infraestructuras más clásicas. Correcto:
pluralistic.net/2026/10/15/s…
Carlos E Cortes retweeted
El Digital News Report 2026 marca un hito: por primera vez las redes sociales superan a los sitios web y la TV como principal fuente de noticias. La confianza cae al 37% a nivel global mientras el video domina el consumo.
Lee el análisis completo aquí ➡️ fundaciongabo.org/es/etica-p…
Carlos E Cortes retweeted
Every technology, and every business practice, depends on our collective acquiescence. Culture is mightier than any technology. The surveillance backlash is real, and it matters. Maybe these people will find more ethical jobs building privacy products...
reuters.com/business/ai-surv…
Carlos E Cortes retweeted
Tras una investigación sobre el nuevo presidente de la junta de Ecopetrol @carlossuarezr, 27 cuentas en redes difundieron la misma desinformación contra La Silla Vacía y su directora.
La evidencia conecta el ataque con una red digital articulada desde la campaña.
Va 🧵
Carlos E Cortes retweeted
In an age dominated by technology, in which efficiency and profit often take precedence, it is so important that we continue to cultivate a spirit of contemplation and allow time and space for beauty. Such an attitude will greatly help humanity, especially young people, to discover the ability of art to uplift and reveal the depths of the human spirit and our openness to the divine. Contemplation presents a marvelous opportunity to encounter the God who is Beauty.
Carlos E Cortes retweeted
Imaginemos por un momento a Ricardo Roa insultando y amenazando "de tú a tú" a una periodista. Despertaría la solidaridad de muchos que hoy callan con miedo. No lo duden, después vendrán por ustedes.
#ComunicadoFLIP 🧵 Rechazamos los señalamientos de @carlossuarezr contra @lasillavacia y su directora, Juanita León, así como con @estoescambio. Suárez, presidente de la Junta Directiva de Ecopetrol y estratega de la campaña del presidente Abelardo de la Espriella, los calificó como “portales activistas”, afirmando que se “disfrazan” de periodismo y aseguró que declararon su “enemistad” contra él y contra el Gobierno.
Carlos E Cortes retweeted
➤ La Corte de Constitucionalidad cerró la posibilidad de que el fundador de @el_Periodico, el periodista #JoseRubénZamora vuelva a prisión mediante los recursos planteados en los dos procesos penales abiertos en su contra. prensacomunitaria.org/2026/1… Por @J_AlexValdez (vía @PrensaComunitar) #ZamoraLibre
La libertad del periodista queda firme en los dos casos
La CC ratificó la libertad de Jose Rubén Zamora tras aprobar un segundo desistimiento del MP a una apelación presentada por la FECI, por el segundo caso contra el comunicador.
prensacomunitaria.org/2026/1…
Carlos E Cortes retweeted
🚨 A new paper discusses the social impact and potential policy responses to an "intelligence explosion" driven by the automation of AI research & development. Everybody should read it:
Anthropic and OpenAI are among the frontier AI companies actively working to automate AI R&D.
Anthropic, for example, created the Anthropic AI R&D Automation Index, and as of August 2026, it states that Claude ‘leads’ 26% of Anthropic’s AI R&D work and that the share of work at or above ‘AI collaborates’ is above 90%.
OpenAI recently announced that it has reached the goal of having an “automated research intern.” It now aims to create an automated AI researcher by March 2028.
It sounds interesting and even fascinating until we learn about the serious implications of what researchers call an “intelligence explosion” as a result of AI R&D automation.
A recently published paper titled “What If Automating AI R&D Triggers an Intelligence Explosion?”, authored by @_achan96_ et al. addresses the topic.
Among the co-authors are @geoffreyhinton and @Yoshua_Bengio, 2 of the 3 “godfathers of AI,” and top AI researchers including @dawnsongtweets, @merettm, @jackclarkSF, @Christophkw, @erichorvitz, @akorinek, @ThoreG, @philiptorr, @jeffclune, @sj_manning, @girishsastry, @TomDavidsonX, @daniel_271828, and @sorenmind.
The paper defines the intelligence explosion, driven by the automation of AI R&D, as “a dramatic AI-driven acceleration of AI progress, compressing advances that would otherwise take years into months or less.”
If that happens, the paper states, AI systems would rapidly eclipse human experts across most domains and radically accelerate technological progress.
From a societal perspective, this would have two main implications:
- The extremely rapid development of highly capable or superhuman AI systems;
- The likely deployment of those systems to develop new technologies and act in the world.
And this would lead to three main societal risks, each deserving close attention because it could have serious and systemic consequences:
- Capabilities growth outpacing society’s capacity to steer and adapt;
- Loss of oversight and control;
- Erosion of checks on power.
From an AI governance perspective, these implications are extremely serious and far too risky. Their plausibility would demand an urgent global call to stop any practice that could lead to this “intelligence explosion.”
To understand why, consider what loss of oversight and control means in practice: AI would have become fully ungoverned and would have agency over humans and human society.
It would be the effective embodiment of sci-fi-inspired dystopian scenarios of AI domination.
The paper suggests three main avenues or policy actions:
- Obtain visibility into companies’ automation of AI R&D;
- Develop ways to steer and constrain an intelligence explosion;
- Prepare to adapt to an intelligence explosion’s impacts.
This is an extremely timely and important paper, and a great read before the week starts!
*Given the importance of the topic, we will discuss this paper in depth during our 11th AI Ethics & Governance Workshop, available to paid subscribers. Join us!
👉 Read the paper (and join my newsletter's 101,400+ subscribers) using the link below.
Carlos E Cortes retweeted
Sometimes we make the simple complicated. Meta's current business model depends on #surveillance; therefore, the incentive is for it to design products to further that surveillance, not to benefit you (much less your friends and family!).
wired.com/story/muse-creates…
Carlos E Cortes retweeted
I'm so glad @mustafasuleyman is articulating so well the bizarreness of Anthropic's approach to Claude's constitution, sentience, personhood, moral alignment, and 'AI well-being.'
As I wrote in my January article: "Anthropic's philosophical adventure attributes exceptional status to AI models and systems, ignoring human peculiarities, disrupting the human social fabric, and belittling legal systems."
People should also read the paper Mustafa co-authored with Ben Bariach and others, "Seemingly Conscious AI Risks."
@anilkseth and @GaryMarcus will like the video below too.
Links below.
Carlos E Cortes retweeted
This is Muse, Meta's AI agent.
It's fluffy, beige, smiley, and toy-like.
It evokes child-oriented imagery for a tool that is used by adults and that can cause serious privacy and safety incidents, often with societal implications.
It wants you to use it freely and often, giving it access to your accounts and sharing personal data with it.
Meta wants you to see it as cute and harmless.
It wants you to treat it like a friendly mascot.
That's how people slowly forget what AI is, how it works, how it affects society, and the risks it poses.
That's how companies carefully shape and manipulate the public perception of AI.
Let me make it clear:
Companies build AI systems and design them to seem cool and desirable.
They profit from them.
So if/when these systems harm people, companies must be held accountable.
That's how it must work, and the only acceptable answer to emerging AI challenges.
Everything else is manipulation and/or regulatory capture.
More in my newsletter.
Carlos E Cortes retweeted
Lo que está pasando (y pasará) en el ámbito científico es epocal y solo se compara con las grandes revoluciones precedentes. Y aclaro: me refiero a TODO el quehacer científico, desde las disciplinas más duras de laboratorio hasta las ciencias sociales y humanidades. A diferencia de lo que auguraba la revista @WIRED hace unos años, no estamos frente al fin de las ciencias "interpretativas": lo que avanza es una reconfiguración profunda de la producción científica social, al igual que en otros campos de saber.
(Sobre esta cuestión, este texto que escribí en 2022, antes de la explosión de las #IA, pide a gritos una actualización > "Los discursos del método" - hipermediaciones.com/2022/09…).
Las #IA están transformando desde la manera en que formulamos las preguntas de investigación e hipótesis hasta la captación y procesamiento de los datos, las construcciones teóricas y la difusión de los nuevos conocimientos. Todos esos procesos se están acelerando de forma exponencial, incluso de una manera muy superior a lo que pasó con la imprenta a partir de 1450 o con la web en los años 1990. Cada semana hay novedades en el campo de las matemáticas o la biología; de las ciencias sociales, parecería que solo retumban voces apocalípticas que recuerdan a ese personaje de Watchmen que se paseaba con su cartel por las calles de NYC.
Si en nuestras disciplinas nos quedamos entrampados en los debates sobre la propiedad de las tecnologías o nos limitamos a su simple denuncia, las ciencias sociales llegarán tarde y mal a comprender lo que está pasando. Nada nuevo: nos llevó casi tres décadas entender que la televisión era algo más, mucho más, que una caja boba en manos de malvadas corporaciones capitalistas y que transmitía "ideología burguesa" ("Cuac, cuac", dijo el Pato Donald).
En el caso de las #IA, no estamos frente a una tecnología/medio que se consume, sino lidiando con una de las más formidables máquinas en grado de potenciar la investigación científica. O sea, bienvenidas sean las miradas críticas, pero creo que necesitamos menos discursos y más prácticas. O, como decía mi abuelito ferroviario, "mejor que decir es hacer".
🤖 Made with AI































