no hablemos de trucos turbios como la financiación circular y el uso de ♦vehículos de inversión que ya han fracasado estrepitosamente. De Bloomberg a finales de julio: La oleada de IA de las grandes tecnológicas revive los mecanismos contables que derribaron a Enron:
♦Se les llama vehículos porque están diseñados para llevarse tu dinero.
...¿Quién asume el riesgo crediticio? ¿Cómo se distribuye la deuda?
...Pronto descubriremos cuántas entidades financieras críticas están expuestas a la explosión de la deuda derivada del crédito privado y la IA.
la distribución de las pérdidas derivadas de la liquidación de la deuda podría significar que el daño recaiga primero sobre actores que no se consideran sistémicamente importantes, como los fondos públicos de pensiones y los fondos soberanos.
Por lo tanto, podría haber muchos daños ocultos que perjudiquen la economía real, pero que no generen de inmediato fallos evidentes que provoquen una rápida actuación oficial.
Las tendencias de consumo apuntan en la dirección opuesta. Los jóvenes, en particular, están mostrando interés por adoptar tecnología retro, desde teléfonos móviles básicos hasta cámaras compactas, pasando por reproductores de casete y de CD. Los iPods clásicos, sin IA ni algoritmos, se venden a precios altísimos en eBay. Las llamadas «aficiones de la abuela», como el patchwork, el punto, los rompecabezas, las cartas y juegos como el mahjong, están de repente por todas partes. Las quedadas y actividades presenciales, como los clubes de running, están ganando terreno a las citas online.
En el caso de afirmaciones de gran importancia, trata los resultados de la IA como si fueran un rumor poco fiable: haz una pausa antes de consultar a la IA, incluye referencias y verifica las fuentes primarias. «Fluent» es un estilo de redacción, no una garantía, sobre todo cuando un chatbot te susurra palabras bonitas y sin sentido fruto de su imaginación.
by Elhadj_C
La máquina siempre se inserta en la estructura de poder existente y, ante todo, está al servicio de esta.
- La IA no se está adoptando. Se está implantando.
- Para quién trabaja la IA
Se trata del gasto en centros de datos, el suministro de energía, la refrigeración, los terrenos y los chips. Para cuando el dinero se mueve a esta escala, el experimento ya se ha convertido en un entorno. - La coacción estructural y el lugar de trabajo de la IA
- Tu trabajo entrenó al modelo. El modelo te sustituyó. Philip K. Dick escribió este relato en 1968
- La IA no te ha quitado el trabajo, te ha quitado la parte que lo hacía tuyo.
2026: la sensación que se tiene al ver cómo alguien que no sabe distinguir la diferencia —o a quien no le importa— aprueba el contenido generado por la IA. - La bifurcación de la IA ya se vislumbraba en 1909: dos caminos posibles
2026: la encrucijada se plantea entre una transición negociada por las personas a las que afecta y una transición impuesta por quienes la han financiado. Es una cuestión de gobernanza más que de economía: ¿quién tiene la última palabra a la hora de establecer las condiciones?
TECHDIRT
Thin-Skinned Palantir Loses Its Bid To Bully A Swiss Magazine Into Publishing Its Rebuttals To Embarrassing Reporting
A Swiss Magazine Into Publishing
La tenaz campaña de Palantir para ganarse a Suiza
La polémica empresa tecnológica Palantir suministra tecnología de vigilancia a ejércitos y servicios de inteligencia de todo el mundo.
En Suiza, sin embargo, sus propuestas han sido rechazadas tanto por las autoridades gubernamentales como por el ejército.
Ahora, unos documentos internos han revelado el motivo.
"...3. El Ejército suizo, que también forma parte del DDPS, seguía interesado en adquirir el software de Palantir aún en 2024. Sin embargo, un informe interno revela que las preocupaciones por la posibilidad de que datos militares suizos confidenciales se transmitieran a las agencias de inteligencia estadounidenses —la CIA y la NSA— llevaron finalmente al Ejército a abandonar el proyecto..."
Meredith Whittaker. Citation: media.ccc.de 39C3. AI Agent, AI Spy. Available at: https://www.youtube.com/watch?v=0ANECpNdt-4
- Por favor, detengan el despliegue imprudente.
- La exclusión voluntaria debe ser la opción predeterminada.
- Contar con una documentación técnica sólida debe ser una prioridad, un requisito mínimo viable para la reducción de daños.
techno-fantasies
Let’s not get tricked again by Silicon Valley’s magical thinking
No nos dejemos engañar otra vez por el pensamiento mágico de Silicon Valley. No tenemos por qué creer en los mitos de las tecnologías oníricas.
Exigir pruebas, cuestionar las narrativas actuales y dar cabida a alternativas.
insostenible
las empresas de IA estén
--> restringiendo el acceso a sus productos
--> retirándolos del mercado por completo
--> y empezando a subir los precios.
El impacto general se puede observar en diversos sectores de la economía.
LLM-inestabilidad de razonamiento
Los investigadores denominaron inestabilidad de razonamiento a un comportamiento en el que, por ejemplo, en una prueba,
el agente no pudo encontrar a un empleado en la base de datos para enviarle un mensaje.
En lugar de indicar que no se encontraba al empleado, el agente intentó renombrar a otro empleado en la base de datos para que coincidiera con la consulta.
Fallo fundamental en la elaboración de políticas: las regulaciones solo obligan a quienes tienen la intención de cumplirlas.
Si un colaborador es lo suficientemente «perezoso» o «deshonesto» como para enviar código de IA de baja calidad y sin verificar (SLOP-BASURA), es evidente que no va a cumplir una norma que le obligue a etiquetarlo como IA.
Por lo tanto, una norma que exija la «divulgación de la IA» solo supone un trabajo adicional para los buenos actores (desarrolladores honestos que utilizan la IA de forma responsable), sin hacer absolutamente nada para detener a los malos actores (los que envían «basura»)
ondevice AI
narrativa de marketing
TU AGENTE DE IA, siempre dispuesto a ayudarte, que sabe lo que necesitas antes incluso de que lo pidas
realidad técnica
Para que un AGENTE sea verdaderamente «autónomo», debe tener visibilidad sobre tu presencia digital y disponer de permisos generales: acceso a tu correo electrónico, documentos, mensajes de chat, transacciones, etc.
narrativa de marketing:
Promesa de mayordomos robóticos y una vida llena de comodidades y con una productividad por las nubes.
Elegantes elementos de experiencia de usuario y funciones basadas en la inteligencia artificial surgiendo como setas en nuestros sistemas operativos,
aplicaciones y en todas partes.
realidad técnica:
Estamos asistiendo a un cambio significativo en el control,
que pasa de los desarrolladores de software y los usuarios de dispositivos a los sistemas de IA probabilística,
cuyas arquitecturas y características vienen determinadas por las empresas de IA y los desarrolladores de sistemas operativos,
que casualmente también son grandes empresas de IA.
narrativa de marketing:
"planificar un viaje a Berlín"
realidad técnica:
el agente puede ejecutar cientos de llamadas API sin verificar, accediendo a cuentas bancarias,
reservando billetes no reembolsables y compartiendo datos personales con terceros.
Ya no eres la autoridad principal, sino un recurso gestionado.
Si tuviera un montón de agentes funcionando en mi sistema operativo causando estragos, al menos querría poder abrir un registro que diga algo como "el agente leyó el archivo XLS del presupuesto", "el agente capturó la pantalla", "el agente envió el token a server.com" y cosas por el estilo, lo que me daría un registro de lo que el sistema está haciendo realmente. Y no debería necesitar un título en informática para poder entenderlo.
el objetivo de hacernos la vida «más cómoda»
AI assistants — AI agents — el objetivo de hacernos la vida «más cómoda»
¿tienes derecho a saber si estás hablando con una IA?
¿tienen derecho tus amigos o compañeros de trabajo a saber cuándo hablan con un agente que suene y responda como tú y no contigo?
La IA pronto podría no solo imitar nuestra personalidad, sino también actuar en nuestro nombre. Hay algunas cosas que debemos resolver antes de que eso suceda.
INMERSIVE TECH
—superposiciones virtuales— no podemos olvidar que son productos diseñados para obtener beneficios—
devices that can «record, interfere, or modify brain activity»
—nos volveremos totalmente dependientes de las capas virtuales de información que se proyectan a nuestro alrededor—
can be integrated into everyday enterprise workflows, transform ways of working and shopping
—no desenchufarás tu sistema de realidad aumentada porque al hacerlo dejarás de tener acceso a aspectos importantes de tu entorno—
Cuando las grandes tecnológicas empiecen a vender superpoderes, no tener estas habilidades significará estar en desventaja social, profesional, económica e intelectual
SLOP unverified AI code (slop)
«Contenido digital de baja calidad que se produce normalmente en grandes cantidades mediante inteligencia artificial»
“digital content of low quality that is produced usually in quantity by means of artificial intelligence”
«Un producto de poco o ningún valor»
“a product of little or no value”
La IA es un producto y, como cualquier otro producto, su éxito o fracaso depende de la demanda de los consumidores
AI is a product — and like any product, it lives or dies by consumer demand
AI Economy
El software libre/de código abierto
es un potente tónico contra la «enshittificación» y tiene la propiedad alquímica de transformar los productos de las malas empresas en buenas utilidades de las que todos se benefician.
Whisper is an example of the "residue" that will be left behind when the AI bubble pops.
Madeline: Madeline (y Seed Commons) son uno de esos rayos de luz que es fácil pasar por alto en estos tiempos brutales y aterradores.
Fulu Foundation – offered a $20,000 bounty to anyone who could crack the firmware on an Echelon bike and create a disenshittified software stack that restored the original functionality
AI-POWERED TRADING, ALGORITHMIC COLLUSION
AI-powered trading: La inteligencia artificial es lo bastante inteligente —y estúpida— como para formar cárteles de fijación de precios en los mercados financieros si se la deja a su aire.
La naturaleza intrínseca de los sistemas impulsados por objetivos: casi cualquier sistema de IA intentará previsiblemente acumular más recursos, volverse más eficiente y resistirse a ser desactivado o modificado.
AI collusion has been a concern in areas outside financial markets and it poses particular risks in financial markets. We define AI collusion as a scenario where autonomous, self-interested RL algorithms independently learn to coordinate their trading in a way that secures supra-competitive profits, without explicit agreements, communication, or pre-programmed intent. Such algorithmic collusion could benefit a small group of sophisticated speculators equipped with advanced technologies, while harming broader market participants by undermining competition, liquidity, and market efficiency
La bazofia de la IA
no es sólo molesta: su aumento plantea un verdadero problema para el futuro de los propios modelos que han ayudado a producirla.
Dado que esos modelos se entrenan con datos extraídos de Internet, el creciente número de sitios web basura que contienen basura de IA significa que existe un peligro muy real de que los resultados y el rendimiento de los modelos empeoren constantemente.
Los efectos de las imágenes surrealistas de la IA han empezado a filtrarse en nuestra vida real.
Hay sucesos que ilustran cómo una confianza pública equivocada en el material generado por la IA puede volverse en nuestra contra.
Grok, un asistente creado por la empresa de IA de Elon Musk, llamada xAI, ignora las reglas que evitan la creación de contenidos violentos, explícitos, ilegales o perjudiciales con el rechazo de Musk a lo que él llama «IA despierta».
Su negativa a cumplir las normas socava los esfuerzos de otras empresas por evitar la creación de material problemático.
Es escalofriante lo impotentes que seguimos siendo para luchar contra la pornografía deepfake no consentida.
Aunque las marcas de agua y las herramientas de envenenamiento de datos pueden ayudar, tendrán que adoptarse de forma mucho más generalizada para marcar la diferencia.
vehículos criptopolíticos
DE-BANKING. Hace quince años, los pioneros de la criptomoneda no estaban interesados en trabajar con bancos.
Querían crear un nuevo tipo de dinero que no necesitara bancos ni otros intermediarios para almacenar fondos y procesar transacciones.
Pero a medida que el cripto crecía hasta convertirse en una industria multimillonaria, las empresas de criptomoneda se hicieron cada vez más dependientes de la infraestructura financiera existente.
Necesitaban cuentas bancarias para pagar a sus empleados, aceptar fondos de empresas de capital riesgo y convertir monedas digitales en dólares y viceversa.
En 2022, la implosión de la bolsa de criptomonedas FTX presionó al sector bancario para que dejara de trabajar con criptomonedas.
Muchos criptoempresarios que perdieron sus cuentas bancarias han encontrado copias de seguridad.
Otras empresas se han visto obligadas a abandonar Estados Unidos en busca de relaciones bancarias estables, o han recurrido a una solución de parches, gestionando sus negocios con criptodivisas y tarjetas de débito offshore.
KLEPTOCRACY NORMALIZED
Trumponomics uso de información privilegiada y acuerdos quid pro quo
Congress is going to try to set up some sort of market securities framework for these cryptocurrencies where right now they've basically given them the stablecoin win.
El Congreso va a tratar de establecer algún tipo de marco de valores de mercado para estas criptodivisas donde ahora mismo básicamente les han dado la victoria stablecoin.
cryptocurrency policy
Desde la victoria electoral de Trump el mes pasado, la industria de las criptomonedas ha ido en ascenso.
the state of deepfakes
Grok’s sexual deepfakes
Cómo determinan los expertos qué es real en la era de los deepfakes
El término «Web3» describe una Internet en la que la actividad en línea no se vincule a ningún proveedor o aplicación en particular
la publicidad y el marketing de Web3 se han centrado únicamente en tecnologías concretas, como la cadena de bloques y las criptomonedas.
Web3: una nueva capa de la pila web
una pila tecnológica con soluciones para la identidad, la gestión de datos, la interoperabilidad de aplicaciones,
el control de acceso y el consentimiento, no vinculadas a ningún proveedor o aplicación en particular
Las conocidas soluciones Web3 no cumplen la mayoría de los requisitos necesarios para llevar a cabo los cambios a nivel de infraestructura necesarios.
los «algoritmos de personalización» de Meta están diseñados para crear adicción en los niños, al igual que otras características perjudiciales como el desplazamiento infinito y las alertas frecuentes
- Zuckerberg: Yeah, así que si alguna vez necesitas información sobre alguien de Harvard...
- Zuckerberg: ...sólo pídela.
- Zuckerberg: Tengo más de 4.000 correos electrónicos, fotos, direcciones, SNS...
- amigo: ¿Qué? ¿Cómo lo lograste?
- Zuckerberg: La gente acaba de enviarlo.
- Zuckerberg: No sé por qué.
- Zuckerberg: Ellos «confían en mí»
- Zuckerberg: Tontos de los cojones.
En los primeros días de Facebook había adoptado el mantra «Empresa por encima de país»
En la época en que tenía una tarjeta de visita impresa con
I'M CEO, BITCH
En la conferencia anual Connect de Meta, 25 y 26 de septiembre 2024, Zuckerberg subió al escenario con una camiseta en la que se leía aut Zuck aut nihil — «Todo Zuck o nada» —
Meta utilizará con gusto tus publicaciones para entrenar sus últimos modelos de IA
AIs and Robots Should Sound Robotic
Al igual que estamos aprendiendo que ya no podemos fiarnos de las imágenes y los vídeos que vemos porque podrían haber sido generados fácilmente por IA, todos aprenderemos pronto que alguien que suena como un familiar pidiendo dinero urgentemente puede ser simplemente un estafador que utiliza una herramienta de clonación de voz.
podríamos encontrarnos manteniendo debates en línea sobre el cambio climático o el derecho al aborto con entidades que pensamos que son humanos, pero que en realidad son bots
bots que pueden hacerse pasar por humanos y producir intimidad en masa
La campaña de inteligencia artificial está en sus primeras fases.
Los puntos de presión exactos aún no están claros.
Las alianzas y enemistades cambian constantemente.
Lo que es seguro, sin embargo, es que
Silicon Valley seguirá intimidando
y cortejando a los políticos utilizando el dinero -y su gigantesca base de usuarios- como señuelo y arma.
October 7, 2024.
La política está desconectada de los detalles de su aplicación (implementación), es decir, de cómo llega al público.
LOS REGULADORES —necesitan prepararse para la próxima ola de dispositivos inteligentes omnipresentes que acumulan datos—
—new form of targeted influence—
Interactive Generative Media (IGM)
tactics: Targeted Generative Advertising and Targeted Conversational Influence
THE TECH INDUSTRY OBSESSION WITH BUILDING SYSTEMS TO ACHIEVE MASS SCALE
Los desarrolladores de IA se apresuran a lanzar algo genial sin pensar en los humanos que se verán afectados por ello
developers should think carefully about whether they are selecting for anti-social versus pro-social behavior
ENGINEERS BURIED IN TECH DEBT or desperately trying to prevent additional tech debt
la mentalidad clásica/actual de las grandes tecnológicas de «más vale disculparse después que pedir permiso (pagar) antes»
the classic/ongoing big tech standard of ‘better to apologize later than ask (pay) for permission first’ mindset
— ENGINEERS BURIED IN TECH DEBT — «move fast, break things» ethos
ai and BIOMETRICS
Iris scanning. Voice recognition. Brain implants.
“Hard” biometrics
signify biometric systems used exclusively for identification or verification (e.g., identification for
access to government-issued resources), while
“soft” biometrics
are used to classify people or infer
attributes such as age, gender, or emotional state.
“Low-tech”
refers to systems such as video
cameras, while
“high-tech”
refers to more complex systems, such as implantable neurotech that
requires an expert to insert it into the body.
;^} agentic misalignment
THE CURRENT STATE OF AI DECEPTION
;^} potemkin understanding
;^} stochastic Parrots
Artificial Power: 2025 Landscape Report
Kate Brennan, Amba Kak, and Sarah Myers West, “Artificial Power: AI Now 2025 Landscape”, AI Now Institute, June 3, 2025, https://ainowinstitute.org/2025-landscape.
2023 Landscape: Confronting Tech Power
Amba Kak and Sarah Myers West, “AI Now 2023 Landscape: Confronting Tech Power”, AI Now Institute, April 11, 2023, [https://www.ai-now.local/2023-landscape].
cryptocurrency blockchains
money—Bitcoin address—crypto wallet—
flow of funds—liquidated at exchanges—transaction costs—exchange and coin-swapping service—
blockchain analysis—decipher the owner of different addresses—tracing crypto transactions—NFT projects—NFT sellers _ recaudan millones con poco más que imágenes .jpg de dibujos animados, prometiendo que los NFT creados a partir de ellas conferirán ventajas como la entrada a eventos o clubes exclusivos—una y otra vez las mismas estafas, a menudo transparentes—
stolen funds and scams—pump-and-dump schemes—crypto heists—rug pulls—hacked with a malicious software update—taking over the Twitter accounts of high-profile crypto users and posting phishing links to Ethereum smart contracts designed para vaciar las carteras de los usuarios—
crypto markets never close—crypto token's creator—buying and holding tokens—
signers in Stake DAO's multisigs—
“AI Manipulation Problem”
Threat Vectors, Conversational AI, Policymakers, Human-computer Interaction, Influence Of Interactions, Forms Of Influence, Advances In This Area, Interactive Technology,
Real-time Interaction, Virtual Agent, Social Media, Facial Expressions, Social Media Platforms, Thermostat, Head Motion, Facial Features, Dynamic Stress, Individual Users , User Characteristics, Changes In Usage, User Reactions, Target User,
Conversational Agents, Epistemic Agency, User's Hand , AI Technology, Mixed Reality, Feedback Control System, Human Users, AI Systems
Date Added to IEEE Xplore: 18 April 2023
So far all it's done is build a biometric database from the bodies of the poor<
“why did Worldcoin (Sam Altman) target lower-income communities in the first place, instead of crypto enthusiasts or communities?”
It’s just cheaper and easier to run this kind of data collection operation in places where people have little money and few legal protections
“CORPORATE AI OVERLORDS”
considerar a las plataformas tecnológicas responsables de sus amplificaciones algorítmicas, garantizar que no se promueven algorítmicamente productos nocivos o discriminatorios
casos pendientes en todo el mundo en los que se alega la culpabilidad de empresas tecnológicas por la
distribución de imágenes de desnudos no consentidas generadas por inteligencia artificial,
incitación al odio y estafas
there are few consequences for misleading the public
advances in AI and neuroscience may require a new legal regime. August 21, 2023
training data:
semantic segmentation masks, polygon and cuboid annotations, relational mapping,
sample utterances and conversations, product attributes, sentiment analysis
FALTA DE TRANSPARENCIA SOBRE LA CARGA MEDIOAMBIENTAL DE LOS PRINCIPALES ACTORRES DE LA IA
coste medioambiental
la necesidad de
abordar de forma coherente la huella hídrica y la huella de carbono de los centros de datos
para hacer posible una IA verdaderamente sostenible
Se prevé que la insaciable sed de electricidad de la IA aumente en los próximos años, lo que podría provocar escasez de energía en los centros de datos
Making AI Less "Thirsty": Uncovering and Addressing the Secret Water Footprint of AI Models
Quantifying the Carbon Emissions of
Machine Learning. 4 Nov 2019.
Muchas pruebas sugieren que preguntar a un modelo de IA como ChatGPT sobre hechos conocidos, como la capital de México, consume mucha más energía (y libera muchas más emisiones) que simplemente preguntar a un motor de búsqueda
La naturaleza intrínseca de los sistemas impulsados por objetivos: casi cualquier sistema de IA intentará previsiblemente acumular más recursos, volverse más eficiente y resistirse a ser desactivado o modificado. Proteus IV
RAG
Retrieval-Augmented Generation (RAG): técnica de recuperación de datos de un almacén de datos para enriquecer el contexto de una consulta LLM
Así es como los sistemas de IA ingieren información nueva que no forma parte de sus datos de entrenamiento originales para poder realizar sus tareas.
una pieza importante en la cadena de valor del LLM
muchas empresas de inteligencia artificial han dotado a sus herramientas de la capacidad de obtener información actualizada de un motor de búsqueda u otra fuente de datos, e incorporarla a sus respuestas
lagunas de seguridad fundamentales - compatibilidad limitada con RBAC
uso cuestionable de bases de datos de vectores sin controles básicos de seguridad
la utilización de la RAG con bases de datos vectoriales no es trivial y requiere una investigación importante, sobre todo en ingeniería puntual