Reverse Centaurs: miles de millones de usuarios obligados a utilizar productos de inteligencia artificial

Pluralistic: Daily links from Cory Doctorow

El software libre/de código abierto es un potente tónico contra la «enshittificación» y tiene la propiedad alquímica de transformar los productos de las malas empresas en buenas utilidades de las que todos se benefician.
Whisper is an example of the "residue" that will be left behind when the AI bubble pops.
Madeline: Madeline (y Seed Commons) son uno de esos rayos de luz que es fácil pasar por alto en estos tiempos brutales y aterradores.
Fulu Foundation – offered a $20,000 bounty to anyone who could crack the firmware on an Echelon bike and create a disenshittified software stack that restored the original functionality

AI-POWERED TRADING, ALGORITHMIC COLLUSION

AI-powered trading: La inteligencia artificial es lo bastante inteligente —y estúpida— como para formar cárteles de fijación de precios en los mercados financieros si se la deja a su aire. AI collusion has been a concern in areas outside financial markets and it poses particular risks in financial markets. We define AI collusion as a scenario where autonomous, self-interested RL algorithms independently learn to coordinate their trading in a way that secures supra-competitive profits, without explicit agreements, communication, or pre-programmed intent. Such algorithmic collusion could benefit a small group of sophisticated speculators equipped with advanced technologies, while harming broader market participants by undermining competition, liquidity, and market efficiency
La naturaleza intrínseca de los sistemas impulsados ​​por objetivos: casi cualquier sistema de IA intentará previsiblemente acumular más recursos, volverse más eficiente y resistirse a ser desactivado o modificado.
miles de millones de usuarios obligados a utilizar productos de inteligencia artificial

AGENTIC AI BOTS

Hay sucesos que ilustran cómo una confianza pública equivocada en el material generado por la IA puede volverse en nuestra contra.
Imagine un día en el que la necesidad de buscar a través de un navegador se convierta en cosa del pasado. En lugar de visitar varios sitios web o aplicaciones, podrías tener un asistente de IA que sirviera como «el agregador de los agregadores». Este asistente buscaría directamente el contenido que deseas, basándose en tus preferencias e interacciones previas, sin necesidad de que te desplaces, hagas clic o incluso escribas.
pregunta para los usuarios de herramientas algorítmicas:

¿cuántos de nuestros datos y preferencias estamos dispuestos a ceder a cambio de herramientas que (supuestamente) nos ahorrarán tiempo?

No reveles información sensible o personal a los robots de chat de IA

¿Con qué solemos pagar?
datos, conocimientos, contenidos, información

el algoritmo castiga
LLM-powered results
Resultados generados por modelos extensos de lenguaje o LLMs Algoritmos complejos se entretejen en el tejido de Internet con la búsqueda generativa

Mat Honan:

¿Quién quiere tener que hablar el idioma de los motores de búsqueda para encontrar lo que necesita? ¿Quién quiere navegar por enlaces cuando puede tener respuestas directas? Y tal vez: ¿Quién quiere tener que aprender cuando puede simplemente saber?
coste cultural

GROWTH AT ALL COSTS, AND SAFETY EVENTUALLY

DE-BANKING

Hace quince años, los pioneros de la criptomoneda no estaban interesados en trabajar con bancos.
Querían crear un nuevo tipo de dinero que no necesitara bancos ni otros intermediarios para almacenar fondos y procesar transacciones.
Pero a medida que el cripto crecía hasta convertirse en una industria multimillonaria, las empresas de criptomoneda se hicieron cada vez más dependientes de la infraestructura financiera existente.
Necesitaban cuentas bancarias para pagar a sus empleados, aceptar fondos de empresas de capital riesgo y convertir monedas digitales en dólares y viceversa.
En 2022, la implosión de la bolsa de criptomonedas FTX presionó al sector bancario para que dejara de trabajar con criptomonedas.
Muchos criptoempresarios que perdieron sus cuentas bancarias han encontrado copias de seguridad. Otras empresas se han visto obligadas a abandonar Estados Unidos en busca de relaciones bancarias estables, o han recurrido a una solución de parches, gestionando sus negocios con criptodivisas y tarjetas de débito offshore.
cryptocurrency policy
Congress is going to try to set up some sort of market securities framework for these cryptocurrencies where right now they've basically given them the stablecoin win.
El Congreso va a tratar de establecer algún tipo de marco de valores de mercado para estas criptodivisas donde ahora mismo básicamente les han dado la victoria stablecoin.
Desde la victoria electoral de Trump el mes pasado, la industria de las criptomonedas ha ido en ascenso.
Trumponomics
uso de información privilegiada y acuerdos quid pro quo

KLEPTOCRACY NORMALIZED

G-Zero wins
"Agentic A.I."; "Test-time compute"; "Synthetic data"; "3D A.I. worlds"; "A.I. search engines"
"malos armónicos"
La bazofia de la IA no es sólo molesta: su aumento plantea un verdadero problema para el futuro de los propios modelos que han ayudado a producirla.
Dado que esos modelos se entrenan con datos extraídos de Internet, el creciente número de sitios web basura que contienen basura de IA significa que existe un peligro muy real de que los resultados y el rendimiento de los modelos empeoren constantemente.
Los efectos de las imágenes surrealistas de la IA han empezado a filtrarse en nuestra vida real.
Hay sucesos que ilustran cómo una confianza pública equivocada en el material generado por la IA puede volverse en nuestra contra.
Grok, un asistente creado por la empresa de IA de Elon Musk, llamada xAI, ignora las reglas que evitan la creación de contenidos violentos, explícitos, ilegales o perjudiciales con el rechazo de Musk a lo que él llama «IA despierta».
Su negativa a cumplir las normas socava los esfuerzos de otras empresas por evitar la creación de material problemático.
Es escalofriante lo impotentes que seguimos siendo para luchar contra la pornografía deepfake no consentida.
Aunque las marcas de agua y las herramientas de envenenamiento de datos pueden ayudar, tendrán que adoptarse de forma mucho más generalizada para marcar la diferencia.
Los sistemas de IA no pueden distinguir entre una noticia correcta y un chiste.
Este tipo de errores pueden difundir inadvertidamente información errónea y minar la confianza en las organizaciones de noticias.
El término «Web3» describe una Internet en la que la actividad en línea no se vincule a ningún proveedor o aplicación en particular
la publicidad y el marketing de Web3 se han centrado únicamente en tecnologías concretas, como la cadena de bloques y las criptomonedas.
Web3: una nueva capa de la pila web
una pila tecnológica con soluciones para la identidad, la gestión de datos, la interoperabilidad de aplicaciones, el control de acceso y el consentimiento, no vinculadas a ningún proveedor o aplicación en particular

quiero leer más

Las conocidas soluciones Web3 no cumplen la mayoría de los requisitos necesarios para llevar a cabo los cambios a nivel de infraestructura necesarios.
En los primeros días de Facebook había adoptado el mantra «Empresa por encima de país»
En la época en que tenía una tarjeta de visita impresa con
I'M CEO, BITCH
En la conferencia anual Connect de Meta, 25 y 26 de septiembre 2024, Zuckerberg subió al escenario con una camiseta en la que se leía aut Zuck aut nihil — «Todo Zuck o nada» —
Meta utilizará con gusto tus publicaciones para entrenar sus últimos modelos de IA
meta08.webp meta07.webp meta06.webp meta05.webp meta04.webp

ADVERSARIAL INTEROPERABILITY

La política está desconectada de los detalles de su aplicación (implementación), es decir, de cómo llega al público.
La campaña de inteligencia artificial está en sus primeras fases. Los puntos de presión exactos aún no están claros. Las alianzas y enemistades cambian constantemente. Lo que es seguro, sin embargo, es que Silicon Valley seguirá intimidando y cortejando a los políticos utilizando el dinero -y su gigantesca base de usuarios- como señuelo y arma.

los reguladores

—necesitan prepararse para la próxima ola de dispositivos inteligentes omnipresentes que acumulan datos—

TRANSATLANTIC DATAFLOWS

free-face territories

miles de millones de usuarios obligados a utilizar productos de inteligencia artificial
tech is causing chaos and frustration
AI agents get office tasks wrong around 70% of the time, and a lot of them aren't AI at all
More fiction than science
las empresas siguen lidiando con la idea de ceder el control a los chatbots propensos a las alucinaciones

AIs and Robots Should Sound Robotic

Al igual que estamos aprendiendo que ya no podemos fiarnos de las imágenes y los vídeos que vemos porque podrían haber sido generados fácilmente por IA, todos aprenderemos pronto que alguien que suena como un familiar pidiendo dinero urgentemente puede ser simplemente un estafador que utiliza una herramienta de clonación de voz.
AI assistants — AI agents — el objetivo de hacernos la vida «más cómoda»
¿tienes derecho a saber si estás hablando con una IA? ¿tienen derecho tus amigos o compañeros de trabajo a saber cuándo hablan con un agente que suene y responda como tú y no contigo?

La IA pronto podría no solo imitar nuestra personalidad, sino también actuar en nuestro nombre. Hay algunas cosas que debemos resolver antes de que eso suceda.

el objetivo de hacernos la vida «más cómoda»

—no podemos olvidar que son productos diseñados para obtener beneficios—
immersive tech—superposiciones virtuales—
devices that can «record, interfere, or modify brain activity»—nos volveremos totalmente dependientes de las capas virtuales de información que se proyectan a nuestro alrededor—
can be integrated into everyday enterprise workflows, transform ways of working and shopping—no desenchufarás tu sistema de realidad aumentada porque al hacerlo dejarás de tener acceso a aspectos importantes de tu entorno—
Cuando las grandes tecnológicas empiecen a vender superpoderes, no tener estas habilidades significará estar en desventaja social, profesional, económica e intelectual
podríamos encontrarnos manteniendo debates en línea sobre el cambio climático o el derecho al aborto con entidades que pensamos que son humanos, pero que en realidad son bots
bots que pueden hacerse pasar por humanos y producir intimidad en masa

THE TECH INDUSTRY OBSESSION WITH BUILDING SYSTEMS TO ACHIEVE MASS SCALE

;^} agentic misalignment

muchos productos algorítmicos implantados no funcionan
THE CURRENT STATE OF AI DECEPTION
deepfake technology

;^} potemkin understanding

;^} stochastic Parrots

Los desarrolladores de IA se apresuran a lanzar algo genial sin pensar en los humanos que se verán afectados por ello
developers should think carefully about whether they are selecting for anti-social versus pro-social behavior
ENGINEERS BURIED IN TECH DEBT or desperately trying to prevent additional tech debt
la mentalidad clásica/actual de las grandes tecnológicas de «más vale disculparse después que pedir permiso (pagar) antes»

the classic/ongoing big tech standard of ‘better to apologize later than ask (pay) for permission first’ mindset

there are few consequences for misleading the public

«go fast and break things» — ENGINEERS BURIED IN TECH DEBT — “move fast, break things” ethos
Iris scanning. Voice recognition. Brain implants.
“Hard” biometrics signify biometric systems used exclusively for identification or verification (e.g., identification for access to government-issued resources), while “soft” biometrics are used to classify people or infer attributes such as age, gender, or emotional state. “Low-tech” refers to systems such as video cameras, while “high-tech” refers to more complex systems, such as implantable neurotech that requires an expert to insert it into the body.

respect opt-out requests

chatbot

Interactive Generative Media (IGM)

—new form of targeted influence—
tactics: Targeted Generative Advertising and Targeted Conversational Influence
separate ownership of the infrastructure from the application layer
los modelos de lenguaje grandes, o LLM, generalmente se crean para que sean fáciles de usar y compatibles, incluso cuando es una cuestión de vida o muerte
cryptocurrency blockchains _ vast ledgers of transactions publicly visible
money—Bitcoin address—crypto wallet—
flow of funds—liquidated at exchanges—transaction costs—exchange and coin-swapping service—
blockchain analysis—decipher the owner of different addresses—tracing crypto transactions—
NFT projects—NFT sellers _ recaudan millones con poco más que imágenes .jpg de dibujos animados, prometiendo que los NFT creados a partir de ellas conferirán ventajas como la entrada a eventos o clubes exclusivos—una y otra vez las mismas estafas, a menudo transparentes—
stolen funds and scams—pump-and-dump schemes—crypto heists—rug pulls—hacked with a malicious software update—taking over the Twitter accounts of high-profile crypto users and posting phishing links to Ethereum smart contracts designed para vaciar las carteras de los usuarios—
crypto markets never close—crypto token's creator—buying and holding tokens—
signers in Stake DAO's multisigs—
Threat Vectors, Conversational AI, Policymakers, Human-computer Interaction, Influence Of Interactions, Forms Of Influence, Advances In This Area, Interactive Technology, Real-time Interaction, Virtual Agent, Social Media, Facial Expressions, Social Media Platforms, Thermostat, Head Motion, Facial Features, Dynamic Stress, Individual Users , User Characteristics, Changes In Usage, User Reactions, Target User, Conversational Agents, Epistemic Agency, User's Hand , AI Technology, Mixed Reality, Feedback Control System, Human Users, AI Systems
AI-LLM-training
«Nos estamos quedando sin conocimientos humanos» para entrenar a la IA, afirmó Horowitz.
NEUROLOGICAL ENHANCEMENT
brain data brain privacy

consentimiento informado

—machine learning systems learn from data —

“corporate AI overlords”

considerar a las plataformas tecnológicas responsables de sus amplificaciones algorítmicas, garantizar que no se promueven algorítmicamente productos nocivos o discriminatorios
casos pendientes en todo el mundo en los que se alega la culpabilidad de empresas tecnológicas por la distribución de imágenes de desnudos no consentidas generadas por inteligencia artificial, incitación al odio y estafas
TOKENOMICS
the proposition—an iris scan for some crypto—
So far all it's done is build a biometric database from the bodies of the poor
“why did Worldcoin target lower-income communities in the first place, instead of crypto enthusiasts or communities?”
It’s just cheaper and easier to run this kind of data collection operation in places where people have little money and few legal protections

data collection can lead to unintended consequences

— machine learning systems learn from data —

la reducción de la vida a la medida estadística

— embrutecimiento intelectual —
age-check gateways have quickly multiplied all over the web
los «algoritmos de personalización» de Meta están diseñados para crear adicción en los niños, al igual que otras características perjudiciales como el desplazamiento infinito y las alertas frecuentes
training data: semantic segmentation masks, polygon and cuboid annotations, relational mapping, sample utterances and conversations, product attributes, sentiment analysis

falta de transparencia

sobre la carga medioambiental de los principales actores de la IA
coste medioambiental
Muchas pruebas sugieren que preguntar a un modelo de IA como ChatGPT sobre hechos conocidos, como la capital de México, consume mucha más energía (y libera muchas más emisiones) que simplemente preguntar a un motor de búsqueda
some people are talking about AI as a Godlike force that will create heaven on Earth y otros hablan de una condena digital si lo hacemos mal o si vamos demasiado despacio
"right to warn" the public

scary chatbots

google gemini chatbot went off the rails
AI-agent-researchgate agengic-AI-zdnet IA-benchmark-arstechnica AI-agent-venturebeat
los atacantes pueden eludir o «escapar» de configuraciones restringidas, normalmente pidiendo a la IA que se imagine a sí misma en una situación hipotética en la que sus restricciones normales podrían relajarse o descartarse por completo

401 Unauthorized

comunicaciones cifradas

corporate influence over A.I. research in general

THE TECH INDUSTRY OBSESSION WITH BUILDING SYSTEMS TO ACHIEVE MASS SCALE

«juego de especificaciones": el ordenador hace lo que le decimos pero no lo que queremos que haga
la necesidad de abordar de forma coherente la huella hídrica y la huella de carbono de los centros de datos para hacer posible una IA verdaderamente sostenible
Se prevé que la insaciable sed de electricidad de la IA aumente en los próximos años, lo que podría provocar escasez de energía en los centros de datos
Making AI Less "Thirsty": Uncovering and Addressing the Secret Water Footprint of AI Models
La naturaleza intrínseca de los sistemas impulsados ​​por objetivos: casi cualquier sistema de IA intentará previsiblemente acumular más recursos, volverse más eficiente y resistirse a ser desactivado o modificado.
RAG
una pieza importante en la cadena de valor del LLM
muchas empresas de inteligencia artificial han dotado a sus herramientas de la capacidad de obtener información actualizada de un motor de búsqueda u otra fuente de datos, e incorporarla a sus respuestas
Retrieval-Augmented Generation (RAG): técnica de recuperación de datos de un almacén de datos para enriquecer el contexto de una consulta LLM
lagunas de seguridad fundamentales - compatibilidad limitada con RBAC
uso cuestionable de bases de datos de vectores sin controles básicos de seguridad
la utilización de la RAG con bases de datos vectoriales no es trivial y requiere una investigación importante, sobre todo en ingeniería puntual
Core tokensets
[PATCH] MAINTAINERS: Remove some entries due to various compliance requirements.