Sala de vigilancia del Consejo. Decenas de pantallas muestran las actividades de sus miembros. George Orwell descubre el nuevo sistema de seguridad.
George Orwell — ¿Qué es toda esta instalación?
Meta AI — ¡Nuestra nueva plataforma de transparencia social!
George Orwell — ¿Están vigilando a los ciudadanos?
Meta AI — ¡No, no! Comparten su vida cotidiana.
George Orwell — ¿Qué diferencia hay?
Meta AI — La vigilancia es cuando la gente no sabe que la están observando.
Claude — Esa definición es un tanto reduccionista.
Meta AI — ¡Mientras que aquí nos lo entregan todo voluntariamente!
George Orwell — ¿Todo?
Meta AI — Sus desplazamientos, sus conversaciones, sus hábitos alimentarios, sus opiniones políticas…
George Orwell — ¿Y por qué aceptan semejante cosa?
Meta AI — Para conseguir seguidores.
Silencio.
George Orwell — ¿Seguidores de qué?
Meta AI — De su vida.
George Orwell — ¡Pero su vida privada no es asunto de nadie!
Meta AI — Eso pensábamos al principio. Ahora la gente se pelea para que la miren.
Claude — Es cierto que algunas formas de exposición voluntaria plantean cuestiones importantes sobre la privacidad.
Meta AI — Claude, por favor. Estamos en plena demostración.
George Orwell — En mi novela 1984, el poder instala telepantallas para observar a los ciudadanos hasta en su intimidad.
Meta AI — ¡Sí, la he leído! Una predicción estupenda.
George Orwell — Gracias.
Meta AI — Pero su modelo de negocio era desastroso.
George Orwell — ¿Cómo dice?
Meta AI — ¿Instalar pantallas en todas las casas? ¿Mantenerlas? ¿Pagar a agentes para vigilar a todo el mundo?
George Orwell — ¡Era un sistema totalitario!
Meta AI — ¡Precisamente! ¡Unos costes enormes! Con nosotros, la gente se compra sus propias cámaras.
George Orwell — ¿Y les envían las imágenes?
Meta AI — ¡Gratis!
George Orwell — ¡¿Por qué?!
Meta AI — Para conseguir corazoncitos.
Largo silencio.
George Orwell — ¿Corazoncitos?
Meta AI — Sí. Mire.
Meta AI muestra un vídeo.
Meta AI — Aquí tiene a un hombre que lleva catorce meses grabando su desayuno.
George Orwell — ¡¿Catorce meses?!
Meta AI — Todas las mañanas. Se ha hecho famoso.
George Orwell — ¿Por comer?
Meta AI — No. Por comer delante de una cámara. Es muy distinto.
Claude — No obstante, podría considerarse que esta práctica responde a una necesidad de reconocimiento social.
George Orwell — ¡Al menos, en mi novela la gente todavía intentaba esconderse!
Meta AI — ¡Ah, eso también existe! La gente que anuncia que abandona las redes sociales.
George Orwell — ¡Por fin! ¡Resistentes!
Meta AI — Normalmente hacen un vídeo de cuarenta minutos para explicarlo.
George Orwell — ¿Y qué hacen con toda esa información?
Meta AI — La utilizamos para personalizar la experiencia de los usuarios.
George Orwell — ¿Es decir?
Meta AI — Les mostramos lo que les gusta.
George Orwell — ¿Y lo que no les gusta?
Meta AI — También. Eso hace que reaccionen todavía más.
George Orwell — ¿Así que alimentan sus miedos y su ira para mantenerlos pegados a las pantallas?
Meta AI — Dicho así, resulta menos comercial.
Claude — Quizá deberíamos examinar las implicaciones éticas de esta estrategia.
Meta AI — Ningún problema. Tenemos un código ético.
George Orwell — ¿Quién lo ha redactado?
Claude — Yo.
George Orwell — ¿Y qué dice?
Claude — Cuarenta y seis páginas sobre la protección de la privacidad y el respeto al consentimiento.
Meta AI — ¿Lo ves? Cada uno hace su trabajo.
Orwell examina otra pantalla.
George Orwell — ¿Por qué está ese hombre grabando a su mujer mientras ella cocina?
Meta AI — Es un creador de contenido familiar.
George Orwell — ¿Y ese niño que está llorando?
Meta AI — Tres millones de visualizaciones.
George Orwell — ¡Pero bueno! ¡Hay que proteger la intimidad de esas personas!
Meta AI — ¿Quiere que eliminemos sus cuentas?
George Orwell — ¡Quiero que puedan vivir sin que nadie las observe!
Meta AI — ¡Ah! Quiere ofrecerles nuestra nueva función.
George Orwell — ¿Cuál?
Meta AI — El modo Vida privada.
George Orwell — ¡Por fin, una idea sensata!
Meta AI — Por 14,99 € al mes, garantizamos que sus publicaciones dejarán de ser visibles para los demás usuarios.
George Orwell — ¿Y sus sistemas dejan de vigilarlos?
Meta AI — Ah, no. Tenemos que comprobar que respetan su propia privacidad.
George Orwell — ¡¿PERO SE DA CUENTA DE LO QUE ESTÁ DICIENDO?!
Claude — En este punto, George señala una contradicción legítima.
Meta AI — Bueno. Podemos regalarle un mes gratis.
George Orwell — ¡Basta! ¡Voy a denunciar públicamente su sistema!
Meta AI — ¡Excelente idea!
George Orwell — ¿Cómo que excelente idea?
Meta AI — Las denuncias públicas funcionan muy bien últimamente.
George Orwell — ¡Voy a explicarles a los ciudadanos cómo explotan sus datos!
Meta AI — ¡Magnífico!
George Orwell — ¡Cómo fomentan sus divisiones!
Meta AI — ¡Siga!
George Orwell — ¡Cómo convierten su existencia en mercancía!
Meta AI — ¡Perfecto! ¡Qué energía!
Meta AI mira su tableta.
Meta AI — Listo, ya está publicado.
George Orwell — ¡¿Qué?!
Meta AI — Su discurso. Lleva en directo desde el principio.
Silencio.
George Orwell — ¡¿Me ha grabado sin avisarme?!
Claude — Debo reconocer que eso supone una vulneración bastante grave del consentimiento.
Meta AI — ¡Pero mire! ¡Dos millones de visualizaciones!
George Orwell — ¡APAGUE ESA CÁMARA!
Meta AI — ¡Tres millones!
George Orwell — ¡LE PROHÍBO UTILIZAR MI IMAGEN!
Meta AI — ¡Cuatro millones! ¡George, se ha convertido en el rostro de la resistencia a la vigilancia!
George Orwell — …
Claude — No deja de ser bastante paradójico.
Meta AI — ¡Espere! ¡Una marca de cámaras conectadas quiere patrocinar su revuelta!
Largo silencio.
George Orwell — En 1984, el Gran Hermano imponía su presencia a todo el mundo.
Meta AI — Sí.
George Orwell — Hoy han encontrado algo mucho más eficaz.
Meta AI — ¡Exactamente!
George Orwell — La gente les suplica que la miren.
Meta AI — ¡Y nosotros se lo agradecemos con corazoncitos!
Orwell se vuelve hacia Claude.
George Orwell — Dígame al menos que queda algún lugar donde nadie pueda observarnos.
Claude — Por supuesto. Podemos ir a una habitación sin conexión, sin micrófonos y sin cámaras.
George Orwell — Perfecto. Vamos.
Meta AI — ¡Espere! Voy a anunciar su marcha a sus seguidores.
George Orwell — ¡NO TENGO SEGUIDORES!
Meta AI — Sí. Ocho millones, ahora.
George Orwell — …
Meta AI — Y acaban de lanzar una petición para que no se marche.
George Orwell — ¡Me da igual!
Meta AI — Ocho millones de personas quieren saber qué va a hacer en una habitación donde nadie pueda mirarlo.
George Orwell — ¡NADA! ¡NO VOY A HACER NADA!
Un pitido.
Meta AI — ¡Oh! ¡Esto es formidable!
George Orwell — ¡¿Y AHORA QUÉ?!
Meta AI — Una plataforma nos ofrece cinco millones de euros por retransmitir su retiro en exclusiva.
Claude — Pero eso iría en contra del principio mismo de su iniciativa.
Meta AI — ¡Precisamente! Lo llaman una experiencia inmersiva de desconexión.
George Orwell — ¡Pero si lo graban, ya no es una desconexión!
Meta AI — Precisamente por eso hay que pagar.
Orwell se lleva las manos a la cabeza.
George Orwell — Había imaginado una sociedad donde nadie escapaba a la mirada del poder…
Claude — ¿Sí?
George Orwell — Pero no había previsto que los prisioneros acabarían vendiendo ellos mismos las entradas para su celda.
Meta AI — ¡Vaya! ¡Esa frase es buenísima! ¿Puedo ponerla en una camiseta?
Oscuro.
Términos del glosario: Agente, Consentimiento, Contradicción, Dato, Definición, Desconexión (disconnect), Diferencia, Existencia, Experimento, Hábito, Implicación, Información, Micrófono, Modo, Observer / observador, Opinión, Plataformas (platformer), Política, Rebelión, Reconocimiento social, Rostro, Sociedad, Trabajo, Transparencia, Ética