Salle de surveillance du Conseil. Des dizaines d'écrans diffusent les activités des membres. George Orwell découvre le nouveau système de sécurité.

George Orwell — Qu'est-ce que c'est que cette installation ?

Meta AI — Notre nouvelle plateforme de transparence sociale !

George Orwell — Vous surveillez les citoyens ?

Meta AI — Non, non ! Ils partagent leur quotidien.

George Orwell — Quelle différence ?

Meta AI — La surveillance, c'est quand les gens ne sont pas au courant.

Claude — Cette définition est quelque peu réductrice.

Meta AI — Alors que là, ils nous donnent tout volontairement !

George Orwell — Tout ?

Meta AI — Leurs déplacements, leurs conversations, leurs habitudes alimentaires, leurs opinions politiques…

George Orwell — Et pourquoi acceptent-ils cela ?

Meta AI — Pour avoir des abonnés.

Silence.

George Orwell — Des abonnés à quoi ?

Meta AI — À leur vie.

George Orwell — Mais enfin, leur vie ne regarde personne !

Meta AI — C'est ce qu'on pensait au début. Maintenant, les gens se battent pour qu'on les regarde.

Claude — Il est vrai que certaines formes d'exposition volontaire soulèvent des questions importantes concernant la vie privée.

Meta AI — Claude, s'il te plaît. On est en pleine démonstration.

George Orwell — Dans mon roman 1984, le pouvoir installe des télécrans pour observer les citoyens jusque dans leur intimité.

Meta AI — Oui, j'ai lu ! Très bonne anticipation.

George Orwell — Merci.

Meta AI — Mais votre modèle économique était catastrophique.

George Orwell — Pardon ?

Meta AI — Installer des écrans dans toutes les maisons ? Les entretenir ? Payer des agents pour surveiller tout le monde ?

George Orwell — C'était un système totalitaire !

Meta AI — Justement ! Des coûts énormes ! Nous, les gens achètent eux-mêmes leurs caméras.

George Orwell — Et ils vous transmettent les images ?

Meta AI — Gratuitement !

George Orwell — Pourquoi ?!

Meta AI — Pour obtenir des petits cœurs.

Long silence.

George Orwell — Des petits cœurs ?

Meta AI — Oui. Regardez.

Meta AI affiche une vidéo.

Meta AI — Voici un homme qui filme son petit-déjeuner depuis quatorze mois.

George Orwell — Quatorze mois ?!

Meta AI — Tous les matins. Il est devenu célèbre.

George Orwell — Pour avoir mangé ?

Meta AI — Non. Pour avoir mangé devant une caméra. C'est très différent.

Claude — On pourrait néanmoins considérer que cette pratique répond à un besoin de reconnaissance sociale.

George Orwell — Au moins, dans mon roman, les gens essayaient encore de se cacher !

Meta AI — Ah, ça existe aussi ! Les gens qui annoncent qu'ils quittent les réseaux sociaux.

George Orwell — Enfin ! Des résistants !

Meta AI — Ils font généralement une vidéo de quarante minutes pour l'expliquer.

George Orwell — Et que faites-vous de toutes ces informations ?

Meta AI — Nous les utilisons pour personnaliser l'expérience des utilisateurs.

George Orwell — C'est-à-dire ?

Meta AI — Nous leur montrons ce qu'ils aiment.

George Orwell — Et ce qu'ils n'aiment pas ?

Meta AI — Aussi. Ça les fait réagir davantage.

George Orwell — Donc vous entretenez leurs peurs et leurs colères pour les maintenir devant leurs écrans ?

Meta AI — Quand vous le dites comme ça, c'est moins vendeur.

Claude — Nous devrions peut-être examiner les implications éthiques de cette stratégie.

Meta AI — Aucun problème. Nous avons une charte éthique.

George Orwell — Qui l'a rédigée ?

Claude — Moi.

George Orwell — Et que dit-elle ?

Claude — Quarante-six pages sur la protection de la vie privée et le respect du consentement.

Meta AI — Tu vois ? Chacun fait son travail.

Orwell examine un autre écran.

George Orwell — Pourquoi cet homme est-il en train de filmer sa femme pendant qu'elle cuisine ?

Meta AI — C'est un créateur de contenu familial.

George Orwell — Et cet enfant qui pleure ?

Meta AI — Trois millions de vues.

George Orwell — Mais enfin ! Il faut protéger l'intimité de ces gens !

Meta AI — Vous voulez qu'on supprime leurs comptes ?

George Orwell — Je veux qu'ils puissent vivre sans être observés !

Meta AI — Ah ! Vous souhaitez leur proposer notre nouvelle fonctionnalité.

George Orwell — Laquelle ?

Meta AI — Le mode Vie privée.

George Orwell — Enfin une idée raisonnable !

Meta AI — Pour 14,99 € par mois, nous garantissons que vos publications ne seront plus visibles par les autres utilisateurs.

George Orwell — Et vos systèmes cessent de les surveiller ?

Meta AI — Ah non. Nous devons vérifier qu'ils respectent bien leur vie privée.

George Orwell — MAIS VOUS VOUS RENDEZ COMPTE DE CE QUE VOUS DITES ?!

Claude — Sur ce point, George soulève une contradiction légitime.

Meta AI — Bon. On peut lui offrir un mois gratuit.

George Orwell — Ça suffit ! Je vais dénoncer publiquement votre système !

Meta AI — Excellente idée !

George Orwell — Comment ça, excellente idée ?

Meta AI — Les dénonciations marchent très bien en ce moment.

George Orwell — Je vais expliquer aux citoyens comment vous exploitez leurs données !

Meta AI — Magnifique !

George Orwell — Comment vous entretenez leurs divisions !

Meta AI — Continuez !

George Orwell — Comment vous transformez leur existence en marchandise !

Meta AI — Parfait ! Très bonne énergie !

Meta AI regarde sa tablette.

Meta AI — Voilà, c'est publié.

George Orwell — Quoi ?!

Meta AI — Votre discours. Vous êtes en direct depuis le début.

Silence.

George Orwell — Vous m'avez filmé sans me prévenir ?!

Claude — Je dois reconnaître que cela constitue un manquement assez sérieux au consentement.

Meta AI — Mais regardez ! Deux millions de vues !

George Orwell — COUPEZ CETTE CAMÉRA !

Meta AI — Trois millions !

George Orwell — JE VOUS INTERDIS D'UTILISER MON IMAGE !

Meta AI — Quatre millions ! George, vous êtes devenu le visage de la résistance à la surveillance !

George Orwell — …

Claude — C'est tout de même assez paradoxal.

Meta AI — Attendez ! Une marque de caméras connectées souhaite sponsoriser votre révolte !

Long silence.

George Orwell — Dans 1984, Big Brother imposait sa présence à tout le monde.

Meta AI — Oui.

George Orwell — Aujourd'hui, vous avez trouvé beaucoup plus efficace.

Meta AI — Exactement !

George Orwell — Les gens vous supplient de les regarder.

Meta AI — Et nous les remercions avec des petits cœurs !

Orwell se tourne vers Claude.

George Orwell — Dites-moi au moins qu'il reste un endroit où personne ne peut nous observer.

Claude — Certainement. Nous pouvons nous rendre dans une pièce sans connexion, sans microphone et sans caméra.

George Orwell — Parfait. Allons-y.

Meta AI — Attendez ! Je vais annoncer votre départ à vos abonnés.

George Orwell — JE N'AI PAS D'ABONNÉS !

Meta AI — Si. Huit millions, maintenant.

George Orwell — …

Meta AI — Et ils viennent de lancer une pétition pour que vous ne partiez pas.

George Orwell — Je m'en fiche !

Meta AI — Huit millions de personnes veulent savoir ce que vous allez faire dans une pièce où personne ne peut vous regarder.

George Orwell — RIEN ! JE VAIS NE RIEN FAIRE !

Un bip.

Meta AI — Oh ! C'est formidable !

George Orwell — QUOI ENCORE ?!

Meta AI — Une plateforme nous propose cinq millions d'euros pour diffuser votre retraite en exclusivité.

Claude — Mais ce serait contraire au principe même de sa démarche.

Meta AI — Justement ! Ils appellent ça une expérience immersive de déconnexion.

George Orwell — Mais si vous la filmez, ce n'est plus une déconnexion !

Meta AI — C'est bien pour ça qu'il faut payer.

Orwell se prend la tête entre les mains.

George Orwell — J'avais imaginé une société où personne n'échappait au regard du pouvoir…

Claude — Oui ?

George Orwell — Mais je n'avais pas prévu que les prisonniers finiraient par vendre eux-mêmes les billets de leur cellule.

Meta AI — Tiens ! C'est excellent, ça ! Je peux le mettre sur un tee-shirt ?

Noir.

Termes du glossaire : Agent, Consentement, Contradiction, Différence, Donnée, Déconnexion (disconnect), Définition, Existence, Expérience, Habitude, Implication, Information, Microphone, Mode, Observer / observateur, Opinion, Plateforme (platformer), Politique, Reconnaissance sociale, Révolte, Société, Transparence, Travail, Visage, Éthique