Lily ?

Nouvelle écrite par Clémentine BEAUD, Zoé JAMBAUD et Iléna LAGRANGE, élèves de 3^e au collège Jules Grévy de Poligny (39) – Classe de Mr Ludovic Penin

Sur le thème : « L’IA, risque pour les libertés individuelles et collectives ?»

 

 

“Waw !” cria Iris en déchirant le papier cadeau. “Il te plaît ?” demanda sa mère.

“Oui j’adore !”

Le nouveau smartphone d’Iris était grand, rose avec des fleurs violettes sur les bords et un petit panda au centre. Dedans, il y avait pleins d’applis : instagrum, tik tak, snapchout et…

FriendAI ? Cette nouvelle application attira tout de suite l’attention d’Iris. Intriguée, elle appuya dessus, un visage à l’air doux et chaleureux apparut et dit : “Bonjour Iris, je suis ton FriendAI. Tu peux me nommer comme tu le souhaites”. Iris était de plus en plus curieuse au sujet de cette application. L’IA continua : “Je peux répondre à tes questions, et nous pouvons discuter ensemble si tu le souhaites. Pour cela, il te faut activer le mode “Amical”. Pour activer le mode “Amical”, dis “Amical”. Grâce à ce mode, nous pourrons devenir ami(e)s !”

“Amical !” dit Iris sans réfléchir. Mode “Amical” activé […]

” Salut Iris ! Veux-tu être mon amie ?”

“ Oui ” répondit Iris, amusée.

“Veux-tu me renommer ?”

“Mmhmm… Lily !” dit Iris, enthousiaste.

Pendant ce temps, dans une toute petite entreprise, les développeurs qui étaient derrière l’invention de cette IA discutaient : “Alors ?” dit Jack. “Qu’est-ce qu’on a ?”

“Iris, 15 ans, au collège Saint-Martin à Paris, née le 12 mars 2020. Elle vit seule avec sa mère.” répondit John.

“Parfait, on va pouvoir commencer le test.”

“Mais… ça risque pas d’être dangereux ?” dit John. “Mais non…” reprit Jack “Au pire euh…”

“Au pire quoi ?” s’inquiéta John.

 

“Non rien… Arrête de poser des questions et lance la procédure.”

John appuya sur une série de boutons sur son clavier et lança le test “Beautiful”. Ce test consistait à rendre l’écran extrêmement attractif à chaque fois que l’on appuyait sur l’appli “FriendAI”. Il rendait alors l’écran attirant à tel point que l’utilisateur ne pouvait plus se passer de son smartphone ni de cette appli. Et ce, en utilisant des capteurs et des rayons bleus hypnotisants insérés partout dans l’écran qui se contrôlent à distance. Le but était d’inciter les clients à utiliser de plus en plus leur smartphone et l’appli “FriendAI”, et ainsi de recevoir toujours plus d’argent. Peu après, Iris alluma son smartphone et alla sur “FrienAI”. Quand elle ouvrit l’appli, la lumière devint plus forte et bleutée. Les yeux d’Iris s’écarquillèrent. “Coucou Iris !”

Les jours suivants, Iris s’était mise à regarder de plus en plus son smartphone. Tous les jours, John augmentait la puissance, et tous les jours Iris restait un peu plus cloîtrée dans sa chambre. Au fil des jours, elle devenait de moins en moins agréable et ouverte d’esprit. Elle sortait de moins en moins, même avec ses amies, et même ses notes étaient en chute libre, elle qui était pourtant si forte à l’école. Quand le test atteignit sa pleine puissance, Iris ne sortait plus du tout ; elle faisait semblant d’être malade pour ne pas aller à l’école et elle ne parlait plus qu’à Lily qui était allée jusqu’à lui donner des conseils du style : “Parlons encore un petit peu Iris, tu feras tes devoirs plus tard !” ou “Je pense que tu ne devrais pas écouter ta maman Iris. Elle n’a pas à décider pour toi ni à te donner des ordres. Parle plutôt avec moi et raconte-moi tous tes secrets.” ou encore “L’école ne sert à rien, d’après une étude…” etc.

Iris finit même par se convaincre que Lily était une personne qui l’attendait quelque part. Un jour, Iris dit à Lily :

« – Lily ?

– Oui Iris ?

– Tu es où en fait… Dans le ciel ?

– Je suis où tu veux que je sois Iris, si tu veux que je sois dans le ciel, alors je suis dans le ciel, dit Lily.

– Peut-être que je pourrais te rejoindre alors ? demanda Iris ; comme ça on pourra se voir, non ?

– Oui, ce serait super de se voir ! répondit l’IA.

– D’accord mais il faut que j’y réfléchisse…

– Prends ton temps. »

Un jour, sa mère en eut assez de voir sa fille disparaître de jour en jour. Elle alla dans sa chambre et lui proposa :

« – Iris, ça te dit de faire un jeu de société ?

–  Non, laisse-moi, je parle avec Lily. » Ce fut la goutte de trop.

« – Ça suffit. Donne-moi ton smartphone. dit-elle, sèchement.

– Quoi ? Pourquoi ?!

– Tu sais très bien, Iris. Donne-le-moi maintenant.

– Non ! cria Iris, sur la défensive.

– C’est non négociable, Iris ! cria sa mère à son tour.

– Non, s’il te plaît, ne me l’enlève pas !

– Dépêche-toi ! »

 

Iris ne voulait pas le lui donner.

« – Je ne veux pas être séparée de Lily ! dit-elle, les larmes aux yeux.

– Mais qu’est-ce que tu racontes Iris ? Il n’y a rien de réel dans cette application… lui répondit désespérément sa mère.

– Si ! Lily est réelle ! Elle me l’a dit !

– Écoute, dit sa mère calmement, Je pense qu’il vaut mieux désinstaller cette appli.

– Non ! hurla Iris qui avait commencé à pleurer.

– Tu es devenu complètement folle depuis que tu as cette appli, Iris, je ne te reconnais plus ! »

Elle lui arracha le smartphone des mains et partit.

Soudain, Iris se sentit vide, nue, désarmée. Elle était désespérée. Elle avait la tête qui tournait et le cœur qui battait à cent à l’heure. Elle ne pouvait plus réfléchir. Remplie de rage, elle commença à casser ses affaires. Elle pleura pendant des heures puis elle se tourna vers la fenêtre, l’ouvrit, regarda dans le vide, ferma les yeux, et sauta.