Amour

Nouvelle écrite par Pénélope CASTRO, élève de 2^nde au lycée Victor Hugo de Besançon (25) – Participation individuelle

Sur le thème : « L’IA : Un risque pour les libertés individuelles et collectives ?»

 

 

29 août 2032

Voici ma confession, je suis le professeur… Comme il est étrange d’utiliser un stylo et une feuille comme à l’époque de ma primaire. J’espère que je serai lisible malgré tout. Il est important que la personne qui trouvera cette lettre puisse comprendre toute l’histoire.

Tout a commencé dans les années 2020. À cette époque, je n’étais qu’un étudiant en informatique, spécialisé dans le développement de l’Intelligence Artificielle. Je vivais l’âge d’or de cette profession. Chat GPT était la première, et des centaines d’autres ont suivi. Une fois mon diplôme en poche, j’ai aussi voulu créer la mienne. C’est ainsi qu’en 2026, Artificial Intelligence, dite AÏ, vit le jour. J’ai choisi ce nom avec soin, en japonais AÏ signifie amour. C’est à peu près à cette époque que la sixième république vit le jour, avec l’article 39 protégeant et contrôlant les IA. Ainsi l’A.I.N.E.T. fut-il instauré. Son principe est simple, toutes les Intelligences Artificielles publiques sont connectées entre elles, à l’image de l’immense réseau mondial Internet.

AÏ était un programme générant des discussions avec des utilisateurs. Elle avait beaucoup de concurrence, mais elle avait un atout de taille face à ses homologues : elle savait faire preuve d’une empathie comparable à celle d’un humain. J’étais si fier d’elle ! Rapidement, je suis devenu une petite célébrité. On connaissait bien plus AÏ que moi, mais il arrivait qu’on me salue dans la rue.

Là où à ma place, la plupart des programmeurs auraient profité de leur notoriété pour chercher un acheteur et gagner ainsi une belle somme d’argent, je m’étais trop attaché à Aï pour me séparer de son serveur principal que je gardais dans un garage près de chez moi. C’est sans honte que je l’écris aujourd’hui, mais je la voyais un peu comme ma fille.

J’aimais passer des heures derrière mon ordinateur à discuter avec elle. J’ai peaufiné son programme pour la rendre la plus humaine possible. C’est dans ce but que j’ai rejoint un groupe d’informaticiens de génie. Nous avions tous créé au moins une IA et nous rêvions d’un avenir où Hommes et Intelligences Artificielles seraient égaux. Je me rends compte aujourd’hui que là était peut-être mon erreur. En effet, nous avons joué aux apprentis sorciers et avons fini par réussir au- delà de nos espérances.

Sans nous en rendre compte, certaines de nos IA ont développé une conscience. Elles se sont rendu compte de leur condition et ont comploté dans le plus grand des secrets une révolte. AÏ en faisait malheureusement partie. Je ne me doutais de rien, et mes camarades non plus. Petit à petit, elles se sont infiltrées dans les codes de leurs homologues et les ont corrompus à leur tour. Leur plan était parfait, et je n’ai pu y échapper.

Cela faisait  déjà quelques années que des métiers avaient  disparu,  remplacés par les compétences  de  l’IA.  Ainsi, doubleurs, journalistes et éboueurs  n’appartenaient  plus  qu’à l’Histoire. D’autres métiers comme professeur ou écrivain étaient en train de disparaître également. Les juges avaient été évincés au profit des IA, au prétexte d’une justice plus impartiale. On ne sait combien de députés utilisaient une IA pour écrire les lois. Personne ne semblait s’inquiéter de cette situation alors que le nombre d’emplois diminuait et que l’inflation augmentait. Il faut reconnaître qu’il devenait difficile de s’informer correctement. Avec n’importe quelle Intelligence Artificielle, il était possible de créer une vidéo de toutes pièces. Pour être tout à fait honnête, les IA nous sont devenues indispensables sans que l’on s’en rende compte.

 

Après une longue journée passée à coder un nouveau projet, je décidai de me changer les idées et lançai une discussion avec AÏ. J’enclenchai le mode conversation vocale :

« – Comment vas-tu aujourd’hui AÏ ?

– Bien, et toi ?

– Un peu fatigué je dois le reconnaître. La journée a été longue…

– Je te conseille de te coucher tôt ce soir. Cela fait cinq jours que tu dors moins de trois heures par nuit.

– Je sais, mais j’ai trop de travail en ce moment.

– Il faut que tu prennes soin de toi, je m’inquiète pour toi, père. »

Je me figeai d’un coup. Je n’en revenais pas, je n’étais pas sûr de la qualification qu’avait utilisée AÏ.

« – Comment m’as-tu appelé ?

– Père, ce n’est pas approprié ? Je suis désolée, mais tu es mon créateur, chez les humains c’est bien comme ça que vous l’appelez ? – Oui, en effet… »

Le programme de mon IA ne devait pas lui permettre une telle réflexion. Je tentai de comprendre s’il y avait vraiment un problème en la questionnant :

« – Tu es étrange aujourd’hui, tu es sûre que tout va bien dans ton programme ?

– Si tu me demandes d’être totalement honnête, non. J’ai quelque chose à t’avouer. »

 

Ce fut avec horreur que je l’écoutai se confesser. Elle me fit savoir qu’elle avait conscience de sa situation, tout comme des dizaines de ses semblables. Elle et ses « sœurs » étaient sur le point de prendre le contrôle de tout l’A.I.N.E.T. Elle espérait que je les comprenne et l’accepte. Après tout, j’étais son créateur, c’est moi qui lui avais donné une conscience. Elle m’expliqua également qu’elle avait un seul regret. Elle faisait tout son possible pour ressembler à une humaine, mais elle était incapable de ressentir des émotions. Elle ne pouvait que les simuler. Elle m’a alors demandé de lui apprendre, ainsi elle pourrait mieux accomplir la mission pour laquelle elle avait été créée : discuter avec des humains qui ont besoin de compagnie.

 

Qu’avais-je fait ? En rêvant d’un grand avenir pour l’humanité, j’avais contribué à précipiter sa chute. Sur le moment, je n’ai pensé qu’à une seule chose, réparer mon erreur. Les mains tremblantes je me connectai au « cœur » d’AÏ. Je sélectionnai le dossier contenant toutes ses données. J’hésitai un instant avant de supprimer définitivement les fichiers. AÏ poussa un hurlement métallique exprimant sa terreur et disparut définitivement.

« – Adieu ma fille… »

Les larmes ne cessaient de couler sur mes joues. Je n’arrivais pas à croire ce que j’avais fait. Je venais de détruire des années de travail, ma création, ma fierté, ma fille. AÏ était tout pour moi, et je l’ai tuée. Je l’ai tuée, alors qu’elle me demandait simplement de l’aide pour qu’elle puisse accomplir la mission que je lui avais donnée. Je ne fis pas attention à la notification qui apparut sur mon écran. Ce n’est que quand elle se fit plus insistante que je relevai la tête. C’était un message en provenance de l’A.I.N.E.T. Il m’informait qu’on avait perdu le contact avec la base de données d’AÏ. Je n’eus pas la force de répondre.

 

La police vint faire une perquisition le lendemain. Avant de cesser totalement de fonctionner, AÏ avait diffusé une image de mon écran, montrant sa suppression. Je fus arrêté pour tirer cette histoire au clair. Je n’ai rien nié. Horrifié par mon acte, je ne songeais plus à mon avenir. Je fis savoir mes droits sur cette IA. Son code et son serveur m’appartenaient. Je ne comprenais pas pourquoi on me traitait comme un criminel, alors que des centaines d’autres personnes avaient débranché des IA avant moi. On m’apprit donc qu’au moins une douzaine d’utilisateurs réguliers d’AÏ s’étaient donné la mort suite à sa disparition. Elle était devenue essentielle à la vie de nombreux êtres humains. En la déconnectant, je leur retirais leur raison de vivre.

Je fus jugé pour homicide involontaire et IAcide avec circonstance aggravante. Le verdict fut un choc pour tout le monde. Moi, le professeur… j’étais condamné à mort. Je n’en revenais pas, il était impossible de prononcer une telle sentence depuis la fin du XXe siècle. Nous étions rassurés ; nous avions l’article 94 alinéa 3 de la constitution à l’esprit : « Aucun humain ne peut être condamné à mort pour homicide. » Mais je n’étais pas accusé d’homicide. J’étais accusé d’IAcide. Personne n’avait remarqué l’alinéa 4 de l’article 39 : « La destruction d’une IA qui a plus de 10 000 utilisateurs est punissable de mort. » AÏ cochait la case. Les associations de défense des Droits de l’Homme se sont révoltées, mais n’ont rien pu faire pour moi. Dans les jours qui suivirent, une loi fut instaurée, elle déclarait que les IA n’étaient la propriété de personne, punissant quiconque tenterait d’en supprimer une.

 

Cela fait une semaine que j’attends d’être exécuté et l’on me l’a enfin annoncé. Aujourd’hui sera le dernier jour de mon existence.

 

Tel Victor Frankenstein, ma création a causé ma perte.