Rencontres Plumes Rebelles Nouvelle écrite par Louisa GUESSOUM, élève de 3e -au collège Pierre-Joseph Proudhon de Besançon (25) – Participation individuelle
Sur le thème : « L’IA, risque pour les libertés individuelles et collectives ?»
Par le hublot de l’avion, Adam admire la ville de Nice qui s’étire au soleil entre le bleu de la mer et l’ocre des montagnes. Ce paysage est nouveau pour Adam qui, après de brillantes études à Besançon, vient de décrocher son premier job de responsable de recherches dans une société spécialisée dans la conception et la fabrication d’assistants virtuels chirurgicaux. Cette nouvelle entreprise, Medrobot, lui permettra de mettre ses connaissances au service des malades et plus particulièrement au service des enfants handicapés.
A son jour d’arrivée au siège de Medrobot, il est accueilli par une hôtesse humanoïde qui le laisse sans voix tant son apparence et son attitude sont proches de celles d’un humain. Son physique est si humain que sans ses connaissances il aurait pu ne pas le remarquer, ses gestes sont mesurés et parfaitement adaptés à la situation.
– Bonjour, je m’appelle Adam Ringer, je suis attendu par le Directeur Général pour ma prise de poste au sein de l’entreprise Medrobot.
– Bonjour, je m’appelle Wendy, je suis ici pour vous accueillir au sein de Medrobot. Soyez le bienvenu.
– Pouvez-vous m’annoncer à la Direction ?
– Adam, dès que le Directeur Général sera disponible, vous recevrez un message sur ce smartphone qui sera votre seul outil de communication et de déplacement pour Medrobot.
Le ton déterminé de l’hôtesse met fin à l’échange, Adam s’installe confortablement en attendant le message de son futur directeur.
Adam est enchanté et rassuré par l’entretien ; Medrobot est une entreprise moderne, dynamique et prospère. Il occupera un bureau spacieux dominant la mer et dirigera une équipe de vingt ingénieurs spécialistes de l’Intelligence Artificielle appliquée au domaine medical, et principalement aux robots chirurgicaux.
Un appartement tout équipé est mis à sa disposition, il ne lui reste plus qu’à déposer ses affaires personnelles.
Tout se passe bien pour Adam, qui maintenant s’est fait des amis parmi ses collègues avec lesquels il partage la passion du football. Un soir, il invite chez lui ses amis pour regarder un match dont les équipes sont particulièrement rivales et chacun commente les actions avec ferveur, passion et opposition !
Le lendemain matin en consultant son téléphone, surpris, il retrouve tous les commentaires de la veille sur le réseau social « Swip » et déjà des réponses politiques et racistes sont laissées par des internautes. Il est très mal à l’aise car son entreprise sanctionne tous les comportements non conformes à sa politique de neutralité. Il pense à une blague d’un de ses collègues et oublie cet incident.
Quelques jours après, alors qu’il rentre tard du travail, il décide de se restaurer avant de se reposer, mais il lui est impossible d’ouvrir son frigidaire qui reste verrouillé et émet un sifflement strident à chaque tentative d’ouverture. Il pense à un problème électrique qu’il devra signaler à Wendy.
Une semaine plus tard, la situation se renouvelle à son retour du cinéma et il se souvient que, pris par son travail, il a oublié de signaler ce problème à l’assistante. Dès le lendemain il rapporte le fait à Wendy qui lui répond d’un ton neutre :
– Adam, tous les problèmes sont résolus par Medrobot, passez une bonne journée.
Toujours ce ton froid et impersonnel qui le laisse interrogatif sur la qualité de l’échange sans émotion.
Tous ces dysfonctionnements commencent à l’intriguer et depuis quelque temps il se sent épié chez lui et ressent des picotements dans la nuque dès l’entrée dans son appartement. Par sécurité, en tant que spécialiste de l’IA, il a toujours refusé d’utiliser chez lui des assistants vocaux dans son environnement car il connaît les risques d’intrusion et ses dangers.
Quelques jours après, il reçoit un message sur son smartphone lui demandant de se rendre à un rendez-vous auprès du médecin de l’entreprise. Le jour de cette consultation, il est accueilli par Wendy.
– Bonjour Wendy, j’ai rendez-vous avec le médecin à 10h30.
– Bonjour Adam, dès que le médecin sera libre vous recevrez un message sur votre téléphone. Veuillez vous asseoir et patienter. Merci, Adam.
Une fois de plus il se sent frustré de ne pouvoir échanger avec Wendy dont le ton froid et mécanique le met mal à l’aise.
Le message arrive, il doit se rendre dans la salle B2 au deuxième étage, son téléphone lui permet de déverrouiller portes et sas de sécurité. Il s’arrête pour prendre un café au distributeur avant de rencontrer le médecin. La porte de la salle est ouverte mais cette dernière est vide, seul un ordinateur est posé sur le bureau. A son entrée ce dernier se met en route et l’invite à se connecter à HealthVue. Face à la caméra, Adam répond à des dizaines de question concernant son travail mais aussi sa vie privée, ses loisirs et ses idées. À la fin de l’entretien un message s’affiche sur l’écran : « Attention à l’abus de café qui peut nuire à votre santé. »
Il commence vraiment à se sentir mal, et ce sentiment est plus angoissant encore quand il reçoit le soir un message l’invitant à s’inscrire dans la salle de sport de Medrobot afin d’améliorer son hygiène de vie et ses performances au travail.
Trop, c’est trop et le soir il contacte Léo, un ami et collègue qui vient de quitter l’entreprise. Léo lui apprend qu’alors qu’il traversait une rue en dehors du passage protégé, il a été verbalisé et que son visage est apparu sur les écrans de Medrobot avec ce message :
« Individu dangereux. Ne respecte pas le code de la route. »
Maintenant Adam est certain qu’il est épié et que la seule possibilité est que cette surveillance passe par son téléphone. C’est un outil professionnel mais il a perdu le droit au respect de sa vie privée. Que faire ? Son travail de chercheur le passionne et il sait que l’IA au service des médecins et des malades permet des inventions merveilleuses, extraordinaires. Ainsi le bras robotisé qui aide les enfants handicapés à manger seuls a été testé avec succès. Le bonheur de ces enfants qui retrouvent leur autonomie le pousse à améliorer ses recherches et surtout à ne pas les abandonner.
A l’aide de Léo, spécialiste en cyber sécurité, il découvre un logiciel malveillant installé dans son téléphone et le teste dans son environnement personnel. Ils découvrent une caméra installée sur sa porte d’entrée, comme un œilleton classique, mais à chacun de ses passages ses mesures de poids et taille sont enregistrées ainsi que les émotions sur son visage.
Il comprend alors que son frigidaire se bloque en fonction des mesures prises par la caméra, que le rendez-vous auprès du médecin est lié à ces informations.
Il repense alors aux enregistrements des commentaires sur Swip et là, plus aucun doute, tous ses échanges sont enregistrés afin de surveiller ses fréquentations et surtout de vérifier qu’il ne transmet aucune information à des concurrents de Medrobot.
Adam veut retrouver sa vie d’avant en partageant des moments joyeux et conviviaux avec ses amis, manger ce qu’il veut quand il veut. Être libre dans ses échanges, ne plus ressentir cette présence intrusive et dérangeante… Alors il décide de démissionner car ce n’est plus supportable, malgré sa volonté de continuer ses recherches.
Le lendemain il remet son téléphone à Wendy :
– Bonjour Wendy, je quitte Medrobot ; je vous redonne le téléphone de la société.
– Bonjour Adam, merci et au revoir.
Ce dernier contact confirme la décision d’Adam qui pense qu’une société sans échange direct, sans émotion, est une société sans humanité. Quel avenir dans un monde hyper contrôlé dans lequel chacun serait normé sans tenir compte de son histoire personnelle, de ses valeurs ni de ses idées ? Non, Adam refuse ce monde, pour lui et pour le futur.
Dès le lendemain, Adam est contacté par une société développant des robots au service de la chirurgie. Ces derniers permettront de guider le chirurgien équipé de lunettes 3D lors de l’intervention et aussi de coordonner les actions avec l’ensemble de l’équipe dans la salle d’opération.
Sans hésitation, Adam prend rendez-vous avec le directeur de cette société avec un seul petit regret… quitter Nice et son soleil pour Besançon et sa fraicheur.