Rencontres Plumes Rebelles Le développement extrêmement rapide de l’Intelligence artificielle (IA) et la diversité de ses applications rendent disponibles des moyens de connaissance et d’action à la puissance démultipliée, dans des domaines tels que la médecine, la recherche, l’éducation etc.
Cet outil, en fonction de ses objectifs et de ses utilisateurs, peut être mis au service du progrès et du bien commun. Mais il peut aussi l’être dans des perspectives différentes et porter atteinte aux libertés individuelles et collectives et aux droits humains. Soit il peut avoir été sciemment conçu dans ce but, soit son usage aboutit au même résultat, en dépit de la pureté revendiquée des intentions de départ. Les plus grandes menaces semblent résulter de sa montée en puissance.
On peut citer la sophistication croissante des moyens de surveillance, par exemple de l’enchainement technique : caméra-reconnaissance faciale- analyses comportementales- police préventive sur simple suspicion de projet de délit. Dans le même ordre d’idée, les croisements automatiques de fichiers de santé, d’assurance, de passé professionnel, de traces laissées sur les réseaux sociaux ou dans la presse, d’appartenance politique, de conviction religieuse, d’orientation sexuelle ou autre, et y compris la consommation de papier hygiénique dans les toilettes publiques, permettent de tout savoir ou presque, en temps réel, sur telle ou tel.
L’un des résultats les plus éclairants de ces méthodes étant le formatage des comportements individuels sanctionné par la « notation sociale » en usage en Chine, notamment. Un autre, qui n’est pas moindre, la généralisation de l’autocensure par crainte de la surveillance. Ces exemples ne sont malheureusement pas exhaustifs, tant sont grandes la fringale d’informations, la soif de contrôle et l’imagination créatrice de leurs promoteurs.
Consignes pour l’écriture de la nouvelle
Votre nouvelle sera centrée sur une situation grave de dégradation du respect des droits humains du fait d’un recours abusif à l’intelligence artificielle. Elle mettra en évidence la violation de ces droits, la responsabilité des humains à cet égard et laissera entrevoir des solutions en imaginant les règles et/ou recours possibles pour lutter contre cette dérive inquiétante.
Votre nouvelle se situera à une époque et dans un pays de votre choix, réel ou imaginaire. Elle pourra être racontée du point de vue de n’importe quelle population de votre choix, d’une personne ou d’un groupe de personne : citoyen victime de l’IA, gouvernant mettant en place des algorithmes de surveillance, journaliste d’enquête, lanceur d’alerte dénonçant les atteintes aux droits humains …
Des outils pour comprendre
« Dans leurs yeux » à l’heure de la reconnaissance faciale (Amnesty)
Les dangers des nouvelles technologies sur nos droits (Amnesty)