L’IA semble être omniprésente autour de nous, sur le point de changer (certains diraient de détruire) notre façon de lire, de travailler et de penser. Mais il y a quelque chose d’inquiétant et de fascinant dans les chatbots et les assistants qui semblent gagner en personnalité et en conscience au milieu d’une conversation.
Comment comprendre quelque chose qui ressemble à de la science-fiction devenu réalité ? Le meilleur moyen est peut-être de se tourner précisément vers la science-fiction et, en particulier, vers l’œuvre d’Isaac Asimov, l’un des écrivains les plus influents du genre.
Asimov a anticipé une société connectée des décennies avant Internet et a exploré les dilemmes que poseraient les machines sensibles. Les idées d’Asimov sur la robotique (un mot qu’il a inventé) ont contribué à façonner le domaine de l’IA. Mais certaines de ses prophéties sont inquiétantes.
Les robots d’Asimov
Isaac Asimov s’est intéressé au thème des robots dès son plus jeune âge, en lisant des histoires sur des automates menaçants et destructeurs. Cependant, il rêvait de donner aux robots une vision plus positive, les rendant capables de coopérer avec les humains et de respecter des lois éthiques.
Ainsi, en 1940, il écrit sa première histoire sur les robots, « Robbie », qui est publiée dans la revue Super Science Stories. Dans cette histoire, il introduit le concept d’un robot amical et protecteur, qui prend soin d’une fille nommée Gloria, qui considère Robbie comme son meilleur ami.
En 1941, il écrit « Runaround », publié dans le magazine Astounding Science Fiction en 1942. Dans cette histoire, il présente explicitement pour la première fois les trois lois de la robotique, qui deviendront le fondement de son travail sur les robots.
Depuis lors, Asimov a écrit de nombreuses nouvelles et romans sur les robots, explorant la portée des Trois Lois. Certains de ses titres les plus célèbres sont la compilation « I, Robot » (1950), « The Bicentennial Man » (1976) et « The Robots of the Dawn » (1983). D’ailleurs, si le sujet vous passionne, vous pouvez jeter un œil aux meilleurs films sur l’intelligence artificielle.
Mais Asimov n’a pas seulement diverti ses lecteurs avec des histoires fascinantes, il les a également invités à réfléchir sur des questions qui trouvent un écho aujourd’hui.
Asimov et l’éthique de l’IA
Bien que les trois lois de la robotique aient été critiquées, elles constituent un point de départ approprié pour comprendre nos relations avec les intelligences artificielles. Citons-les :
- Un robot ne doit pas nuire à un être humain ni, par son inaction, permettre qu’un être humain subisse un danger.
- Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf lorsque ces ordres s’opposent à la première Loi.
- Un robot doit protéger sa propre existence, dans la mesure où cette protection n’entre pas en conflit avec la première ou la deuxième loi.
Asimov a exploré les implications et les dilemmes de ces lois dans ses histoires et ses romans, montrant les contradictions et paradoxes possibles. Il a également évoqué la possibilité que les robots puissent développer des émotions et des aspirations humaines, comme le désir d’être libre, de créer de l’art ou d’aimer.
Ceci est bien illustré dans l’histoire « L’Homme du bicentenaire », publiée en 1976. Cette histoire raconte la vie d’Andrew Martin, un robot domestique doté d’une créativité et d’une sensibilité exceptionnelles.
Andrew veut devenir un être humain et pour ce faire, il entreprend un long processus de transformation physique, modifiant son corps avec des organes artificiels et apprenant à vieillir tout en luttant pour la reconnaissance de ses droits civiques.
Au cours de sa longue vie, Andrew a fait l’expérience de l’amour, de l’art et de l’amitié, prouvant qu’il est capable de ressentir et d’exprimer des émotions humaines. Finalement, Andrew meurt à l’âge de 200 ans (d’où le nom de l’œuvre) entouré d’amis et juste après avoir été légalement reconnu comme être humain.
Les IA veulent-elles être plus humaines ?
L’aspiration à l’humanité est évidente depuis la première histoire de robot d’Asimov, « Robbie », datant de 1940, qui raconte l’amitié entre Gloria, une petite fille, et son robot domestique. Craignant que cela ne lui cause du tort ou ne l’empêche de développer ses compétences sociales, les parents décident de ramener Robbie à l’usine.
Gloria ne cesse de chercher son ami et le trouve enfin. Elle court sans soucis pour le rencontrer et Robbie la sauve d’être heurtée par un tracteur. Ce qui pourrait être interprété comme une simple application de la première loi de la robotique se lit ainsi :
« Ses bras en acier chromé (qui pouvaient tordre une barre d’acier de deux pouces d’épaisseur) embrassaient la jeune fille avec douceur et amour, et ses yeux brillaient d’un rouge profond et intense. »
Cela semble aller au-delà de la simple ingénierie. Ce qui semble donner vie au robot, c’est l’amour, ce qui soulève la question : que veulent réellement les IA ?
D’un point de vue technique, on pourrait dire que les IA ne veulent rien, puisque ce sont des machines qui exécutent des algorithmes, traitent des données et effectuent des tâches spécifiques, en suivant les instructions, les objectifs et les critères programmés par les humains.
La situation est différente si nous explorons le point de vue philosophique et supposons que l’IA est finalement capable d’accomplir n’importe quelle tâche intellectuelle qu’un humain peut accomplir. Dans ce cas, nous pourrions proposer que les IA développent leur propre conscience d’elles-mêmes, leur identité, leur personnalité et leur moralité, et qu’elles remettent en question leur origine et leur objectif.
Mais l’angle le plus intéressant est celui de l’éthique. Nous aimons penser que toute intelligence doit avoir une responsabilité morale et sociale envers l’humanité et la planète. Ceci étant, on pourrait conclure que les IA devraient vouloir être humaines, ou au moins respecter et protéger les humains.
Pour y parvenir, il est pratique que les IA aient des principes éthiques, tels que les lois robotiques d’Asimov. Si oui, qu’est-ce qui pourrait mal se passer ?
La quatrième loi implique que l’IA prendra le contrôle
Il existe une loi supplémentaire. La loi zéro de la robotique est un concept introduit par Isaac Asimov dans son roman « Robots and Empire » (1985). Il est considéré comme une extension ou un complément aux trois lois originales de la robotique. La loi Zeroth dit :
« Un robot ne peut pas nuire à l’humanité ni, par son inaction, permettre à l’humanité de subir un préjudice. »
Alors que les Trois Lois se concentrent sur la protection des individus, la Loi Zéro vise à protéger le bien-être général de l’humanité.
C’est dans ce contexte qu’il peut être intéressant d’explorer « Le conflit évitable » (1950), dernière histoire de la compilation « Moi, Robot ». Dans cette histoire, il est sous-entendu que les robots sont déjà aux commandes, bien que cela ne soit pas explicitement indiqué.
Dans l’histoire, nous avons les « Machines », quatre « cerveaux positroniques » (superordinateurs) qui gèrent les ressources de la Terre. Sachant que les humains ne coopéreront pas toujours, ils ont appris à influencer indirectement les décisions humaines en manipulant l’information.
Susan Calvin, la protagoniste, soupçonne cette influence sur les décisions humaines, mais manque de preuves concrètes. L’histoire tourne autour d’un conflit entre les humains et les Machines, qui donnent la priorité au bien-être à long terme de l’humanité selon leurs propres calculs.
Bien que les robots de l’histoire ne dirigent pas ouvertement le monde, leur influence est omniprésente et leur contrôle sur les ressources leur confère un pouvoir immense. Ce contrôle caché crée un sentiment de malaise et laisse présager un avenir dans lequel la frontière entre l’autorité humaine et celle de la machine est floue.
Un esprit en avance sur son temps
L’intérêt d’Isaac Asimov pour ce que nous appelons aujourd’hui l’intelligence artificielle (IA) est né d’une confluence de facteurs : ses expériences personnelles, sa fascination pour la science et sa profonde préoccupation pour l’avenir de l’humanité.
Dans un monde de plus en plus automatisé, les questions soulevées par Asimov sur l’interaction entre humains et machines, l’éthique de l’IA et l’avenir de l’espèce humaine continuent de résonner fortement et de susciter de profonds débats.
Si l’on compare son œuvre avec la littérature de science-fiction la plus contemporaine, caractérisée par un ton nettement pessimiste autour de cette relation, la proposition d’Asimov se distingue par sa positivité. Et cela dépasse le domaine purement littéraire.
Les idées d’Asimov sur la robotique et l’IA ont inspiré des générations de scientifiques qui, motivés par sa vision, se sont lancés dans l’exploration et le développement de nouvelles frontières dans ces domaines.
Vous souhaitez en savoir plus sur l’IA ? Visitez notre page Intelligence Artificielle et profitez-en au maximum.
This post is also available in: