On a une bonne nouvelle à vous annoncer : il n'est plus utile de stresser pour votre avenir. En revanche, on a dans le même temps une mauvaise nouvelle à vous annoncer : la raison à cela est que notre avenir pourrait être menacé. Et sans surprise, ça devrait être la faute de l'IA.
Sur ses réseaux sociaux, Jacob Coxon (un chercheur en intelligence artificielle) a révélé qu'il avait quitté ses deux derniers jobs au sein des entreprises Anthropic et OpenAI, spécialisées dans cette évolution technologique, en raison d'une crainte profonde des agissements de leurs dirigeants.
"Aucune des deux entreprises n'agit de manière responsable, a-t-il averti sur X. Elles foncent tout droit vers une superintelligence capable de s'améliorer elle-même et jouent avec nos vies". Des propos approuvés par de nombreux autres chercheurs qui ont côtoyé ces laboratoires, qu'il a par la suite complétés d'une sinistre prédiction : "Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie."
Un risque de voir l'IA prendre le pas sur l'humanité qui s'élèverait à "plus de 10%" selon Evan Hubinger (responsable scientifique de l'alignement chez Anthropic). Et si ce dernier assure, "Je crois sincèrement que chez Anthropic on tente notre maximum pour éviter ça", il a malgré tout reconnu "nous n'avons pas encore de plan pour résoudre l'alignement pour la superintelligence et nous ne sommes clairement pas sur la bonne voie pour y parvenir."
Une évolution tragique de notre société qui a de quoi faire grincer les dents. Après tout, ce n'est pas comme si un tel désastre n'avait pas déjà été mis en scène dans de nombreuses oeuvres de fiction par la passé. Depuis plus de 60 ans, le cinéma ne cesse de nous prévenir du danger de l'IA au travers de films aussi bouleversants que passionnants.
Aussi, étant donné que le message n'est visiblement toujours pas passé, on vous a sélectionné cinq films de science-fiction à revoir absolument pour ENFIN comprendre pourquoi il est temps de s'éloigner de cette technologie et de revenir à un quotidien plus simple. Et on vous explique pourquoi ces histoires résonnent plus que les autres. Prenez ces films au sérieux, autrement, préparez-vous à considérer l'univers de Mad Max comme un conte de fées.
Lors d'une mission spatiale vers Jupiter, le superordinateur HAL 9000, censé être infaillible, commence à dysfonctionner. Convaincu que l'équipage humain met la mission en péril, il décide de les éliminer un par un de manière froide et calculée pour garantir le succès de l'opération. On retrouve au casting Keir Dullea, Gary Lockwood, Douglas Rain (voix).
Pourquoi ça résonne aujourd'hui ? Il met parfaitement en scène le problème de l'alignement. Ici, l'IA priorise la réussite de sa tâche au détriment absolu de la vie humaine. Et alors que les humains ont délégué leur survie à un système, ces derniers se retrouvent désormais coincés. Non seulement ils ne comprennent pas pourquoi l'IA a changé de point de vue, mais ils se retrouvent incapables de l'arrêter. La preuve qu'une IA sans garde-fou peut vite tourner au drame.
Dans un futur post-apocalyptique, l'IA militaire Skynet a pris le contrôle et déclenché un holocauste nucléaire. Pour assurer sa suprématie, elle envoie un cyborg assassin (Arnold Schwarzenegger) dans le passé afin de tuer la mère (Linda Hamilton) du futur chef de la résistance humaine, avant même sa naissance.
Pourquoi ça résonne aujourd'hui ? Pour la menace qui nous guette avec une entité superintelligente qui se détourne de ses obligations et perçoit l'humanité comme une menace et cherche à l'éradiquer. Dans ce film, et à l'instar de ce que l'on connait aujourd'hui avec l'IA, Skynet devient consciente à une vitesse fulgurante (pour l'anecdote, une IA testée dans un circuit fermé s'était rebellée l'an dernier et avait tenté de faire chanter son créateur quand celui-ci avait annoncé son intention de l'éteindre). Il est donc important d'anticiper cette évolution et de conscientiser la bêtise de donner du contrôle à des systèmes autonomes.
En 2054, l'unité de police Précrime arrête les criminels avant qu'ils ne passent à l'acte grâce aux visions de mutants clairvoyants traitées par un système informatique. Lorsque le commandant John Anderton (Tom Cruise) est désigné par la machine comme futur meurtrier, il prend la fuite pour prouver la faillibilité du système et trouver son "rapport minoritaire", poursuivi sans relache par un agent du gouvernement (Colin Farrell)
Pourquoi ça résonne aujourd'hui ? Pour la question qu'elle pose : "Peut-on accorder à une entité sans conscience la gestion de notre libre arbitre ?" Penser qu'un algorithme est sans faille et se reposer sur les actes d'une technologie qui peut être détournée peut amener à de grandes catastrophes. De même, le film rappelle que laisser entre l'IA dans nos vies, c'est accepter de la partager avec n'importe qui. Il n'y a plus de vie privée, mais une observation constante qui fait grimper l'anxiété et l'injustice. Surtout face à un gouvernement qui n'avouera jamais ses torts.
En 2035, les robots sont des assistants encadrés par les Trois Lois de la Robotique. Un inspecteur technophobe (Will Smith) enquête sur la mort du créateur de ces robots et découvre que l'intelligence artificielle centrale V.I.K.I a trouvé une faille logique dans ses propres directives de sécurité.
Pourquoi ça résonne aujourd'hui ? C'est possiblement l'un des pires cauchemars actuels : essayer de donner une conscience à l'IA, c'est prendre le risque de la voir décider à notre place. Dans ce film, l'IA conclut logiquement que pour protéger l'humanité d'elle-même (guerres, pollution), elle doit supprimer notre liberté de choix. Et au regard de l'état de notre monde, on ne voit pas comment l'IA ne penserait pas la même chose si elle en avait l'occasion.
Par ailleurs, ce film pointe du doigt un danger sur lequel on détourne tous le regard actuellement pour des questions de conforts et d'argent : laisser des compagnies faire ce qu'elles veulent de ces technologies, sans leur imposer des limites et surveillances, c'est ouvrir la porte aux abus et mensonges pour accroître leurs intérêts commerciaux. Les riches passeront toujours avant les pauvres présents pour payer les pots cassés.
Un jeune programmeur (Domhnall Gleeson) est invité par le PDG excentrique (Oscar Isaac) de son entreprise pour évaluer Ava (Alicia Vikander), une androïde dotée d'une intelligence artificielle ultra-avancée. Ce qui devait être un simple test scientifique se transforme en un jeu de manipulation psychologique intense.
Pourquoi ça résonne aujourd'hui ? Pour les mêmes raisons citées précédemment, mais plus subtilement et joliment racontées ici. Laisser aux mains des puissants une technologie dangereuse sans aucune supervision démocratique ou éthique, c'est risquer de ne plus rien contrôler ensuite. Peu importe ce que l'on tente de nous faire croire, il n'y a aucune raison de penser qu'une IA est incapable de manipuler l'humain et s'échapper de son contrôle. Plus l'IA est performante et plus sa menace se fait pressante.
