BUZZ
"Pause des essais immédiate" : Elon Musk et 1000 autres personnalités paniquent face à Chat GPT-4
Publié le 2 avril 2023 à 10:00
Par Ilana Levy | Rédactrice
Ilana est une journaliste passionnée par les films et séries, mais aussi et surtout l’astrologie. Elle a grandi avec Disney Channel et est certainement la future femme de Nick Jonas. Sa passion secrète : les documentaires crimes sur Netflix.
Avec l'arrivée de Chat GPT-4, les personnalités du monde technologique se sont rendues compte que les Intelligences Artificielles prenaient de l'ampleur. Les avancées technologiques sont très rapides, peut-être même trop. C'est pour cela qu'Elon Musk et 1 000 autres personnalités ont signé une lettre ouverte.
Elon Musk et 1 000 personnalités du monde technologiques demandent de stopper les essais sur des IA plus performantes que Chat GPT-4 Elon Musk et 1 000 personnalités du monde technologiques demandent de stopper les essais sur des IA plus performantes que Chat GPT-4© ABACA
Optimus : Le dernier né des robots de Tesla. Le milliardaire Tesla Elon Musk a dévoilé la dernière version de l'entreprise Tesla. © JLPPA/Tesla/Bestimage  Tesla billionaire Elon Musk has unveiled the latest version of the company. Optimus : Le dernier né des robots de Tesla. Le milliardaire Tesla Elon Musk a dévoilé la dernière version de l'entreprise Tesla. © JLPPA/Tesla/Bestimage  Tesla billionaire Elon Musk has unveiled the latest version of the company. Optimus : Le dernier né des robots de Tesla. Le milliardaire Tesla Elon Musk a dévoilé la dernière version de l'entreprise Tesla. © JLPPA/Tesla/Bestimage  Tesla billionaire Elon Musk has unveiled the latest version of the company. Elon Musk, Maye Musk - Soirée d'Halloween organisée par H.Klum (21ème édition) au Sake No Hana chez Moxy Lower East Side à New York le 31 octobre 2022.  Elon Musk - Soirée d'Halloween organisée par H.Klum (21ème édition) au Sake No Hana chez Moxy Lower East Side à New York le 31 octobre 2022.
La suite après la publicité

"Nous demandons à tous les laboratoires d'IA de suspendre immédiatement le façonnage des systèmes d'IA plus puissants que GPT-4 pendant au moins 6 mois." C'est le message diffusé dans la lettre ouverte signée, entre autres, par Elon Musk, Steve Wozniak (co-fondateur d'Apple), Jaan Tallinn (co-fondateur de Skype) et Max Tegmark (MIT). Cette lettre, signée par plus de 1 000 personnalités du monde technologique, remet en cause les avancées rapides des systèmes d'intelligence artificielle. Plus précisément, celles qui impliquent une capacité supérieure à celle de GPT-4.

>> "Fiston, pourquoi t'as deux calculatrices sur ton téléphone ?" : le retour en force des applications de coffre-fort pour contourner les contrôles parentaux <<

Des questions se posent

La lettre précise tout d'abord que le développement des systèmes d'IA peut représenter un changement profond dans l'histoire, tant qu'il est correctement géré et planifié. Les signataires affirment que même les créateurs de ces systèmes ne sont pas capables, à ce jour, de comprendre ou de prédire de manière fiable leur comportement.

"Les systèmes d'IA contemporains viennent concurrencer les humains dans les tâches générales, et nous devons nous demander : devrions-nous laisser les machines inonder nos canaux d'information de propagande et de mensonges ? Devrions-nous automatiser tous les travaux ? Devrions-nous développer des esprits non humains ? finirons-nous par être en infériorité numérique, dépassés, obsolètes et remplacés ?", écrivent-ils.

>> One Piece : la fin du manga écrite par un robot ? Eiichiro Oda teste une nouvelle façon de travailler <<

Un besoin de sécurisation

La lettre ne fait pas allusion à une interruption complète du développement de l'IA, mais à ceux des systèmes avec plus de capacités que GPT-4. Ils demandent "un pas en arrière" dans la course vers "des modèles imprévisibles et aux compétences de plus en plus émergentes". Le point principal est que le développement actuel devrait se concentrer sur "rendre les puissants systèmes de pointe d'aujourd'hui plus précis, sécurisés, interprétables, transparents, robustes, alignés, fiables et loyaux". Autrement dit, mettre en pause le développement d'IA de plus en plus supérieures pour commencer à travailler en profondeur sur le contrôle et la fiabilité de ces systèmes.

Au-delà de travailler sur la fiabilité et la sécurité de ces systèmes d'intelligence artificielle, la nécessité de développer de nouveaux protocoles de sécurité partagés entre eux est demandée. "Ces protocoles devraient garantir que les systèmes qui y adhèrent sont sécurisés au-delà de tout doute raisonnable." Cela nécessite la création et le respect de certaines normes qui garantissent le bon fonctionnement de ces systèmes.

>> Tout le monde craque pour l'appli Lensa et son logiciel fou d'IA : il y a pourtant plusieurs raisons de s'en méfier, voire de fuir <<

Plus de réglementation

Ils ont également argumenté sur la nécessité de créer de nouvelles autorités de régulation de l'IA. Celles-ci, selon la pétition, devraient surveiller et suivre les "systèmes d'IA hautement performants" ainsi que trouver des moyens de distinguer le réel de ce qui a été créé artificiellement. On parle également de réglementation juridique en termes d'éventuels dommages créés par l'IA, de suivi d'éventuelles fuites de données ou de systèmes de financement public pour la recherche sécurisée. "Les institutions doivent disposer de ressources suffisantes pour faire face aux perturbations économiques et politiques drastiques (en particulier pour la démocratie) que l'IA entraînera."

La lettre n'aurait pas pu arriver à un moment plus approprié, car cela semble être la semaine où les modèles d'IA doivent être remis en question. Le 27 mars, la police européenne a averti que les réseaux criminels peuvent utiliser ces types d'outils à leur avantage. Les effets en termes de désinformation que peut avoir l'utilisation de ces outils, servant à créer des textes appliqués au phishing ou à d'autres fins malveillantes, ont été discutés.

Cet article a été écrit en collaboration avec nos collègues de Xataka

Mots clés
Tech
Tendances
Voir tous les people
Sur le même thème
Une voiture digne d'un film de science-fiction : après le réalisateur de I,Robot, Elon Musk vient de se faire un nouvel ennemi... La production d'un autre film s'attaque à Tesla ! play_circle
Tech
Une voiture digne d'un film de science-fiction : après le réalisateur de I,Robot, Elon Musk vient de se faire un nouvel ennemi... La production d'un autre film s'attaque à Tesla !
22 octobre 2024
À ne pas manquer à la télé ce soir : ce film de science-fiction qui n'est pas sorti au cinéma en France, mais qui a réalisé des records à l'international play_circle
Cinéma
À ne pas manquer à la télé ce soir : ce film de science-fiction qui n'est pas sorti au cinéma en France, mais qui a réalisé des records à l'international
12 juillet 2024
Les articles similaires
Il a fondé Google, a fait confiance à Elon Musk pour diriger sa fortune de 110 milliards d'euros et aujourd'hui, ils sont fâchés et ne se parlent plus play_circle
Tech
Il a fondé Google, a fait confiance à Elon Musk pour diriger sa fortune de 110 milliards d'euros et aujourd'hui, ils sont fâchés et ne se parlent plus
7 décembre 2024
Digne d'un film de science-fiction : la Terre a reçu un message envoyé par laser à 16 millions de kilomètres
Tech
Digne d'un film de science-fiction : la Terre a reçu un message envoyé par laser à 16 millions de kilomètres
4 décembre 2024
Dernières actualités
"Visuellement, c'est une scène stupéfiante après l'autre" : ce réalisateur légendaire fait l'éloge de ce film de science-fiction critiqué et qui a fait un flop au cinéma play_circle
CINÉ SÉRIE
"Visuellement, c'est une scène stupéfiante après l'autre" : ce réalisateur légendaire fait l'éloge de ce film de science-fiction critiqué et qui a fait un flop au cinéma
14 novembre 2024
"C'est quand même pénible" : cette chose que Sara Mortensen refuse absolument de faire pour Astrid et Raphaëlle play_circle
CINÉ SÉRIE
"C'est quand même pénible" : cette chose que Sara Mortensen refuse absolument de faire pour Astrid et Raphaëlle
8 novembre 2024
Dernières news