Suspendre le développement de l’IA ? Elon Musk et Steve Wozniak signent une pétition

Elon Musk veut-il stopper le développement des intelligences artificielles (IA) ?

Elon Musk, Steve Wozniak et d’autres entrepreneurs, scientifiques et autres professeurs ont signé une pétition proposée par le Future of Life Institute, qui appelle à stopper temporairement le développement des IA :

📢 We're calling on AI labs to temporarily pause training powerful models!

Join FLI's call alongside Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & over a 1000 others who've signed: https://t.co/3rJBjDXapc

A short 🧵on why we're calling for this - (1/8)

— Future of Life Institute (@FLI_org) March 29, 2023

Au total, 1 377 signatures ont été recueillies lors de l’écriture de ces lignes. L’objectif de cette lettre est de mettre en pause pour au moins six mois la formation de systèmes tels que GPT-4, la nouvelle version du célèbre chatbot d’OpenAI, une entreprise pourtant cofondée par Elon Musk.

La principale inquiétude est la place de l’être humain face à ses développements. Dans ce sens, plusieurs questions sont soulevées, comme celle des algorithmes qui peuvent décider de ce que l’on voit sur les différents réseaux sociaux, l’automatisation de diverses opérations et le développement d’esprits plus intelligents que l’être humain :

« De telles décisions ne doivent pas être déléguées à des leaders technologiques non élus. Des systèmes d’IA puissants ne devraient être développés qu’une fois que nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables. Cette confiance doit être bien justifiée et augmenter avec l’ampleur des effets potentiels d’un système. »

D’autre part, la pétition appelle à recentrer le développement des IA sur des domaines technologiques « sûrs, interprétables, transparents, robustes, alignés, dignes de confiance et loyaux ».

? Pour aller plus loin — Le TOP 5 des cryptomonnaies du domaine de l’Intelligence Artificielle (IA)

? Écoutez cet article et toutes les autres actualités crypto sur Spotify

L’IA représente-t-elle un réel danger ?

Comme toute innovation technologique, l’IA soulève des questions. Déjà à l’ère de la Révolution industrielle, l’être humain se questionnait sur son potentiel remplacement par des machines, et des œuvres de fiction comme Terminator ont déchaîné les passions quant à un éventuel scénario catastrophe, mais sommes-nous réellement aux portes de la Singularité ? La question divise.

Ces questions n’ont d’ailleurs pas attendu le regain de popularité récent de l’IA sur les réseaux sociaux pour se poser.

Il y a toutefois effectivement des questions d’ordre éthique à souligner, notamment sur la façon dont l’apprentissage de ces systèmes est effectué. À l’image de toutes nos activités sur le Web, chaque interaction avec une intelligence artificielle lui donne des informations sur nous, et nous alimentons gratuitement les algorithmes de sociétés privées.

Ainsi, il est intéressant de se questionner sur la manière dont sont et seront utilisées ces données par ces sociétés, ce qui peut représenter un danger plus rationnel que le fantasme d’une super IA totalement autonome à l’heure actuelle.

Pour ce qui est du remplacement de l’être humain, à l’instar d’autres domaines technologiques, si l’IA peut effectivement supprimer certains emplois, elle en créera d’autres en parallèle. En somme, c’est un outil moralement neutre, dont les dangers ou les bénéfices dépendent de l’utilisation qui en est faite.

? Dans l’actualité également — Les États-Unis et la Corée du Sud demandent l’extradition de Do Kwon quelques jours après son arrestation

Source : Future of Life Institute

Depuis 2021, je consacre mon temps libre à me former sérieusement sur les cryptomonnaies afin d'acquérir un maximum de connaissances et de crédibilité. J'ai souvent l'opportunité de réaliser des interviews de personnalités influentes de l'industrie blockchain. Je mène également des analyses approfondies sur des thématiques du Web3 pour proposer du contenu exclusif aux lecteurs de Cryptoast.

Vincent Maire

2252 articles

Tous ses articles