Inspiration ⇨

Dans une lettre ouverte, qui a déjà été signée par de nombreuses personnalités issues des milieux économiques et de la recherche, le Future of Life Institute (FLI) a proposé en avril un «summer break» dédié à la réflexion.

Ce think tank s’engage en faveur d’une utilisation des nouvelles technologies qui maximise leurs avantages pour l’humanité tout entière tout en réduisant les risques. Il propose non seulement un moratoire de six mois mais aussi des mesures concrètes pour entamer des discussions sur la régulation de l’IA et d’autres actions.

Le FLI justifie la nécessité de ce délai par les affirmations d’importants laboratoires d’IA, selon lesquelles les systèmes modernes qui en découlent peuvent induire une profonde mutation dans l’histoire de la vie sur Terre. Il signale que les laboratoires d’IA se livrent actuellement une concurrence incontrôlée qui donne naissance à des systèmes de plus en plus performants, que personne, pas même leurs développeurs, n’est en mesure de comprendre, de prédire et de contrôler de façon fiable.

Principalement financée par Microsoft et le fondateur de Tesla Elon Musk, l’interface ChatGPT de la société OpenAI, gratuite et extrêmement facile à utiliser, a récemment placé l’IA au centre de l’attention publique. Depuis le début de l’année, il apparaît très clairement combien l’IA peut influer sur la société, l’économie, l’éducation et la recherche. Et cela, de façon immédiate: le risque de voir émerger des œuvres artistiques de synthèse, des travaux de fin d’études générés par l’IA, des deepfakes de discours politiques et des vidéos falsifiées est en effet omniprésent.

Aucune autre technologie transversale n’a jamais autant démontré la nécessité d’une action rapide de tous les groupes d’intérêts et parties prenantes. En effet, l’IA repose sur des algorithmes autoapprenants dont même les développeurs, qui les ont initialement alimentés avec les premiers enregistrements de données, ne peuvent prédire l’évolution. L’instance d’une IA derrière ChatGPT a dès lors été déconnectée d’internet de telle sorte que l’état de ses connaissances est limité à celui de 2021.

Dans leur lettre, les auteurs réclament une pause de six mois dans le développement des systèmes d’IA qui sont plus performants que GPT-4. Ce break doit être public, transparent et inclure l’ensemble des acteurs importants. En l’absence d’une telle pause dans un avenir proche, les gouvernements devront intervenir et imposer un moratoire, réclament les auteurs. Ils soulignent que le moratoire ne doit pas entraver le développement de l’IA dans son ensemble. Il doit seulement constituer un pas en arrière par rapport à un développement dangereux de modèles à boîte noire (black box model) toujours plus grands et imprévisibles et dotés de capacités émergentes.

Parmi les signataires de la lettre, on retrouve Elon Musk et Yoshua Bengio, lauréat du prix Turing, mais aussi le cofondateur d’Apple Steve Wozniak, l’auteur et professeur Yuval Noah Harari, Stuart Russell, professeur en informatique à Berkeley, ainsi qu’un très grand nombre d’autres experts.