Un groupe d'universitaires et d'experts internationaux, ainsi que des entrepreneurs et des dirigeants de grandes entreprises technologiques, ont signé mercredi un appel en faveur d'une pause de six mois dans la recherche sur les intelligences artificielles (IA) plus puissantes que ChatGPT 4, le modèle Open AI lancé ce mois-ci, mettant en garde contre les "grands risques pour l'humanité".

Dans la pétition, ils demandent un moratoire jusqu'à ce que des systèmes de sécurité soient mis en place avec de nouvelles autorités de régulation, une surveillance des systèmes d'IA, des techniques permettant de distinguer le réel de l'artificiel et des institutions capables de faire face aux "bouleversements économiques et politiques dramatiques (en particulier pour la démocratie) que l'IA va provoquer".

L'appel est signé par des personnalités qui ont exprimé leurs craintes de voir l'IA incontrôlable dépasser les humains, comme Musk et l'historien Yuval Noah Hariri.

De son côté, le directeur d'Open AI, qui a conçu ChatGPT, Sam Altman, a reconnu avoir "un peu peur" que sa création soit utilisée pour "de la désinformation à grande échelle ou des cyberattaques". "L'entreprise a besoin de temps pour s'adapter", a récemment déclaré Altman à ABCNews.

"L'IA avancée pourrait représenter un changement profond dans l'histoire de la vie sur Terre et devrait être planifiée et gérée avec des ressources et de l'attention. Malheureusement, ce niveau de planification et de gestion n'existe pas. Pourtant, ces derniers mois, les laboratoires d'IA se sont lancés dans une course incontrôlée pour développer et déployer des esprits numériques de plus en plus puissants que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable", peut-on lire dans la pétition.

Parmi les signataires figurent également Steve Wozniak, cofondateur d'Apple, des membres du laboratoire d'IA DeepMind de Google, Emad Mostaque, directeur de Stability AI, ainsi que des experts et des universitaires américains spécialisés dans l'IA et des ingénieurs exécutifs de Microsoft, partenaire de l'OpenAI.