L'"Horloge de sécurité de l'IA" de l'IMD place de justesse le monde dans la catégorie "à risque élevé"

L'Institut international de gestion et de développement (IMD), de renommée mondiale et basé en Suisse, a récemment lancé une nouvelle "Horloge de sécurité de l'IA" pour mesurer les menaces posées par l'évolution de la technologie, tout en saluant la position proactive de la Chine dans la mise en oeuvre de législations sur l'intelligence artificielle, dans le but de mieux protéger sa population contre l'IA malveillante.

En s'appuyant sur l'"Horloge de l'Apocalypse" originale qui montre à quel point l'humanité est proche de l'annihilation nucléaire, une équipe d'experts du Centre mondial TONOMUS pour la transformation numérique et l'IA de l'IMD a réglé l'horloge à 29 minutes avant minuit, soulignant l'ampleur des risques posés par l'intelligence artificielle générative incontrôlée (UAGI).

L'Horloge de l'Apocalypse est un symbole qui représente la probabilité d'une catastrophe mondiale provoquée par l'homme depuis 1947. L'horloge est une métaphore des menaces qui pèsent sur l'humanité en raison des avancées scientifiques et technologiques incontrôlées. Une catastrophe mondiale hypothétique est représentée par minuit sur l'horloge.

"Nous avons fait beaucoup d'analyses et recueilli une énorme quantité de données sur la sophistication de l'IA, sur la réglementation, et nous avons analysé toutes ces données pour essayer d'évaluer où nous nous situons entre 23 heures et minuit", a récemment déclaré à Xinhua Michael Wade, directeur du Centre mondial TONOMUS pour la transformation numérique des entreprises de l'IMD, lors d'une interview virtuelle.

"Notre analyse place l'horloge à environ 31 minutes après 23 heures, soit 29 minutes avant minuit, ce qui nous place au-delà du risque moyen et dans la catégorie à risque élevé, mais de justesse", a-t-il averti.

Même s'il n'y a pas de menace imminente d'impact catastrophique de l'IA sur l'humanité, les risques augmentent et il est maintenant temps de les traiter avant qu'il ne soit trop tard, a indiqué M. Wade. "Nous avons un appel aux régulateurs pour qu'ils renforcent la réglementation multinationale, un appel aux organisations pour qu'elles prennent plus au sérieux la sécurité de l'IA afin d'éviter que l'horloge ne se rapproche de minuit. Mais nous avons le temps", a-t-il poursuivi.

L'IMD a développé l'horloge de sécurité de l'IA après avoir effectué une analyse approfondie des technologies et des annonces de nombreux gouvernements et entreprises du monde entier. L'horloge de sécurité de l'IA implique une surveillance et une évaluation continues des facteurs quantitatifs et qualitatifs, a affirmé l'institut.

Il utilise un tableau de bord de suivi des actualités exclusif pour surveiller plus de 1.000 sites Web et 3.500 flux d'actualités. Le tableau de bord fournit des informations actualisées sur les avancées technologiques et les changements réglementaires.

Le projet suit les performances de plus de 30 modèles d'IA de base sur 33 références diverses et évalue les efforts réglementaires dans les régions clés, a expliqué M. Wade.

La position de l'horloge est mise à jour tous les trois ans ou ajustée ad hoc en fonction de ces évaluations, a fait savoir l'IMD.

LES PRINCIPAUX RISQUES

Alors que les développements technologiques tels que les nouveaux modèles, les puces, le remplacement des emplois et la militarisation rapprochent l'horloge de minuit, l'IMD suggère qu'une coopération et une réglementation internationales efficaces et des traités gouvernementaux peuvent aider à atténuer les risques potentiels que pose l'UAGI.

Certains des risques d'une intelligence artificielle non contrôlée incluent la militarisation de l'IA qui contrôle des armes conventionnelles, nucléaires, biologiques ou chimiques, ainsi que la manipulation ou la perturbation significative des marchés financiers.

"Le premier risque est que ces systèmes deviennent suffisamment intelligents pour nous surpasser, le risque que les systèmes d'IA atteignent essentiellement le niveau d'intelligence humaine dans toute une série d'activités", a souligné M. Wade.

"Le deuxième danger est qu'ils soient autonomes et échappent à notre contrôle. Le troisième risque est que ces systèmes d'IA devenus autonomes aient des liens avec notre monde et soient connectés à des systèmes financiers, à des infrastructures physiques, à des réseaux sociaux, à des systèmes militaires, à des systèmes politiques, alors c'est un niveau de danger supplémentaire", a-t-il poursuivi.

M. Wade a également mis en garde contre la manipulation ou la perturbation significative des infrastructures critiques, telles que l'énergie, les transports, les communications, l'eau, et des écosystèmes biologiques ou environnementaux, des réseaux sociaux et des systèmes politiques qui constituent une menace directe pour la vie humaine.

"Une intelligence artificielle non contrôlée peut causer des ravages pour nous tous, et nous passons d'une période de risque moyen à une période de risque élevé. Mais nous n'avons pas dépassé le point de non-retour. Une réglementation efficace et concertée peut limiter les pires tendances des nouvelles technologies sans perdre leurs avantages, et nous appelons les acteurs internationaux et les géants de la technologie à agir dans notre meilleur intérêt à tous", a mis en avant M. Wade.

LE RÔLE DE LA CHINE

Interrogé sur son point de vue sur le rôle de la Chine dans l'amélioration de la sécurité de l'IA, M. Wade a déclaré : "En ce qui concerne l'IA, le gouvernement chinois a en fait adopté une position assez proactive, probablement plus proactive et plus consolidée que de nombreux pays occidentaux".

"De nombreux pays occidentaux ont adopté un point de vue fragmenté. Il existe de nombreux petits textes de loi ici et là qui traitent d'un ou peut-être de plusieurs aspects différents de la sécurité de l'IA, mais très peu de lois en dehors de quelques exemples qui s'attaquent vraiment à ce problème", a-t-il noté.

"En Chine, il existe un certain nombre de textes législatifs forts, tels que les exigences de sécurité de base pour les services d'intelligence artificielle générative et l'Initiative pour la gouvernance mondiale de l'IA, qui ont été réellement conçus pour protéger les gens contre l'IA malveillante ou l'IA qui est d'une manière ou d'une autre dangereuse", a indiqué M. Wade.

"Bien que la Chine ne soit pas tout à fait au même niveau que les États-Unis en ce qui concerne la puissance des algorithmes et la solidité des technologies de puces sous-jacentes, nous constatons que la Chine rattrape très rapidement son retard dans ces domaines", a-t-il affirmé.

L'IMD est un institut universitaire indépendant avec des campus à Lausanne et à Singapour ainsi qu'un pôle de développement de la gestion à Shenzhen, en Chine.