ARIA: l’Agence Britannique Envisage un Projet de « Gardien » AI

Un Concept de « Gardien » AI pour Garantir la Sécurité des Applications AI

L’Agence de Recherche et d’Invention Avancée (ARIA) au Royaume-Uni travaille sur un concept novateur de « gardien » de l’intelligence artificielle (AI). L’ambition est de mettre sur pied une structure de sécurité qui puisse se comparer à celles déjà en place dans le domaine de l’énergie nucléaire ou de l’aviation. Le projet représente une initiative de grande envergure qui pourrait révolutionner la façon dont les applications AI sont conçues et déployées.

Un Investissement Considérable pour une Technologie Prometteuse

L’ARIA prévoit un investissement de £59 millions pour développer la technologie du « gardien » AI. L’objectif principal consiste à démontrer avec succès une preuve de concept à grande échelle dans des domaines tels que l’équilibre du réseau électrique et la gestion de la chaîne d’approvisionnement. Le concept de « gardien » AI vise à fournir des garanties de sécurité quantitatives en utilisant des modèles du monde scientifique et des preuves mathématiques, combinant des approches commerciales et académiques pour la sécurité de l’AI.

L’esprit derrière ce projet révolutionnaire, David Dalrymple, a une solide expérience dans le domaine de la cryptomonnaie et une vaste recherche dans la sécurité technique de l’AI. C’est cette passion pour la technologie qui l’incite à chercher à développer ce système de sécurité AI.

Une Vision Globale pour une Informatique Sans Bugs

ARIA est souvent comparée à la DARPA américaine, cette dernière finançant elle-aussi des projets de recherche à haut risque mais à gains potentiels importants. De même que la DARPA, ARIA vise les solutions novatrices, repoussant les limites des technologies existantes.

Le projet de « gardien » AI s’inscrit dans la tendance des logiciels sans failles à travers une vérification formelle – une idée inspirée par le programme HACMS de DARPA et par l’appel du scientifique en informatique Yoshua Bengio pour des garanties de sécurité quantitatives dans les systèmes AI.

Pourtant ARIA, malgré un financement de £800 millions sur cinq ans, a dû faire face à des critiques politiques concernant son budget. Néanmoins, les économies potentielles en termes de coûts de formation de systèmes AI, grâce aux programmes innovants de l’agence, sont un argument de poids en faveur de l’investissement dans ces technologies.

La collaboration interdisciplinaire au sein de l’ARIA est un élément essentiel pour développer la technologie du « gardien » AI. Ceci souligne le besoin de combiner l’AI de pointe avec des raisonnements mathématiques pour une garantie optimale de sécurité. C’est un projet ambitieux, qui nécessitera une coopération et une collaboration étroite, mais qui peut conduire à une avancée technologique sans précédent dans le domaine de l’intelligence artificielle.

FAQ:

Quelle est la comparaison faite entre l’ARIA et un organisme similaire aux États-Unis ?

• L’ARIA est comparée à DARPA, l’agence de recherche et de développement du Pentagone.

Quel est le rôle principal du "guardien" AI présenté dans le plan de l’ARIA ?

• Le "guardien" AI veillera à ce que les autres agents d’IA n’opèrent que dans les limites fixées pour une application spécifique.

Sur quoi se baseront les "gardiens" de l’ARIA pour garantir la sécurité?

• Les "gardiens" de l’ARIA s’appuieront sur des modèles mondiaux scientifiques et des preuves mathématiques.

Quelles sont certaines des applications potentielles des projets de l’ARIA s’ils sont efficaces?

• Les projets de l’ARIA pourraient contribuer à la protection des applications d’IA à haut risque, telles que l’amélioration des infrastructures critiques ou l’optimisation des essais cliniques.

Où David Dalrymple a-t-il puisé l’inspiration pour l’approche du "guardien" d’IA?

• David Dalrymple a puisé l’inspiration pour l’approche du "guardien" d’IA dans ses recherches intenses sur la sécurité technique de l’IA.