Opérant à partir d’un appareil de la taille d’un dictionnaire de poche, il s’agit d’un programme basé sur l’intelligence artificielle (IA) capable de se protéger et de se reconstruire en cas de menaces ou de dysfonctionnements, et donc de protéger les appareils auxquels il est connecté.
Il fonctionne comme une petite entreprise : son noyau auto-résilient, composé d’une équipe de trois éléments – l’un chargé des spécifications (ou d’écrire les requis), un autre chargé du codage et un auditeur – analyse en permanence les vulnérabilités ou anomalies potentielles, élabore des solutions pour y remédier, puis les met en œuvre de manière autonome.
« Les agents ne se parlent pas entre eux, dit Bertrand Milot, président-fondateur de la firme de cybersécurité Bradley & Rollins et expert en intelligence artificielle. Il y a des contrôles déterministes que j’ai décidés entre chaque agent. Ils ne peuvent que communiquer à travers ces politiques-là, donc ils ne peuvent pas halluciner les uns avec les autres. »
Ensuite, une équipe de gestion autour du noyau veille à son bon fonctionnement : un orchestrateur s’assure qu’ils restent autonomes, et trois « méta-agents » veillent à ce que le noyau fonctionne normalement. Enfin, se contentant d’observer pour apprendre et de noter ce que les agents rapportent, un observateur prend note des éventuelles hallucinations ou erreurs commises par les agents.
Cette équipe d’agents a accès à plusieurs sources d’informations : s’ils ne parviennent pas à trouver la solution à un problème par eux-mêmes et à l’aide de ce qu’ils ont appris précédemment, ils peuvent se tourner vers des modèles plus puissants pour enrichir leur répertoire de connaissances pour l’avenir. Au bout d’un certain temps, les agents n’ont plus besoin de recourir à de grands modèles linguistiques comme ChatGPT pour trouver des solutions aux problèmes.
Enfin, cette équipe travaille en parallèle avec le protocole général de cybersécurité comme Windows Defender, Malwarebytes ; bref, les logiciels de sécurité habituels.
« J’aurais pu sortir cette application avec des agents IA, mais juste pour la sécurité qui seraient là pour surveiller 24h sur 24. Mais ces agents IA sont des vulnérabilités à part entière parce que tu peux les empoisonner, tu peux leur faire croire à une attaque alors qu’il n’y en a pas, et ensuite leur passer un prompt à l’intérieur de l’attaque. »
Le noyau autorésilient a donc pour rôle de garantir un système conçu pour s’autodéfendre en cas de faille d’un antivirus ou d’un autre système de sécurité, qu’il s’agisse ou non d’IA.
Indépendant et autonome
Il existe déjà des outils d’IA qui contribuent à la cybersécurité des appareils et des organisations. « Mais le problème, c’est que l’IA ne t’appartient pas, explique Bertrand Milot.
Cet outil apporte une solution au problème du manque de souveraineté en IA dans la mesure où il est autonome et apprend à partir de données locales, tout en ayant la possibilité de rechercher des solutions à l’extérieur si nécessaire. Cela signifie qu’une entreprise utilisant ce système peut faire fonctionner OmniXOAR sur ses propres systèmes, conserver en interne ses propres données sur ses vulnérabilités et maintenir son équipe de cybersécurité même sans Internet, ou sans l’aide d’un modèle d’IA externe, voire étranger.
« Le principe, c’est que quand il y a un incident, tu ne veux pas être dépendant d’intelligence artificielle qui sont dans le cloud. Le but n’est pas de remplacer les outils de sécurité. C’est de rajouter par-dessus un enregistreur de compétences, de connaissances et d’autonomie.
« Mais tu veux que ces connaissances, cette mémoire, ce savoir-faire t’appartiennent. Il faut que tu puisses la contrôler, la mettre ailleurs si tu veux, ou même la casser si tu en as envie. »
