Le terme « souveraineté » apparaît dix fois dans la stratégie L’IA pour tous du Premier ministre Mark Carney, publiée en début juin, qui présente plusieurs projets ambitieux concernant les investissements canadiens dans les infrastructures et la recherche en matière d’intelligence artificielle (IA).

Cependant, alors que la législation canadienne sur l’IA n’a pas encore été adoptée et que l’intégration et le développement des technologies d’IA progressent à une rapidité impressionnante, la souveraineté devient rapidement une préoccupation majeure pour les experts en IA au Canada.

Pourquoi la souveraineté? Pour répondre à cette question, Bertrand Milot, président-fondateur de la firme de cybersécurité Bradley & Rollins et expert en intelligence artificielle, revient sur certaines des questions qui se posent depuis les débuts de l’adoption des outils d’IA générative : l’innovation et le droit d’auteur.

Tous les modèles d’IA « hallucinent »; le terme utilisé dans le domaine pour désigner le fait qu’un modèle invente des informations. Si ces inventions ont souvent été perçues de manière négative, certaines « hallucinations » pourraient être considérées comme s’apparentant à l’innovation et à la créativité humaines.

« Mais dans ce cas-là, à qui appartient l’innovation?, demande Bertrand Milot.

« En fait, c’est très simple : aujourd’hui, ChatGPT, Google, Meta, xAI peuvent tous revendiquer qu’une hallucination qui devient une innovation leur appartient, puisque c’est leur modèle qui a créé cette innovation. »

Ce qui l’inquiète, c’est que les utilisateurs, devant leurs ordinateurs, utilisent l’IA comme un outil, mais que cet outil appartient aux entreprises technologiques, qui en assurent l’exploitation, la maintenance et le développement, et qui revendiquent la propriété des résultats générés par ces outils.

Et ces grandes entreprises technologiques ne sont pas canadiennes.

La souveraineté dans les entreprises canadiennes

En tant qu’entrepreneur, Bertrand Milot s’est penché sur cette question. Certains des services de cybersécurité qu’il propose intègrent des solutions d’IA, mais celles-ci reposent sur des modèles d’IA américains.

« Et je me suis dit: “C’est catastrophique.” Je dis à mon analyste d’utiliser une intelligence artificielle étrangère pour apprendre quelque chose. »

« En gros, s’il change de solution IA et que mon analyste s’en va, je perds les deux: le savoir-faire et l’analyste. À terme, les entreprises pourraient souffrir de deux types de turnover : le turnover de personnel et le turnover d’intelligence artificielle. »

Les entreprises canadiennes sont donc perdantes en utilisant leurs propres données et idées pour entraîner un modèle d’IA étranger… qui pourrait leur être retiré à tout moment.

L’argument de Bertrand Milot concernant la souveraineté repose sur l’idée qu’un grand nombre d’entreprises, d’organisations et de citoyens canadiens accordent leur confiance à des sociétés qui sont, en fin de compte, régies notamment par le gouvernement américain.

Cela pose problème pour plusieurs raisons. Les entreprises technologiques sont réputées pour être peu fiables et pour leur moralité douteuse : certains se souviendront peut-être que Meta a supprimé puis réintroduit la technologie de reconnaissance faciale dans ses produits. Mais il existe également déjà des exemples d’intervention du gouvernement américain dans les activités d’entreprises américaines spécialisées dans l’IA.

« Le gouvernement américain, invoquant des raisons de sécurité nationale, a émis une directive de contrôle des exportations visant à suspendre tout accès à Fable 5 et Mythos 5 par tout ressortissant étranger, qu’il se trouve à l’intérieur ou à l’extérieur des États-Unis, y compris les employés étrangers d’Anthropic, indique un communiqué publié le 12 juin dernier par Anthropic, la compagnie chargée de la création et de l’exploitation de l’outil d’IA générative Claude (3).

Ce communiqué a été publié seulement trois jours après le lancement initial par Anthropic de Claude Fable 5 et Claude Mythos 5, ses deux modèles d’IA les plus puissants à ce jour. Selon ce communiqué, les modèles ont été retirés en raison de certaines vulnérabilités qui auraient pu permettre le contournement de leurs mesures de sécurité, soulevant d’importantes préoccupations en matière de cybersécurité.

Le 26 juin, après avoir résolu ces problèmes de sécurité, l’entreprise a pu redistribuer Mythos 5 à certaines organisations. Le 1er juillet, elle a remis Fable 5 à disposition du grand public à l’échelle internationale.

Mais c’est là que réside la question de la souveraineté : « le gouvernement américain a le droit de vie ou de mort sur des modèles d’automatisation. »

Et à une époque où les crises géopolitiques ont un effet de plus en plus déstabilisateur sur les économies du monde entier, il est maintenant essentiel que les Canadiens fassent preuve d’autonomie lorsqu’ils mettent en œuvre de nouvelles technologies.

« Il faut que tout ce qu’on fait respecte le droit fondamental de l’habeas corpus. On ne peut pas bafouer le droit des peuples à disposer d’eux-mêmes. »

L’IA pour tous?

L’accent mis par le gouvernement canadien sur la souveraineté en matière d’IA pourrait rassurer certains quant à l’importance que l’administration Carney accorde à cette question. Mais selon Bertrand Milot, il n’y a peut-être pas encore suffisamment de preuves de l’engagement à défendre ce concept au sein du pays.

À la mi-juin, la ministre de la Cybersécurité et du Numérique et présidente du Conseil du Trésor du Québec, Mme France-Élaine Duranceau, a annoncé un partenariat entre le gouvernement de la province francophone et Mistral AI, une entreprise française spécialisée dans l’IA (5).

« Je suis français d’origine, donc je devrais être content, mais non. On a vraiment les meilleurs joueurs de l’IA ici au Canada et au Québec, mais on va chercher ailleurs. Pour moi, c’est représentatif de cette absence de courage qu’a le Canada de faire les choses par lui-même. »

Quelle serait donc une alternative préférable au recours aux géants déjà bien établis du secteur? Il s’agirait de développer l’efficacité et le contrôle du Canada en matière d’IA, par exemple en faisant en sorte que le gouvernement subventionne des modèles d’IA entièrement canadiens et forme des partenariats avec eux, ou encore qu’il s’assure que nous puissions créer notre propre hardware d’IA, à l’image de la Chine qui fabrique désormais ses propres puces.

Dans sa stratégie L’IA pour tous, Mark Carney affirme vouloir « bâtir les fondements d’une IA canadienne souveraine » (6). Cependant, étant donné qu’il espère également « faire passer de 12 % à 60 % le taux d’adoption de l’IA d’ici 2034 », il reste à voir comment le gouvernement fédéral compte concilier la protection des intérêts canadiens et l’adoption rapide des technologies d’IA.

Cybersécurité et modèles d’IA

Au-delà des risques pour la sécurité nationale liés aux systèmes d’IA, ceux-ci restent également extrêmement vulnérables aux menaces sur la sécurité des individus. En effet, les IA génératives sont des modèles linguistiques basés sur des prompts : les utilisateurs leur donnent une commande en texte clair plutôt qu’en code, et elles fournissent une réponse en fonction de la réponse statistiquement la plus probable.

Par exemple, vous demandez à Claude de vous rédiger un essai. En s’appuyant sur des milliers de milliards de points de données qui ont été intégrés au modèle par sa société mère, Anthropic, il générera un texte en utilisant la combinaison de mots qui correspondrait de manière la plus adéquate possible à la demande que vous avez envoyée.

« Tu peux corrompre le modèle de langage lui-même, explique Bertrand Milot. Si tu influences les statistiques dans le processus d’apprentissage du modèle, tu peux changer même la logique de ton agent. »

C’est malheureusement déjà très courant. Sachant que les modèles d’IA peuvent effectuer des recherches sur Internet et naviguer en ligne de manière autonome, de nouveaux sites ont vu le jour, comportant dans leur code des instructions malveillantes ou écrites en police transparente afin de tromper les modèles d’IA qui pourraient les lire.

Même sur Reddit, un forum en ligne populaire devenu un lieu incontournable où les internautes trouvent des réponses à leurs questions, il est désormais courant que des commentaires contiennent une phrase ou une instruction destinée à induire en erreur un modèle d’IA. Et alors que de nombreux utilisateurs utilisent ces systèmes comme assistants personnels et leur donnent même accès à leurs comptes bancaires ou à leurs boites courriel, les risques sont très élevés.