Lorsque le maire de Winnipeg Scott Gillingham a mis au défi les services publics de trouver un moyen d’intégrer l’intelligence artificielle (IA) dans leur offre de services aux résidents, l’équipe s’est mise au travail pour mettre en place une série de projets à tester.
« Ils ont obtenu d’excellents résultats, dit-il. Ces projets pilotes ont le potentiel d’améliorer la prestation des services et d’aider le personnel à faire son travail plus efficacement. »
Six projets découlant de ce défi sont actuellement utilisés par la Ville.
Quels sont ces projets?
Le premier est le chatbot IA qui a été intégré au site web de la ville.
Destiné à compléter l’offre de service téléphonique 311, le chatbot peut répondre aux questions des citoyens dans plus de 17 langues.
De mai à septembre de cette année, le chatbot a enregistré plus de 3 700 sessions de clavardage, soit environ 70 questions par jour, avec 1 % des demandes formulées en français.
Le second est un agent vocal interactif qui répond aux appels non urgents passés à la police de Winnipeg. Remplaçant le menu numérique, un robot décroche le téléphone et permet aux appelants d’exprimer leurs demandes pour être mis en relation avec le service approprié.
« Nous faisons appel à nos opérateurs du 911 pour répondre aux appels non urgents, explique Marceli Walczak, directeur de l’innovation et de la technologie pour la ville de Winnipeg. Mais le problème, c’est qu’une fois qu’ils prennent cet appel, ils sont occupés par cette situation non urgente et ne peuvent donc pas répondre aux appels urgents. »
Cet outil permet donc aux préposés aux appels de se concentrer principalement sur les lignes d’urgence.
La troisième initiative est un outil d’automatisation des factures, qui remplace le traitement manuel des factures par les employés municipaux et accélère les paiements.
Marceli Walczak affirme que cette initiative pourrait permettre à la Ville d’économiser plus de 700 000 $ sur cinq ans.
« Nous ne mettons personne à la porte, clarifie-t-il. Pour continuer à réaliser ces économies, lorsque ces postes seront vacants, nous ne les pourvoirons tout simplement pas. »
Une autre initiative administrative basée sur l’IA automatisera l’approbation des permis de construire et de conformité au zonage.
« Nous voulons réduire les délais d’attente, car les constructeurs doivent parfois attendre plus longtemps qu’ils ne le souhaiteraient pour obtenir leur permis. Le gouvernement fédéral nous encourage à construire davantage de logements abordables, nous essayons donc de faciliter au maximum cette démarche. »
Le cinquième projet en cours est un outil de surveillance routière utilisé par les travaux publics pour suivre les problèmes à traiter dans toute la ville.
À l’aide de caméras installées sur les véhicules municipaux, un logiciel d’IA examine les images des rues afin de détecter les graffitis, les dommages causés aux abribus, les nids-de-poule et plus encore.
Il peut aussi détecter quand un problème précédemment signalé a été résolu et clôturer automatiquement le ticket dans le système des travaux publics.
Cela permet non seulement d’alléger la charge administrative, mais aussi de suivre la rapidité avec laquelle les fissures dans les routes réapparaissent après avoir été comblées.
Le dernier projet d’IA qui sera testé par la Ville est l’adoption du logiciel Gov.AI.
Cet outil utilise les modèles d’IA générative d’OpenAI au service du personnel gouvernemental.
« Cette compagnie a conclu un contrat avec OpenAI stipulant qu’aucun de nos contenus passant par leur plateforme ne sera enregistré ou utilisé pour l’entraînement du modèle. »
Le modèle peut aussi détecter des motifs de texte automatiquement pour effacer des informations sensibles avant qu’elles ne soient envoyées au modèle afin qu’il fournisse une réponse.
« Cela permet à notre personnel de communiquer avec OpenAI en toute sécurité, sans risque de divulguer des informations confidentielles. OpenAI traite la requête, renvoie un résultat, puis détruit toutes les données envoyées. »
Considérations financières
Chaque projet s’est vu attribuer un budget de 75 000 $, pour un total de 450 000 $, et restera actif jusqu’à épuisement du budget.
Après ce délai, les projets devront faire l’objet d’une procédure d’appel d’offres standard et seront poursuivis, à condition qu’ils s’inscrivent dans le budget annuel de la Ville.
Jusqu’à présent, le projet d’automatisation des factures est le seul qui devrait permettre à la Ville de réaliser des économies importantes.
En revanche, l’outil de vérification des permis représenterait une mise à niveau coûteuse : selon Marceli Walczak, sa mise en œuvre pourrait « potentiellement coûter des millions $ ».
« Nous avons élaboré un plan d’affaires et devons demander un financement pour le concrétiser », explique Marceli Walczak.
Il ajoute que le premier financement pour la mise en œuvre de ce projet ne serait pas disponible avant 2028, ce qui donnerait à la Ville le temps de mettre en place d’autres règlements et règles en matière de logement et d’adopter l’outil avec les nouvelles réglementations en vigueur.
D’ici là, il espère également que de nouveaux concurrents se seront manifestés sur le marché et pourront proposer des tarifs plus avantageux.
Toutefois, le coût actuel s’élève à plus d’un demi-million $ par an.
Préoccupations éthiques
Marceli Walczak affirme que les systèmes d’IA de la Ville sont présentement soumis à plusieurs procédures d’assurance qualité, notamment à des mesures de précision intégrées qui évaluent leur performance.
Il ajoute que des contrôles seront mis en place et que des employés humains pourront vérifier le travail effectué par les systèmes d’IA.
Toutefois, ces mesures demeurent insuffisantes pour les experts en utilisation éthique des systèmes d’IA.
« Il n’existe actuellement aucune directive politique relative à l’utilisation de la prise de décision automatisée qui soit légiférée pour les administrations municipales », explique Helen Hayes, directrice du développement et chercheuse principale au Centre for Media, Technology, and Democracy.
Elle affirme que les municipalités qui utilisent des systèmes d’IA devraient s’inspirer de la Directive sur la prise de décisions automatisée, une politique que le gouvernement fédéral doit respecter, pour guider leurs principes d’utilisation interne.
Cela leur permettrait de s’assurer qu’elles respectent les quatre principes d’utilisation éthique de l’IA : l’évaluation de l’impact algorithmique, la transparence, l’assurance qualité, ainsi que les recours et les rapports.
Ces principes garantissent que les gouvernements sont non seulement conscients des risques potentiels et des erreurs commises par les systèmes automatisés, mais aussi qu’ils font preuve de proactivité et de transparence tout au long du processus.
Les recours et les rapports permettent aussi aux citoyens de contester une décision prise par un système automatisé afin que le gouvernement demeure responsable de ses systèmes.
Si les outils utilisés par la Ville pour vérifier la qualité du travail constituent un bon début, Helen Hayes estime qu’ils devraient idéalement être soumis à des contrôles effectués par un organisme indépendant.
Marceli Walczak précise que cela n’est pas prévu pour le moment.
« Un des éléments clés de l’auditabilité des systèmes d’IA est la cohérence, ou l’idée que le comportement du système au fil du temps est cohérent avec celui observé lors de l’audit », ajoute Helen Hayes.
« Mais ce comportement peut changer entre deux audits, car les systèmes intègrent des nouvelles informations au fil du temps. »
Enfin, elle affirme qu’il est important que les administrations municipales gardent à l’esprit le principe des « humains dans la boucle », qui consiste à conserver des employés humains pour superviser le travail effectué par les outils d’IA.
« On peut utiliser ces systèmes pour rendre un processus plus efficace, mais cela n’implique pas nécessairement une réduction de la main-d’œuvre. Cela rend simplement cette main-d’œuvre plus productive. »
Gord Delbridge, président de la section locale 500 du Syndicat canadien de la fonction publique (SCFP, le syndicat qui chapeaute les employés municipaux) a exprimé ses inquiétudes quant aux erreurs potentielles commises par les outils d’IA et à la frustration que pourraient ressentir les Winnipégois en utilisant certains nouveaux systèmes automatisés.
Il souligne également que la Ville n’avait pas contacté le syndicat pour lui présenter les changements avant de lancer les six initiatives.
« Nous sommes très préoccupés par le fait que la ville de Winnipeg pense pouvoir gagner en efficacité grâce à l’IA », lance-t-il.
« Le SCFP est un intervenant important dans la ville de Winnipeg et nous aimerions jouer un rôle dans le cadre d’une collaboration future. Le fait de ne même pas nous contacter pour discuter soulève beaucoup d’inquiétudes et constitue essentiellement une violation de la convention collective, qui stipule que s’ils souhaitent introduire des changements technologiques, ils sont tenus de nous consulter. Or, cela n’a pas été fait. »
Initiative de journalisme local Réseau – Presse – La Liberté
