Bienvenue

Nous commençons à peine à donner vie à ces lignes directrices. Nous vous encourageons à adopter ces lignes directrices le plus possible et de nous transmettre vos commentaires.

Vous pouvez ajouter vos commentaires directement à l'un des fichiers sur GitHub ou envoyez-nous un courriel à

Les lignes directrices «alpha» sur la transparence

Ce guide présente 8 points qui contribuent à réduire les risques et à maximiser les avantages liés à l’utilisation de technologies axées sur les données, dans le cadre de processus, programmes et services gouvernementaux, grâce à la transparence.

1. Identifier les décisions fondées sur des données

Les petites et grandes décisions sont fondées sur des données, grâce à des méthodes et technologies de plus en plus sophistiquées. Il peut s’avérer difficile d’identifier ces technologies et de les examiner indépendamment des processus et systèmes qu’elles prennent en charge ou appuient. Elles englobent des éléments comme les algorithmes, les modèles informatiques, l’apprentissage automatique et d’autres que nous appelons parfois, ou qui font partie de l’intelligence artificielle (IA).

La compréhension des technologies actuelles axées sur les données et de la façon dont elles pourraient évoluer à l’avenir est primordiale pour une véritable transparence.

Aujourd’hui, ce sont des technologies émergentes permettant d’automatiser les différentes étapes et les différents processus susceptibles d’être complètement informatisés un jour. Cette conception des technologies axées sur les données englobe tous les outils et toutes les approches visant à automatiser ou normaliser l’intervention humaine conventionnelle dans le cadre des travaux gouvernementaux.

Pourquoi cela importe-t-il?

Pour pouvoir protéger les droits, appliquer les principes et favoriser un discours constructif, il est nécessaire de parvenir à une compréhension commune des éléments et d’utiliser les données afin de justifier les décisions prises dans le cadre de processus, programmes et services gouvernementaux.

Des listes de vérification et arbres décisionnels à la notation pondérée et la modélisation prédictive, nous utilisons plusieurs outils pour assurer une cohérence et un raisonnement justifiable dans nos projets, programmes et services. Chacun de ces éléments nécessite une transparence en vue de favoriser la formation, le perfectionnement et l’audit.

Comment appliquer cette ligne directrice

Identifier les éléments du document qui s’inspirent des données pour orienter ou influencer des décisions, notamment :

  • Outils utilisés pour une application cohérente des critères et règles
    • Listes de vérification, rubriques de notation, calculateurs de risque/note
  • Données utilisées pour illustrer l’application des critères ou règles
    • Données brutes utilisées pour aider le personnel ou les machines à exécuter des tâches
  • Modèles logiques utilisés pour illustrer l’application des critères ou règles
    • Algorithmes, modèles informatiques ou progiciels utilisés pour analyser des données en vue de déterminer les tendances ou les voies optimales

S’assurer que tous les éléments sont inclus dans l’inventaire de données, avec des métadonnées complètes et à jour.

2. Garder les personnes à l’esprit et les tenir au courant

Être conscient de ceux qui profiteront le plus et ceux qui seront le plus affectés à la fois directement et indirectement par l’utilisation de technologies axées sur les données. Les activités de développement allant de la conception à la mise en œuvre doivent refléter les nombreuses perspectives afin d’évaluer les risques potentiels et apparents et d’y remédier.

Les personnes ont le droit de penser et d’agir pour elles-mêmes. Le gouvernement ne doit pas limiter la capacité des personnes à prendre des décisions importantes pour elles-mêmes, leurs personnes à charge ou concernant leurs moyens de subsistance.

Lorsque le gouvernement prend des décisions, cela doit se faire de concert avec les personnes/intervenants, plutôt qu’en leur nom, afin de garantir des résultats plus pratiques, appropriés et fiables.

Pourquoi cela importe-t-il?

L’utilisation de technologies axées sur les données, à l’instar de l’IA, peut avoir un impact exponentiel sur des groupes de personnes. Les biais existants peuvent être amplifiés, tandis que la reddition de comptes peut diminuer si les potentiels impacts ne sont pas explorés.

Lorsque l’importance des personnes est minimisée dans le cadre d’un processus, d’un programme ou d’un service, le risque qu’elles soient affectées par ce processus, programme ou service n’est pas minimisé. L’implication des personnes indiquées en temps opportun peut faire en sorte que les protections soient appropriées et pratiques.

Les services et programmes gouvernementaux peuvent être essentiels à l’existence des personnes. Les entreprises et les collectivités appuyées par le gouvernement doivent créer des conditions propices à l’amélioration des résultats pour toutes les parties. Les décisions doivent être prises de façon transparente, équitable et idéalement collaborative.

Comment appliquer cette ligne directrice

Pendant toutes les étapes de développement, d’utilisation et de gestion des nouvelles technologies ou sources de données, tenir compte des différents auditoires qui doivent être impliqués, informés ou consultés.

  • Créer une liste exhaustive des personnes concernées par les données, l’outil, le système ou l’IA, leurs rôles, motivations et potentiels impacts
  • Utiliser des personnages ou d’autres outils afin de mettre en place des canaux de communication à chaque étape du développement, reflétant les besoins et attentes
  • Effectuer une recherche utilisateur lorsque possible
  • Lors de l’élaboration d’outils, de systèmes ou d’algorithmes, donner la possibilité à toutes les personnes concernées par la décision d’émettre des commentaires et de collaborer
  • Donner l’accès aux outils utilisés pour le compte de personnes, d’entreprises ou de collectivités, notamment les évaluations de risque. Par ailleurs, favoriser les discussions au sujet des critères d’évaluation ou de la formule de notation afin de promouvoir l’utilisation collaborative de ce type d’outils entre le gouvernement et les clients/demandeurs/etc.

3. Aviser le public et fournir des canaux de communication clairs

Respecter le droit du public de savoir quand et comment une décision ou un processus renforcé par des données peut avoir un impact sur leur vie. Lors de l’acquisition ou de l’utilisation de technologies telles que l’IA, qui affectent considérablement les individus et les communautés, un avis public et clair doit être fourni en temps opportun.

Cet avis doit être accessible à un vaste public et souligner le but et les répercussions potentielles d’une technologie comme l’IA, ainsi que définir des canaux clairs pour les autres communications.

La technologie agit souvent comme une couche invisible ou une « boîte noire ». Par conséquent, des efforts doivent être déployés en vue d’offrir différentes perspectives pour façonner et orienter ces éléments masqués.

Pour obtenir plus d’informations, formuler des commentaires ou proposer des modifications, des lignes de communication claires doivent être accessibles et promues pendant les multiples étapes de développement et d’utilisation de technologies axées sur les données.

Il est recommandé de solliciter activement l’avis des personnes dont proviennent les données connexes, qui conçoivent les éléments d’IA ou qui sont affectées par les potentielles répercussions, afin de s’assurer que les technologies axées sur les données sont conçues et mises en œuvre de façon optimale, dans l’intérêt collectif.

Pourquoi cela importe-t-il?

Les éléments d’IA passent souvent inaperçus dans le cadre d’un processus, programme ou service. Pour que les gens croient que l’utilisation de l’IA est sécurisée et appropriée, ils doivent d’abord être conscients de son existence.

En fournissant des notions de base sur la façon dont les données et la technologie sont utilisées, il est possible d’atteindre un niveau commun de connaissances sur la technologie numérique et les données, et de l’accroître, ce qui augmentera la capacité de la société à faire confiance, adopter et concevoir des technologies ayant un impact sur tout le monde.

Des procédures appropriées peuvent permettre de remédier aux biais, de corriger et d’empêcher d’autres effets négatifs, et d’émettre des recommandations en vue d’une amélioration.

Comment appliquer cette ligne directrice

Rédiger un avis dans un langage simple et le rendre disponible par le biais de canaux familiers. Les renseignements doivent, au minimum, permettre aux personnes de répondre aux questions suivantes :

  • Comment dois-je appeler cela?
  • Pourquoi le gouvernement l’utilise-t-il?
  • En quoi cela ajoute-t-il de la valeur ou améliore-t-il l’efficacité du processus, programme ou service?
  • Dans quelle mesure cela influence-t-il la décision ou le résultat?
  • Quelles règles le gouvernement doit-il respecter lorsqu’il y recourt ?
  • Dans quelle mesure cela peut-il m’affecter? Ma communauté? D’autres personnes ou communautés? L’environnement?

Mettre en place des canaux de communication afin de :

  • Solliciter les commentaires du public, en vue de clarifier des préoccupations et de répondre à des questions en suspens avant et pendant la mise en œuvre de l’IA ou d’une autre technologie recourant aux données pour améliorer les résultats.
  • Veiller à ce que le public ait véritablement l’occasion de réagir, et le cas échéant, de contester l’utilisation de la technologie, les potentiels résultats, voire l’approche en matière de reddition de comptes

4. Évaluer les attentes et les résultats

Plusieurs administrations procèdent à des essais bêta dans le cadre d’évaluations d’impact en vue de favoriser l’utilisation sûre et responsable de l’IA et des données. Ces outils peuvent aider à exprimer des intentions, des attentes et à indiquer des résultats. Au-delà des spécifications techniques, ils ajoutent une dimension supplémentaire à l’évaluation et l’atténuation des risques.

Les éléments et l’utilisation de l’IA varient en fonction des secteurs, du temps et des administrations. La comparaison des résultats d’évaluation peut permettre de situer les éléments technologiques et leur utilisation dans un contexte afin d’améliorer leur évaluation, comparaison et perception.

Pourquoi cela importe-t-il?

Les évaluations peuvent accroître l’expertise interne et la capacité à évaluer l’IA créée ou procurée, de telle sorte que les questions susceptibles de susciter des préoccupations puissent être anticipées, notamment les effets disparates ou les violations de procédures régulières.

Comment appliquer cette ligne directrice

Effectuer des évaluations d’impact et des auto-évaluations appropriées et communiquer les résultats accompagnés de résumés, en langage clair. Réaliser également des évaluations régulières faisant suite à la mise en œuvre, en vue de déterminer l’impact réel et les résultats.

En fonction des éléments technologiques utilisés dans le cadre du processus, programme ou service, les potentiels outils d’évaluation peuvent inclure :

5. Permettre un accès véritable

L’IA ainsi que d’autres technologies axées sur les données sont souvent complexes et/ou il peut s’avérer nécessaire de réduire l’accès des outils propriétaires aux éléments techniques. Très peu de personnes peuvent disposer des compétences, des ressources ou détenir des rôles permettant d’analyser et de comprendre les éléments techniques inhérents à l’IA, l’outil, l’algorithme ou au système; ce qui réduit l’accessibilité à ces éléments.

Les entreprises peuvent souhaiter protéger leurs outils ou systèmes propriétaires contre la reproduction ou l’adaptation par des concurrents, tandis que les gouvernements peuvent souhaiter empêcher que des programmes ou services publics soient utilisés comme des jeux. L’accès nécessaire pour protéger ces intérêts doit être limité, mais doit permettre d’effectuer une surveillance et de faire rapport.

Pourquoi cela importe-t-il?

Pour permettre la reddition de compte quant au modèle informatique, les chercheurs et vérificateurs externes doivent à tout moment avoir la possibilité d’examiner, de vérifier et d’évaluer ces systèmes à l’aide de méthodes qui leur permettent d’identifier et de détecter des problèmes.

Comment appliquer cette ligne directrice

Élaborer un processus permettant d’obtenir un accès véritable et comprenant les éléments suivants :

  • Critères pour l’octroi d’accès
  • Mesures de sécurité pour garantir un accès sécurisé aux données sensibles et ressources d’IA
  • Publication ou avis public concernant les résultats d’audit ou de travaux de recherche

6. Décrire les données connexes

Aucune donnée n’est parfaite. Au fur et à mesure que les machines sont formées, les données connexes présentent plus d’imperfections. Il est important de comprendre ces imperfections afin de déterminer les forces et les faiblesses à partir des résultats.

Les données utilisées pour former les machines doivent être évaluées de façon permanente en vue de détecter les biais et des mesures doivent être prises afin de signaler et de réduire les différents biais pendant tout le cycle d’utilisation.

Pourquoi cela importe-t-il?

On s’attendait à ce que les machines soient exemptes de biais humains, mais on s’est rendu compte que ce n’est pas le cas. Les technologies comme l’IA, dans lesquelles l’intervention humaine est réduite, peuvent renforcer la crédibilité des biais et aggraver leur effet néfaste sur les processus, programmes et services mis à la disposition des personnes les plus vulnérables.

Comment appliquer cette ligne directrice

Identifier et décrire :

  • Quelles données sont liées à cet outil, ce résultat ou ce processus et dans quelle mesure?
  • Comment ont été recueillies ces données?
  • Quels biais existent au sein des données (réels et éventuels)?

7. Renforcer les règles, exigences et la reddition de comptes

La transparence doit, à l’échelle locale et mondiale, favoriser le système de gestion de l’IA, des systèmes décisionnels automatisés et/ou de l’utilisation des données. Les métadonnées et l’accessibilité doivent refléter les exigences et appuyer la reddition de comptes et/ou les activités d’évaluation afin de mesurer, d’évaluer et de faire rapport sur l’utilisation de la technologie axée sur les données, dans un contexte.

Pourquoi cela importe-t-il?

Pour protéger les droits d’accès et garantir la sécurité des données, il convient de poser une fondation de vérité favorisant le droit et la justice. La transparence permet à l’IA et aux spécialistes en matière de données de contribuer à cette fondation, grâce à un langage cohérent, à la compréhension et à des attentes. Elle permet également de favoriser une meilleure compréhension des avantages et des risques qui façonnent les pratiques et les principes admis, en vue d’orienter l’IA future, ainsi que l’utilisation de la technologie et les attentes.

En outre, elle permet aux spécialistes en matière d’IA de démontrer facilement la conformité à tous les outils ou cadres de gouvernance applicables.

Comment appliquer cette ligne directrice

Documenter dans quelle mesure l’utilisation de technologies axées sur les données dans le cadre de processus, programmes ou services s’harmonise avec les principes éthiques, les cadres de gouvernance et les normes de l’industrie, notamment :

8. Mise à jour régulière

Les technologies axées sur les données, particulièrement l’apprentissage machine, sont de nature dynamique; elles évoluent et s’améliorent. Par conséquent, les efforts de transparence doivent être permanents et doivent refléter l’itération la plus récente du produit, de l’outil, de l’algorithme ou de l’intelligence.

Pourquoi cela importe-t-il?

Le changement sans intervention humaine nécessite toutefois une évaluation constante par l’humain, aux fins de surveillance et d’éventuelle reddition de comptes.

Comment appliquer cette ligne directrice

Réexaminer et renouveler régulièrement les lignes directrices susmentionnées.

Les principes «beta» pour une utilisation éthique

Les six principes « bêta » pour une utilisation éthique visent à faire en sorte que l’utilisation des technologies renforcées par les données dans le cadre des processus, des programmes et des services gouvernementaux soit conforme aux considérations et aux valeurs morales.

L'équipe de l’intelligence artificielle (IA) de confiance au sein de Services numériques de l'Ontario a entrepris de vastes analyses par compétence des principes éthiques partout dans le monde, en particulier en Nouvelle-Zélande, aux États-Unis, dans les pays de l’Union européenne et au sein d’importants consortiums de recherche.

Les principes « bêta » de l’Ontario se greffent aux principes du gouvernement du Canada en comblant une lacune concernant la spécificité. Les principes de l’Ontario appuient notre écosystème économique diversifié sans être incompatibles avec les pratiques exemplaires, les principes et les cadres en place. Cette approche est fondée sur des normes, des principes et des outils connus et s’y conforme afin d’apporter des précisions plutôt que de créer des obstacles à une innovation sécuritaire, responsable et avantageuse.

Nous en sommes aux premières étapes de la concrétisation de ces principes. Nous vous incitons à adopter le plus grand nombre possible de ces principes et à nous faire part de vos commentaires.

Vous pouvez nous envoyer un courriel à dawn.edmonds@ontario.ca pour obtenir de plus amples renseignements.

Consultez aussi les Lignes directrices sur la transparence (GitHub).

Archivée - Les principes «alpha» pour une utilisation éthique

Les principes « alpha » ne sont plus d'actualité et sont disponible à des fins d’archivage et de recherche seulement. Lire les principes « bêta ».

Les principes « alpha » pour une utilisation éthique énoncent six points visant à harmoniser l’utilisation des technologies axées sur les données au sein des processus, programmes et services gouvernementaux avec les considérations et valeurs éthiques

Ce que nous avons entendu

Consultez les sommaires des commentaires sur les lignes directrices «alpha» sur la transparence et les principes «alpha» pour une utilisation éthique. N'hésitez pas à ajouter aux deux et si vous êtes intéressé, voir le Mémorandum de la Commission du droit de l'Ontario sur ces lignes directrices.