L'importance de contrôler l'IA

Au croisement des applications d’intelligence artificielle (IA), les leaders de tous les secteurs et les investisseurs s’intéressent de près à l’influence que la gouvernance de l’IA peut avoir sur sa capacité à innover dans le futur.
AI Governance in 2019 – A Year in Review

Dans leur empressement à concevoir, développer et déployer des applications reposant sur l’IA, de nombreuses entreprises oublient la question de la gouvernance. Mais elles prennent progressivement conscience de l’importance d’une gouvernance adaptée : comme avec les problématiques de sécurité ou de respect de la vie privée, négliger la gouvernance de l’IA peut avoir de sérieuses répercussions financières ou impacter la réputation d’une entreprise.

Écrivant pour le WashingtonExec, Josh Elliot, Responsable des opérations chez Modzy, a ainsi noté : “Pour certains, la gouvernance est un obstacle, une forme de bureaucratie. Pour les employés découvrant de nouvelles technologies, cela peut sembler décourageant. Cependant, les experts dans le domaine de l’IA sont bien conscients qu’une gouvernance proactive est à la fois une source de protection pour l’entreprise, mais également d’innovation et d’optimisation des ressources.”

Gouvernance de l’IA – explication du concept

En résumé, le concept de gouvernance de l’IA se réfère à l’idée que les systèmes d’intelligence artificielle et les applications de machine learning doivent reposer sur une base juridique et un ensemble de politiques de contrôle, avec des pratiques et des résultats possibles qui sont mûrement réfléchis et implémentés de façon juste. Les individus doivent être informés s’ils sont suivis par un système d’IA ou si leurs données personnelles sont collectées ou utilisées pour être analysées (hors données anonymisées ne pouvant pas être rattachées à un individu). Avec la démocratisation des systèmes d’IA dans tous les secteurs (éducation, sécurité civile, santé, transport, économie, finance, etc.), la gouvernance de l’IA peut permettre d’établir des normes en matière de responsabilité et d’éthique à mesure que ces technologies continuent à évoluer.

Intégrer les processus de gouvernance aux systèmes d’IA

Comme c’est souvent le cas, par exemple en matière de sécurité des données et de protection des données personnelles, le moyen le plus efficace de gérer la gouvernance de l’IA est souvent d’intégrer ces processus le plus tôt possible, dès les premières étapes de conception du système. Les add-ons installés ultérieurement ont souvent du mal à répondre aux exigences réglementaires.

En développant un framework d’IA pour Nuxeo Insight, nos ingénieurs ont intégré des fonctionnalités avancées en matière de gouvernance.

Ainsi, Insight s’appuie par exemple sur l’architecture existante de la plateforme Nuxeo. Pour chaque ensemble de données d’entraînement utilisé, Insight en conserve une copie. Les bots de contenu des modèles individuels sont versionnés à chaque changement pour qu’il soit toujours possible de revenir à une version précédente.
Cela peut notamment s’avérer utile lorsqu’il est nécessaire de déterminer si des valeurs ont été générées par des humains ou par des machines. Insight suit les sources d’information appliquées aux ressources et contenus et peut identifier les éléments générés par les machines. Si des biais cognitifs sont détectés ou que des données sont corrompues dans un modèle de machine learning, revenir à une version antérieure peut permettre de résoudre le problème. Les résultats sont visibles dans un tableau de bord visuel qui offre un suivi clair des modèles et simplifie leur gestion.

Anticiper les futurs audits

Nuxeo Insight, notre service d’intelligence artificielle pour la gestion de contenu] a également été pensé de façon à anticiper les futures exigences des organismes gouvernementaux ou des régulateurs, avec notamment la possibilité de savoir si une valeur donnée a été générée par un robot. Cela a notamment permis de déceler des modèles présentant des biais cognitifs et de mettre un terme à l’utilisation des outils associés.

Si un auditeur ou un régulateur en fait la demande, Nuxeo Insight permet de déterminer directement les valeurs qui ont été créées par un modèle de machine learning ou par l’IA. L’outil peut également déterminer comment un modèle a été entraîné et recréer les circonstances de création et d’entraînement. Dans sa version actuelle, Insight permet déjà de répondre à des questions qui pourront être cruciales dans quelques années. Quelles informations ont été utilisées pour entraîner un modèle ? Comment le modèle a-t-il été défini ? Que se passe-t-il lorsqu’un modèle devient corrompu ? Comment administrons-nous ces opérations au quotidien ? En répondant directement à ces questions, Nuxeo Insight permet de répondre à tous les examens réglementaires actuels et futurs.

Découvrez ici enrichir vos données grâce à l’IA et ajouter des fonctionnalités d’IA et d’automatisation à votre plateforme de services de contenu.