Selon un article du Wall Street Journal, la difficulté de garantir que les algorithmes d’intelligence artificielle (IA) sont sûrs, impartiaux et précis pousse certaines entreprises vers une technologie autrefois considérée comme transformatrice, mais qui n’a pas réussi à s’imposer dans le monde des affaires : la chaîne de blocs.

Connue pour être le fondement du Bitcoin et d’autres cryptomonnaies, la chaîne de blocs est une structure de données qui permet de créer un registre numérique de transactions et de le partager sur un réseau d’ordinateurs. Elle utilise la cryptographie pour permettre à chaque participant du réseau d’ajouter au registre de manière sécurisée sans avoir besoin d’une autorité centrale. Une fois qu’une transaction est effectuée, son enregistrement dans la chaîne devient immuable.

Dans cet esprit, les fournisseurs de technologie FICO et la jeune pousse Casper Labs, axée sur la chaîne de blocs, affirment qu’ils appliquent la technologie pour suivre le processus de création et de formation des algorithmes d’IA. Il s’agit d’une application opportune et urgente, disent-ils, alors que l’IA prolifère dans tous les secteurs d’activité et que les entreprises découvrent qu’elles ne peuvent pas toujours faire confiance à ses résultats. Pendant ce temps, les régulateurs gouvernementaux exercent davantage de pression sur les entreprises pour qu’elles augmentent la transparence et l’auditabilité des algorithmes.

Les utilisations commerciales précédentes de la chaîne de blocs, notamment le suivi de la chaîne d’approvisionnement, n’ont pas réussi à s’imposer sur le marché.

La chaîne de blocs peut être utilisée pour suivre précisément les données sur lesquelles un algorithme a été formé, quand et par qui il a été formé, ainsi que les autres mesures prises pour examiner et vérifier ces données, affirme le directeur des analyses de FICO. Les entreprises qui créent des modèles d’IA essaient généralement de suivre cette trace de données, mais l’utilisation de la chaîne de blocs permettrait d’obtenir plus facilement des enregistrements partagés, cohérents et fiables. Ainsi, la chaîne de blocs n’empêchera pas les algorithmes de dérailler ou de faire preuve de partis pris, mais elle offrirait un enregistrement vérifiable qui pourrait montrer pourquoi.

Toutefois, certains directeurs des systèmes d’information demeurent sceptiques. « Nous sommes tous favorables à une meilleure gouvernance de l’IA, mais utiliser la chaîne de blocs, c’est un peu comme un marteau cherchant un clou », déclare le directeur de Fleetcor Technologies. La chaîne de blocs pourrait contribuer à accroître la confiance dans les systèmes d’IA, selon lui, mais seulement si elle complétait d’autres outils déjà utilisés qui aident les concepteurs à comprendre et à interpréter les prédictions des modèles d’IA.

À l’heure actuelle, l’outil de FICO est utilisé en interne, mais il est prévu de le déployer auprès des clients plus tard cette année.

Pour sa part, Casper Labs travaille avec IBM pour développer son propre outil qui offrira un « contrôle de versions » : il enregistre les données et les paramètres qui influencent un certain modèle à un moment donné, et si les entreprises commencent à détecter des biais ou des inexactitudes dans leurs modèles, elles peuvent revenir à une version antérieure, selon le directeur général.