L’IA appartient aux géants du numérique
Selon un texte d’opinion publié sur le site de la MIT Technology Review, si nous n’y prêtons pas attention, Microsoft, Amazon et d’autres grandes entreprises tireront parti de leur position pour définir le programme politique de l’intelligence artificielle (IA), comme ils l’ont fait dans de nombreux autres secteurs.
Dans le contexte du paradigme actuel de construction de systèmes d’IA à plus grande échelle, il n’y a pas d’IA sans les géants du numérique. À de très rares exceptions près, les jeunes pousses, les nouveaux entrants et même les laboratoires de recherche en IA dépendent de ces entreprises. Tous s’appuient sur l’infrastructure informatique de Microsoft, Amazon et Google pour former leurs systèmes, et sur le vaste marché grand public de ces mêmes entreprises pour déployer et vendre leurs produits d’IA.
En effet, de nombreuses entreprises en démarrage se contentent d’obtenir des licences et de renommer les modèles d’IA créés et vendus par ces géants de la technologie ou leurs entreprises partenaires. C’est parce que les grandes entreprises technologiques ont acquis des avantages considérables au cours de la dernière décennie. Grâce à la domination des plateformes et aux propriétés d’autorenforcement du modèle économique fondé sur la surveillance, elles possèdent et contrôlent les ingrédients nécessaires au développement et au déploiement de l’IA à grande échelle. Elles façonnent également les structures d’incitation dans le domaine de la recherche et du développement en IA, définissant le présent et l’avenir de la technologie.
La concentration du pouvoir n’est pas seulement un problème pour les marchés. Le fait de s’appuyer sur quelques acteurs du secteur privé qui ne sont aucunement redevables pour les infrastructures de base pose un problème pour la démocratie, la culture et l’action individuelle et collective. Sans intervention notable, le marché de l’IA ne fera que récompenser et consolider les mêmes entreprises qui ont récolté les bénéfices du modèle d’affaires fondé sur la surveillance invasive qui a alimenté l’Internet commercial, souvent aux dépens du public.
Nous avons besoin de mandats de transparence agressifs qui dissipent l’opacité autour de questions fondamentales telles que les données auxquelles les entreprises d’IA accèdent pour former leurs modèles. Nous avons également besoin de régimes de responsabilité qui imposent aux entreprises de démontrer qu’elles respectent les normes de base en matière de confidentialité, de sécurité et de partialité avant que leurs produits d’IA soient rendus publics. Et pour commencer à lutter contre la concentration, nous avons besoin d’une réglementation audacieuse qui force la séparation des activités entre les différentes couches de la pile d’IA et ne permet pas aux grandes entreprises technologiques d’exploiter leur domination dans les infrastructures pour consolider leur position sur le marché des modèles et des applications d’IA.
Selon un texte d’opinion publié sur le site de la MIT Technology Review, si nous n’y prêtons pas attention, Microsoft, Amazon et d’autres grandes entreprises tireront parti de leur position pour définir le programme politique de l’intelligence artificielle (IA), comme ils l’ont fait dans de nombreux autres secteurs.
Dans le contexte du paradigme actuel de construction de systèmes d’IA à plus grande échelle, il n’y a pas d’IA sans les géants du numérique. À de très rares exceptions près, les jeunes pousses, les nouveaux entrants et même les laboratoires de recherche en IA dépendent de ces entreprises. Tous s’appuient sur l’infrastructure informatique de Microsoft, Amazon et Google pour former leurs systèmes, et sur le vaste marché grand public de ces mêmes entreprises pour déployer et vendre leurs produits d’IA.
En effet, de nombreuses entreprises en démarrage se contentent d’obtenir des licences et de renommer les modèles d’IA créés et vendus par ces géants de la technologie ou leurs entreprises partenaires. C’est parce que les grandes entreprises technologiques ont acquis des avantages considérables au cours de la dernière décennie. Grâce à la domination des plateformes et aux propriétés d’autorenforcement du modèle économique fondé sur la surveillance, elles possèdent et contrôlent les ingrédients nécessaires au développement et au déploiement de l’IA à grande échelle. Elles façonnent également les structures d’incitation dans le domaine de la recherche et du développement en IA, définissant le présent et l’avenir de la technologie.
La concentration du pouvoir n’est pas seulement un problème pour les marchés. Le fait de s’appuyer sur quelques acteurs du secteur privé qui ne sont aucunement redevables pour les infrastructures de base pose un problème pour la démocratie, la culture et l’action individuelle et collective. Sans intervention notable, le marché de l’IA ne fera que récompenser et consolider les mêmes entreprises qui ont récolté les bénéfices du modèle d’affaires fondé sur la surveillance invasive qui a alimenté l’Internet commercial, souvent aux dépens du public.
Nous avons besoin de mandats de transparence agressifs qui dissipent l’opacité autour de questions fondamentales telles que les données auxquelles les entreprises d’IA accèdent pour former leurs modèles. Nous avons également besoin de régimes de responsabilité qui imposent aux entreprises de démontrer qu’elles respectent les normes de base en matière de confidentialité, de sécurité et de partialité avant que leurs produits d’IA soient rendus publics. Et pour commencer à lutter contre la concentration, nous avons besoin d’une réglementation audacieuse qui force la séparation des activités entre les différentes couches de la pile d’IA et ne permet pas aux grandes entreprises technologiques d’exploiter leur domination dans les infrastructures pour consolider leur position sur le marché des modèles et des applications d’IA.