Le risque de « capture industrielle » plane sur la révolution de l’IA
Alors que les systèmes avancés de génération de langage et les robots conversationnels ont fait la une des journaux, les sociétés privées d'intelligence artificielle (IA) ont tranquillement consolidé leur pouvoir. Les développements récents signifient qu'une poignée d'individus et d'entreprises contrôlent désormais une grande partie des ressources et des connaissances du secteur – et façonneront finalement son impact sur notre avenir collectif, soutient un article du Financial Times.
Le phénomène, que les experts de l'IA appellent « capture industrielle », a été quantifié dans un article publié par des chercheurs du Massachusetts Institute of Technology (MIT) dans la revue Science au début du mois de mars, appelant les décideurs politiques à y prêter une plus grande attention. L'IA générative – la technologie sous-jacente à ChatGPT – est intégrée à des logiciels utilisés par des milliards de personnes, tels que Microsoft Office, Google Docs et Gmail. Et les organisations, des cabinets d'avocats aux médias en passant par les établissements d'enseignement, sont bouleversées par son introduction.
La recherche du MIT a révélé que près de 70 % des titulaires d'un doctorat en IA étaient allés travailler pour des entreprises en 2020, contre 21 % en 2004. De même, le nombre de professeurs embauchés dans des entreprises d'IA a été multiplié par huit depuis 2006, soit une hausse bien plus rapide que la hausse globale du nombre de professeurs de recherche en informatique. « Beaucoup de chercheurs à qui nous avons parlé avaient abandonné certaines trajectoires de recherche parce qu'ils estimaient qu'ils ne pouvaient pas rivaliser avec l'industrie », a déclaré l'auteur de l'article scientifique. Selon ce dernier, les universitaires n'étaient pas en mesure de créer de grands modèles de langage comme GPT-4. La technique nécessite d'énormes quantités de données et de puissance de calcul auxquelles seules les grandes entreprises technologiques comme Google, Microsoft et Amazon ont accès. Il a d'ailleurs constaté que la part des entreprises dans les plus grands modèles d'IA était passée de 11 % en 2010 à 96 % en 2021.
Un manque d'accès signifie que les chercheurs ne peuvent pas reproduire les modèles construits dans les laboratoires d'entreprise et ne peuvent donc ni les sonder ni les auditer facilement pour détecter les dommages et les biais potentiels. La recherche montre également une disparité importante entre les investissements publics et privés dans la technologie de l'IA. En 2021, les agences gouvernementales américaines non liées à la défense ont alloué 1,5 milliard de dollars à l'IA. Pendant ce temps, le secteur privé a investi plus de 340 milliards de dollars dans l'IA en 2021.
Les données d'investissement de PitchBook montrent que la majorité de l'argent pour l'IA générative au cours des six dernières années est allée à des jeunes pousses comme Anthropic, Inflection, Character.ai et Adept AI, et à des efforts plus importants comme OpenAI, qui construisent leurs propres modèles.
Les conséquences de ce changement sont multiples. Cela signifie que les solutions de rechange publiques à la technologie d'IA d'entreprise se font de plus en plus rares. Et les nouvelles applications sont susceptibles d'être développées dans un intérêt commercial plutôt que dans l'intérêt du public, ont souligné plusieurs chercheurs.
Alors que les systèmes avancés de génération de langage et les robots conversationnels ont fait la une des journaux, les sociétés privées d'intelligence artificielle (IA) ont tranquillement consolidé leur pouvoir. Les développements récents signifient qu'une poignée d'individus et d'entreprises contrôlent désormais une grande partie des ressources et des connaissances du secteur – et façonneront finalement son impact sur notre avenir collectif, soutient un article du Financial Times.
Le phénomène, que les experts de l'IA appellent « capture industrielle », a été quantifié dans un article publié par des chercheurs du Massachusetts Institute of Technology (MIT) dans la revue Science au début du mois de mars, appelant les décideurs politiques à y prêter une plus grande attention. L'IA générative – la technologie sous-jacente à ChatGPT – est intégrée à des logiciels utilisés par des milliards de personnes, tels que Microsoft Office, Google Docs et Gmail. Et les organisations, des cabinets d'avocats aux médias en passant par les établissements d'enseignement, sont bouleversées par son introduction.
La recherche du MIT a révélé que près de 70 % des titulaires d'un doctorat en IA étaient allés travailler pour des entreprises en 2020, contre 21 % en 2004. De même, le nombre de professeurs embauchés dans des entreprises d'IA a été multiplié par huit depuis 2006, soit une hausse bien plus rapide que la hausse globale du nombre de professeurs de recherche en informatique. « Beaucoup de chercheurs à qui nous avons parlé avaient abandonné certaines trajectoires de recherche parce qu'ils estimaient qu'ils ne pouvaient pas rivaliser avec l'industrie », a déclaré l'auteur de l'article scientifique. Selon ce dernier, les universitaires n'étaient pas en mesure de créer de grands modèles de langage comme GPT-4. La technique nécessite d'énormes quantités de données et de puissance de calcul auxquelles seules les grandes entreprises technologiques comme Google, Microsoft et Amazon ont accès. Il a d'ailleurs constaté que la part des entreprises dans les plus grands modèles d'IA était passée de 11 % en 2010 à 96 % en 2021.
Un manque d'accès signifie que les chercheurs ne peuvent pas reproduire les modèles construits dans les laboratoires d'entreprise et ne peuvent donc ni les sonder ni les auditer facilement pour détecter les dommages et les biais potentiels. La recherche montre également une disparité importante entre les investissements publics et privés dans la technologie de l'IA. En 2021, les agences gouvernementales américaines non liées à la défense ont alloué 1,5 milliard de dollars à l'IA. Pendant ce temps, le secteur privé a investi plus de 340 milliards de dollars dans l'IA en 2021.
Les données d'investissement de PitchBook montrent que la majorité de l'argent pour l'IA générative au cours des six dernières années est allée à des jeunes pousses comme Anthropic, Inflection, Character.ai et Adept AI, et à des efforts plus importants comme OpenAI, qui construisent leurs propres modèles.
Les conséquences de ce changement sont multiples. Cela signifie que les solutions de rechange publiques à la technologie d'IA d'entreprise se font de plus en plus rares. Et les nouvelles applications sont susceptibles d'être développées dans un intérêt commercial plutôt que dans l'intérêt du public, ont souligné plusieurs chercheurs.