L'intelligence artificielle (IA) est déjà devenue une autre bataille dans les guerres politiques et culturelles qui secouent les États-Unis et d'autres pays. Alors même que les géants de la technologie se bousculent pour bénéficier du boom commercial provoqué par la sortie de ChatGPT, ils s'alarment quant à l'utilisation – et l'abus potentiel – de l'intelligence artificielle, soutient une analyse du New York Times.

La capacité de la technologie à créer du contenu qui épouse des points de vue idéologiques prédéterminés, ou qui pousse à la désinformation, met en évidence un danger que certains dirigeants ont commencé à reconnaître : qu'une cacophonie informationnelle puisse émerger de technologies d'intelligence artificielle générative concurrentes avec différentes versions de la réalité, compromettant la viabilité de l'intelligence artificielle en tant qu'outil de la vie quotidienne et érodant davantage la confiance dans la société. Selon un membre du conseil d'administration de l'Allen Institute for Artificial Intelligence : « Ce n'est pas une menace hypothétique. Il s'agit d'une menace imminente ».

La richesse des données sous-jacentes de ChatGPT peut donner la fausse impression qu'il s'agit d'une sommation impartiale de l'ensemble d'Internet. La version publiée l'année dernière a été formée à partir de 496 milliards de « jetons » – des morceaux de mots, essentiellement – provenant de sites Web, d'articles de blogues, de livres, d'articles de Wikipédia et plus encore. Les préjugés, cependant, pourraient s'infiltrer dans les grands modèles de langage à n'importe quelle étape, poussant ainsi le modèle et son orientation politique dans une direction donnée, consciemment ou non.

Des articles de recherche, des enquêtes et des actions en justice ont suggéré que les outils alimentés par l'intelligence artificielle avaient un préjugé sexiste qui censure les images du corps des femmes, crée des disparités dans la prestation des soins de santé et discrimine les demandeurs d'emploi plus âgés, les Noirs, les personnes handicapées ou même celles portant des lunettes.

« Le biais n'est ni nouveau ni unique à l'intelligence artificielle », a déclaré l'Institut national des normes et de la technologie, qui fait partie du ministère du Commerce des États-Unis, dans un rapport publié l'année dernière, concluant qu'il n'était « pas possible d'atteindre un risque zéro de biais dans un système d'IA ».

La Chine a interdit l'utilisation d'un outil similaire à ChatGPT par crainte qu'il expose les citoyens à des idées ou des faits contraires à ceux du Parti communiste.

Dans une batterie de tests, la société OpenAI a constaté que GPT-4 obtenait de meilleurs résultats que les versions précédentes quant à sa capacité à produire un contenu véridique. Dans un article publié peu de temps après ses débuts, OpenAI a averti que l'adoption rapide des technologies d'intelligence artificielle génératives pourrait « avoir un potentiel encore plus grand pour renforcer des idéologies entières, des visions du monde, des vérités et des contrevérités, et les consolider ».