Les technologies les plus avancées de l’intelligence artificielle suscitent de nombreuses inquiétudes pour le développement de l’être humain
TechRadar rapporte les propos très prudents de Geoffrey Hinton – le lauréat du prix Turing et maintenant ancien employé de Google – à propos des implications insoupçonnées de l'intelligence artificielle (IA). Il s'agirait d'un revirement remarquable de celui qui a été un pionnier dans l'étude des réseaux de neurones et qui, il y a quelques années à peine, se montrait bien plus enthousiaste. En effet, interviewé par le New York Times, Hinton aurait exprimé ses inquiétudes quant à l'expansion rapide de l'IA et à l'inévitabilité du fait que cette technologie soit utilisée par des acteurs malveillants qui pourraient faire « dérailler l'humanité ».
Tout d'abord, un des risques principaux est la pression pour obtenir un avantage concurrentiel dans un marché très compétitif. Cela pousserait les gros joueurs, malgré leurs déclarations rassurantes, à se lancer dans le développement hâtif des systèmes intelligents au détriment d'une approche plus prudente et séquentielle.
Un autre risque est l'érosion de la « vérité » qui découlerait de la prolifération prodigieuse de faux contenus en ligne rendus crédibles par l'IA. Selon Hinton, à un moment où cette technologie est capable de simuler la voix des musiciens, de générer des images d'actualités ou même des vidéos, il ne sera simplement plus possible de faire complètement confiance à ce que nous verrons ou entendrons.
En outre, Hinton s'inquiète des effets négatifs de l'IA sur le marché du travail, étant donné que cette technologie est de plus en plus capable de prendre en charge des tâches qui étaient auparavant accomplies exclusivement par les êtres humains. Apparemment, on utilise déjà Bard et ChatGPT pour écrire des présentations, des propositions et même du code informatique. Il y aurait même des romans générés par l'IA en vente sur Amazon.
Cela soulève les craintes des travailleurs de la créativité, comme les membres du syndicat des scénaristes aux États-Unis (Writers Guild of America). Apparemment, ceux-ci s'inquiéteraient de la perte de leur pouvoir de négociation des contrats face à la possibilité que les studios décident de sous-traiter leur travail à l'IA. TechRadar précise cependant qu'il n'y a pas de preuve de licenciements généralisés directement liés à l'IA. Cependant, le perfectionnement des outils intelligents pourrait encourager certains employeurs à repenser l'ampleur de leurs effectifs.
Geoffrey Hinton souligne également le risque des comportements imprévus résultant de la capacité d'autoapprentissage de certains systèmes intelligents. En effet, l'IA propulsée par des réseaux de neurones et l'apprentissage en profondeur est capable d'utiliser de vastes étendues de données et de tirer des leçons que les êtres humains n'ont peut-être jamais anticipées. Éventuellement, selon Hinton, un système intelligent pourrait non seulement se programmer lui-même, mais encore, exécuter sa propre programmation. Cela mènerait à l'autodétermination et à des comportements complètement imprévus.
TechRadar rapporte les propos très prudents de Geoffrey Hinton – le lauréat du prix Turing et maintenant ancien employé de Google – à propos des implications insoupçonnées de l'intelligence artificielle (IA). Il s'agirait d'un revirement remarquable de celui qui a été un pionnier dans l'étude des réseaux de neurones et qui, il y a quelques années à peine, se montrait bien plus enthousiaste. En effet, interviewé par le New York Times, Hinton aurait exprimé ses inquiétudes quant à l'expansion rapide de l'IA et à l'inévitabilité du fait que cette technologie soit utilisée par des acteurs malveillants qui pourraient faire « dérailler l'humanité ».
Tout d'abord, un des risques principaux est la pression pour obtenir un avantage concurrentiel dans un marché très compétitif. Cela pousserait les gros joueurs, malgré leurs déclarations rassurantes, à se lancer dans le développement hâtif des systèmes intelligents au détriment d'une approche plus prudente et séquentielle.
Un autre risque est l'érosion de la « vérité » qui découlerait de la prolifération prodigieuse de faux contenus en ligne rendus crédibles par l'IA. Selon Hinton, à un moment où cette technologie est capable de simuler la voix des musiciens, de générer des images d'actualités ou même des vidéos, il ne sera simplement plus possible de faire complètement confiance à ce que nous verrons ou entendrons.
En outre, Hinton s'inquiète des effets négatifs de l'IA sur le marché du travail, étant donné que cette technologie est de plus en plus capable de prendre en charge des tâches qui étaient auparavant accomplies exclusivement par les êtres humains. Apparemment, on utilise déjà Bard et ChatGPT pour écrire des présentations, des propositions et même du code informatique. Il y aurait même des romans générés par l'IA en vente sur Amazon.
Cela soulève les craintes des travailleurs de la créativité, comme les membres du syndicat des scénaristes aux États-Unis (Writers Guild of America). Apparemment, ceux-ci s'inquiéteraient de la perte de leur pouvoir de négociation des contrats face à la possibilité que les studios décident de sous-traiter leur travail à l'IA. TechRadar précise cependant qu'il n'y a pas de preuve de licenciements généralisés directement liés à l'IA. Cependant, le perfectionnement des outils intelligents pourrait encourager certains employeurs à repenser l'ampleur de leurs effectifs.
Geoffrey Hinton souligne également le risque des comportements imprévus résultant de la capacité d'autoapprentissage de certains systèmes intelligents. En effet, l'IA propulsée par des réseaux de neurones et l'apprentissage en profondeur est capable d'utiliser de vastes étendues de données et de tirer des leçons que les êtres humains n'ont peut-être jamais anticipées. Éventuellement, selon Hinton, un système intelligent pourrait non seulement se programmer lui-même, mais encore, exécuter sa propre programmation. Cela mènerait à l'autodétermination et à des comportements complètement imprévus.