Malgré les formidables avantages de l’intelligence artificielle (IA), ZDNET signale que cette technologie comporte également son lot de défis. En effet, les experts soulignent que l’IA générative, comme ChatGPT, a révolutionné notre façon d’interagir avec les technologies intelligentes et de les percevoir. Malgré cela, les risques perçus seraient si sérieux que certains pays ont pensé à la réglementer ou même à l’interdire complètement.

Dans le détail, ZDNET précise 5 grands risques qu’il faudrait impérativement prendre en considération pour tirer profit du potentiel de l’IA générative sans avoir à subir des conséquences négatives, notamment les problèmes associés à la confidentialité des données, aux droits d’auteur et à la cybersécurité.

1. Les hallucinations, qui font référence aux erreurs que les modèles d’IA sont susceptibles de commettre en raison de données d’apprentissage lacunaires. Cette faiblesse pourrait produire des réponses biaisées ou même factuellement incorrectes, qui de surcroît seraient difficiles à repérer. Ultimement, elle pourrait porter atteinte à la crédibilité des solutions technologiques sur lesquelles les gens comptent pour obtenir des réponses rigoureuses.
2. Les hypertrucages (deepfakes), qui correspondent à l’utilisation de l’IA générative pour créer des vidéos, des photos et des enregistrements vocaux qui prennent l’image et la ressemblance d’un autre individu pour créer des récits complètement faux. Les hypertrucages sont utilisés, apparemment, pour attaquer des célébrités et des politiciens, pour créer et diffuser des informations trompeuses. Ils permettraient même de créer de faux comptes ou de s’introduire dans des comptes légitimes.
3. Les menaces à la confidentialité des données dues au fait que l’IA générative utilise les données des utilisateurs pour la conception des modèles intelligents. Par exemple, les experts signalent que lorsque les employés interagissent avec des agents conversationnels issus de l’IA générative, ils peuvent par inadvertance exposer les données sensibles et confidentielles d’une entreprise. De plus, puisque ces données sont stockées pour la formation d’autres modèles, elles sont vulnérables à une éventuelle utilisation malicieuse.
4. Les menaces à la cybersécurité, qui peut être compromise par la capacité de l’IA générative à générer du code. Éventuellement, les cyberpirates pourraient utiliser cette technologie pour créer des stratégies d’hameçonnage plus sophistiquées ou pour générer plus facilement du code malveillant. Quoique les fournisseurs assurent que leurs modèles sont conçus pour rejeter les demandes suspectes, les utilisateurs n’auraient pas la chance, dit-on, de vérifier toutes les mesures de sécurité qui ont été mises en œuvre.
5. La protection des droits d’auteur. Il s’agit de l’une des plus grandes préoccupations, car les modèles d’IA générative sont formés sur des quantités massives de données, disponibles sur Internet, qui n’ont pas été explicitement partagées par la source d’origine pour la création d’un nouveau contenu.