OpenAI offrira des subventions pour fortifier la gouvernance démocratique de l’intelligence artificielle
TechCrunch mentionne un programme d'OpenAI – la jeune pousse à l'origine du célèbre agent conversationnel d'intelligence artificielle ChatGPT – qui offrira dix subventions de 100 000 $ pour financer des expériences décisionnelles démocratiques afin de déterminer les règles que les systèmes d'intelligence artificielle (IA) devraient suivre dans les limites définies par la loi.
Ce programme est annoncé à la suite des appels d'OpenAI en faveur d'un organisme international de réglementation de l'IA semblable à celui qui régit l'énergie nucléaire. Pour les fondateurs d'OpenAI, Sam Altman, Greg Brockman et Ilya Sutskever, l'évolution de l'IA est tellement rapide qu'elle peut dépasser la capacité des autorités à la maîtriser correctement.
De là, donc, la pertinence d'offrir du financement favorisant l'innovation en vue de l'élaboration d'un processus démocratique pour encadrer le développement de l'IA. Plus précisément, il s'agit d'encourager les individus, les équipes et les organisations à collaborer pour concevoir des preuves de concepts susceptibles de répondre aux inquiétudes que soulève l'IA. Éventuellement, cette expérience pourrait être reproduite à plus grande échelle.
Reuters ajoute que ces subventions seront accordées aux bénéficiaires qui présentent des cadres convaincants pour répondre à des questions telles que « L'IA doit-elle critiquer les personnalités publiques? » et déterminer comment cette technologie devrait caractériser « l'individu moyen » dans le monde.
Selon TechCrunch, bien que ces expériences n'aient pas un caractère contraignant par rapport à la prise de décision des autorités, OpenAI s'attend à ce qu'elles explorent des questions pertinentes qui contribueront à une prise de décision plus éclairée. Bref, cette initiative doit être vue, dit-on, comme l'établissement des processus démocratiques pour surveiller ce qu'on appelle la « super intelligence ».
Ce programme de subventions – qui est annoncé à un moment où l'Union européenne (UE) discute de la réglementation sur l'IA – pourrait offrir un exemple intéressant pour l'élaboration des politiques d'IA (bien que cela fasse double emploi avec les efforts de l'UE à certains égards évidents). Cela étant dit, il reste à voir le type d'idées qui émergeront des processus démocratiques promus par OpenAI, et quelle preuve de concept sera éventuellement choisie.
Reuters souligne les réticences soulevées par certains observateurs, pour qui les systèmes d'IA comme ChatGPT comportent un biais inhérent en raison des intrants qu'ils utilisent pour façonner leurs résultats. En fait, les utilisateurs auraient trouvé des exemples de sorties racistes et sexistes produites par les systèmes d'IA. Enfin, il existe une crainte que l'IA intégrée aux moteurs de recherche comme Google d'Alphabet Inc. et Bing de Microsoft Corp. produise des informations incorrectes, mais présentées de manière convaincante.
TechCrunch mentionne un programme d'OpenAI – la jeune pousse à l'origine du célèbre agent conversationnel d'intelligence artificielle ChatGPT – qui offrira dix subventions de 100 000 $ pour financer des expériences décisionnelles démocratiques afin de déterminer les règles que les systèmes d'intelligence artificielle (IA) devraient suivre dans les limites définies par la loi.
Ce programme est annoncé à la suite des appels d'OpenAI en faveur d'un organisme international de réglementation de l'IA semblable à celui qui régit l'énergie nucléaire. Pour les fondateurs d'OpenAI, Sam Altman, Greg Brockman et Ilya Sutskever, l'évolution de l'IA est tellement rapide qu'elle peut dépasser la capacité des autorités à la maîtriser correctement.
De là, donc, la pertinence d'offrir du financement favorisant l'innovation en vue de l'élaboration d'un processus démocratique pour encadrer le développement de l'IA. Plus précisément, il s'agit d'encourager les individus, les équipes et les organisations à collaborer pour concevoir des preuves de concepts susceptibles de répondre aux inquiétudes que soulève l'IA. Éventuellement, cette expérience pourrait être reproduite à plus grande échelle.
Reuters ajoute que ces subventions seront accordées aux bénéficiaires qui présentent des cadres convaincants pour répondre à des questions telles que « L'IA doit-elle critiquer les personnalités publiques? » et déterminer comment cette technologie devrait caractériser « l'individu moyen » dans le monde.
Selon TechCrunch, bien que ces expériences n'aient pas un caractère contraignant par rapport à la prise de décision des autorités, OpenAI s'attend à ce qu'elles explorent des questions pertinentes qui contribueront à une prise de décision plus éclairée. Bref, cette initiative doit être vue, dit-on, comme l'établissement des processus démocratiques pour surveiller ce qu'on appelle la « super intelligence ».
Ce programme de subventions – qui est annoncé à un moment où l'Union européenne (UE) discute de la réglementation sur l'IA – pourrait offrir un exemple intéressant pour l'élaboration des politiques d'IA (bien que cela fasse double emploi avec les efforts de l'UE à certains égards évidents). Cela étant dit, il reste à voir le type d'idées qui émergeront des processus démocratiques promus par OpenAI, et quelle preuve de concept sera éventuellement choisie.
Reuters souligne les réticences soulevées par certains observateurs, pour qui les systèmes d'IA comme ChatGPT comportent un biais inhérent en raison des intrants qu'ils utilisent pour façonner leurs résultats. En fait, les utilisateurs auraient trouvé des exemples de sorties racistes et sexistes produites par les systèmes d'IA. Enfin, il existe une crainte que l'IA intégrée aux moteurs de recherche comme Google d'Alphabet Inc. et Bing de Microsoft Corp. produise des informations incorrectes, mais présentées de manière convaincante.