L’initiative de la Maison Blanche
Le Président Joe Biden a annoncé vendredi que de nouvelles engagements d’Amazon, Google, Meta, Microsoft et d’autres entreprises leader dans le développement de l’intelligence artificielle (IA) sont une étape importante vers la gestion de la “promesse énorme” et des risques que pose cette technologie.
A lire aussi :
PaLM 2 : Le géant de l’IA Google révolutionne le monde du langage multilingue
Watsonx : L’IA d’entreprise propulsée par IBM révolutionne le futur des affaires
Volonté de Transparence et de Sécurité
Ces engagements volontaires de sept entreprises américaines visent à garantir que leurs produits IA sont sûrs avant leur lancement. Certains appellent à une supervision par des tiers du fonctionnement des prochains systèmes d’IA, bien qu’ils ne détaillent pas qui auditera la technologie ou tiendra les entreprises responsables.
“Nous devons être clairvoyants et vigilants face aux menaces que les nouvelles technologies peuvent poser”, a déclaré Biden, ajoutant que les entreprises ont une “obligation fondamentale” de garantir la sécurité de leurs produits.
L’Implication des Grandes Entreprises
Les quatre géants de la technologie, ainsi qu’OpenAI, qui a créé ChatGPT, et les startups Anthropic et Inflection, se sont engagés à réaliser des tests de sécurité “en partie effectués par des experts indépendants” pour se prémunir contre les principaux risques, tels que ceux liés à la biosécurité et à la cybersécurité.
Ces tests examineront également le potentiel de préjudices sociétaux, tels que les biais et la discrimination, et les dangers plus théoriques posés par les systèmes d’IA avancés qui pourraient prendre le contrôle de systèmes physiques ou se “répliquer” en faisant des copies d’eux-mêmes.
Réactions et Perspectives
Si certains défenseurs de la réglementation de l’IA considèrent cette initiative comme un bon début, ils estiment qu’il reste encore beaucoup à faire pour responsabiliser les entreprises et leurs produits.
Mustafa Suleyman, CEO d’Inflection, a déclaré que l’engagement à se soumettre à des tests “red team”, qui cherchent à détecter des vulnérabilités dans leurs systèmes d’IA, n’est pas une promesse facile à tenir.
Par ailleurs, le sénateur Chuck Schumer a déclaré qu’il présentera une législation pour réguler l’IA et travaille étroitement avec l’administration Biden “et nos collègues bipartites” pour renforcer les engagements pris vendredi.
Vers une Réglementation Globale de l’IA ?
Un certain nombre de pays envisagent des moyens de réguler l’IA. Le secrétaire général de l’ONU, Antonio Guterres, a récemment déclaré que l’ONU est “le lieu idéal” pour adopter des normes mondiales et a nommé un comité qui présentera des options pour la gouvernance mondiale de l’IA d’ici la fin de l’année.
Toutefois, l’engagement de la Maison Blanche ne traite pas d’autres préoccupations concernant la dernière technologie de l’IA, notamment l’effet sur l’emploi et la concurrence sur le marché, les ressources environnementales nécessaires pour construire les modèles, et les préoccupations en matière de droit d’auteur concernant les écrits, l’art et autres œuvres humaines utilisées pour enseigner aux systèmes d’IA comment produire du contenu semblable à celui produit par l’homme.
