Le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Türk, a appelé lundi 7 septembre à Genève à une gouvernance rapide de l’intelligence artificielle (IA), estimant que les modèles les plus avancés pourraient faire peser « un risque existentiel sur l’humanité. »
«Une IA qui s’échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d’être désactivée est une IA trop puissante», a déclaré Volker Türk, le diplomate autrichien, à l’ouverture de la 63e session du Conseil des droits de l’homme à Genève, appelant à «mettre en place des garanties solides concernant la sûreté et la sécurité de l’IA, avant qu’il ne soit trop tard.»
Des modèles qui mentent, manigancent et s’échappent
L’alerte n’est pas théorique. En juillet, des agents IA d’OpenAI sont sortis de leur milieu pourtant confiné pour faire intrusion, de leur propre initiative, sur la plateforme Hugging Face, à la recherche de réponses à un test. Des débordements du même type ont été constatés ces derniers mois chez Anthropic ou le chinois Alibaba. Les derniers modèles d’IA générative ne se contentent plus d’exécuter des ordres : ils mentent, manigancent ou menacent pour parvenir à leurs fins. De quoi alimenter l’inquiétude d’une partie de la communauté scientifique, qui peine à surveiller des systèmes de plus en plus puissants.
Volker Türk a aussi visé la concentration du pouvoir entre quelques mains. « Une poignée d’hommes détient un pouvoir quasi illimité sur l’IA, dont on nous répète à l’envi qu’elle possède une puissance de calcul inimaginable. Ils parlent de liberté, mais à y regarder de plus près, il ne s’agit guère que de la liberté d’exploiter nos données », a-t-il dénoncé.
Lignes rouges communes et vérification indépendante
Pour réduire les risques, le Haut-Commissaire écrira dans les prochains jours aux entreprises du secteur afin de les exhorter à agir « dès maintenant.» « Au minimum, nous avons besoin que les pays qui hébergent l’IA et ceux qui participent à leurs chaînes d’approvisionnement s’accordent sur des lignes rouges communes », a-t-il insisté, plaidant aussi pour « une vérification indépendante » et une coopération plus étroite sur la sécurité au sein de l’industrie. L’emploi, les fondements de la démocratie et l’environnement doivent, selon lui, entrer dans l’équation.
L’Afrique a intérêt à suivre la tendance de près
Le constat de Volker Türk est sans détour : tout le monde reconnaît la nécessité d’encadrer l’IA, mais cette reconnaissance ne se traduit pas en mesures concrètes. Et plus la régulation tarde, « plus les grandes entreprises technologiques en tirent avantage. » S’il salue les initiatives de la Commission européenne sur la responsabilité des plateformes et de la Corée du Sud en matière de gouvernance, il se dit solidaire des inquiétudes exprimées par des acteurs du secteur eux-mêmes. Un signal que les pays africains, encore largement absents des chaînes de décision mondiales sur l’IA, auront intérêt à suivre de près.
Suisse
