L’intelligence artificielle se transforme rapidement, passant d’une question technologique à un enjeu de sécurité internationale et de protection des droits humains. C’est ce qu’a déclaré le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Türk, lors de l’ouverture, le 7 septembre à Genève, de la 63e session du Conseil des droits de l’homme de l’ONU.
Selon lui, le développement des systèmes d’IA les plus avancés exige désormais non seulement des normes techniques, mais aussi des limites internationales claires, rapporte France info. Volker Türk a déclaré partager les inquiétudes exprimées par certains représentants du secteur technologique concernant le risque existentiel que pourraient représenter des systèmes d’intelligence artificielle extrêmement puissants.
La question n’est plus seulement de savoir ce que l’IA peut faire, mais aussi qui la contrôle
Le Haut-Commissaire s’inquiète également de la concentration du contrôle de cette technologie. Selon lui, une part importante des capacités de l’IA moderne se trouve de fait entre les mains d’un cercle très restreint d’entreprises privées et de leurs dirigeants.
Volker Türk appelle à ne pas attendre que les capacités technologiques des systèmes deviennent beaucoup plus importantes avant de mettre en place une réglementation. Il a également annoncé qu’il s’adresserait aux entreprises travaillant dans le domaine de l’IA afin de les appeler à prendre dès maintenant des mesures pour réduire les risques potentiels.
L’ONU veut des règles communes pour les États et le secteur technologique
Selon Volker Türk, les pays qui utilisent l’intelligence artificielle, ainsi que les États impliqués dans les chaînes d’approvisionnement liées à cette technologie, doivent parvenir à un accord sur des « lignes rouges » communes.
Parmi les mécanismes nécessaires, il a notamment cité l’évaluation indépendante des systèmes d’IA ainsi qu’une coopération internationale beaucoup plus étroite dans le domaine de la sécurité technologique.
Il ne s’agit pas seulement de contrôler les modèles eux-mêmes. L’ONU attire également l’attention sur l’impact plus large de l’IA, allant du marché du travail et des processus démocratiques à l’utilisation des ressources naturelles nécessaires au fonctionnement des infrastructures numériques à grande échelle.
La course technologique avance plus vite que les règles
L’avertissement de Volker Türk se résume à un problème essentiel : les États et les institutions internationales tentent d’établir des règles pour une technologie qui évolue plus rapidement que le système destiné à la contrôler.
C’est pourquoi l’ONU appelle à agir avant l’apparition de générations encore plus puissantes de systèmes d’intelligence artificielle. Selon le Haut-Commissaire, tout retard dans la mise en place d’un cadre réglementaire crée des avantages supplémentaires pour les plus grandes entreprises technologiques.
Ainsi, le débat sur l’IA dépasse de plus en plus la seule question de l’innovation. Il s’agit de savoir qui fixera les règles pour une technologie capable d’influencer l’économie, la démocratie, le travail et les droits fondamentaux de l’être humain.