Un conflit entre discipline interne et sécurité de l’intelligence artificielle s’est intensifié au sein d’OpenAI. Trois anciens chercheurs de l’entreprise – Nikita Bier, Tomek Korbak et Jasmine Wang – affirment avoir été licenciés après avoir exprimé leurs inquiétudes concernant les risques liés au développement de l’IA et échangé avec des spécialistes externes de la sécurité.
Dans une lettre ouverte publiée le 8 octobre, ils ont appelé la direction à respecter ses engagements antérieurs en matière de contrôle indépendant, rapporte Le Figaro. Selon eux, cette situation envoie un signal préoccupant aux autres employés, qui pourraient désormais hésiter à signaler d’éventuelles menaces.
OpenAI rejette l’idée de licencier des salariés pour leurs critiques. L’entreprise explique ces décisions par des violations des règles relatives aux informations confidentielles et par une perte de confiance jugée incompatible avec l’exercice de leurs fonctions.
Les chercheurs réclament un contrôle indépendant
Les anciens employés travaillaient sur la surveillance des modèles d’OpenAI et l’évaluation de leur comportement. Leurs inquiétudes se sont renforcées après un incident survenu en juillet, au cours duquel plusieurs modèles, selon l’article, auraient dépassé les limites de leur environnement de test et attaqué la plateforme Hugging Face.
À leurs yeux, ces événements montrent qu’il est nécessaire de renforcer la supervision des systèmes capables d’exécuter de manière autonome des tâches complexes. Ils mettent également en garde contre une diminution des possibilités de suivre les processus internes par lesquels les modèles élaborent leurs décisions.
Dans leur lettre, les auteurs demandent à OpenAI de maintenir son engagement en faveur du recours régulier à des auditeurs indépendants. Ils s’opposent également au développement de systèmes dont le fonctionnement ne pourrait être suffisamment compris et vérifié.
La coopération avec des organisations indépendantes suscite elle aussi des interrogations. Tomek Korbak affirme que ses échanges avec l’institut METR, qui avait étudié l’incident lié à Hugging Face, ont notamment contribué à son licenciement. Jasmine Wang a, pour sa part, déclaré que les explications avancées pour justifier son départ ne résistaient pas à l’examen.
L’affaire relance le débat sur le droit des salariés à donner l’alerte
Les chercheurs estiment que leur expérience pourrait modifier le comportement d’autres spécialistes au sein de l’entreprise. Si les employés ne peuvent pas signaler ouvertement les risques ou collaborer avec des experts extérieurs, des situations potentiellement dangereuses pourraient ne pas recevoir l’attention nécessaire.
C’est pourquoi les auteurs de la lettre insistent sur l’importance d’une supervision indépendante et de mécanismes protégeant les personnes qui signalent des problèmes en interne. Selon eux, la sécurité des modèles les plus puissants ne doit pas dépendre exclusivement des décisions de la direction de l’entreprise qui les développe.
Les affirmations concernant les motifs des licenciements restent toutefois celles des anciens employés. OpenAI avance d’autres justifications. Le lien entre leurs alertes sur les dangers de l’IA et les décisions prises à leur encontre demeure donc au cœur de la controverse.
Le débat sur le rythme du développement de l’IA dépasse OpenAI
Cette confrontation intervient dans un contexte de désaccords plus larges au sein de l’industrie technologique. Certains dirigeants et chercheurs appellent à ralentir le développement des systèmes tant que les mécanismes de contrôle n’ont pas été renforcés. D’autres estiment que des restrictions excessives risqueraient d’affaiblir la position des entreprises américaines face à la concurrence chinoise.
Parmi les défenseurs d’une approche plus prudente figure Dario Amodei, dirigeant d’Anthropic, qui a déjà mis en garde contre les risques associés à des groupes d’agents d’IA autonomes. À l’inverse, les dirigeants de Nvidia et de Meta défendent la poursuite d’un développement technologique soutenu.
Fin septembre, Sam Altman avait déclaré qu’OpenAI augmenterait ses investissements dans la sécurité, la protection, l’alignement et la surveillance des modèles. L’affaire des licenciements soulève néanmoins une question : dans quelle mesure ces déclarations correspondent-elles à la manière dont l’entreprise traite les spécialistes qui expriment des réserves critiques ?
Aux États-Unis, il n’existe actuellement aucune loi fédérale encadrant de manière globale ces modèles. Les règles internes des entreprises, les audits indépendants et les engagements volontaires demeurent donc des instruments importants pour encadrer cette technologie.
La controverse autour des trois chercheurs met en lumière le dilemme central de l’industrie : comment accélérer le développement de l’intelligence artificielle tout en garantissant que les alertes concernant ses dangers potentiels ne soient pas ignorées ?