La Dénonciation Devient Mondiale
Ces dernières semaines, l'industrie de l'IA a été témoin d'une vague croissante de dissidence publique au sein de ses propres rangs. D'anciens travailleurs de la sécurité et chercheurs dans certaines des entreprises d'IA les plus importantes au monde, dont OpenAI et Anthropic, se sont publiquement exprimés sur la manière dont leurs employeurs gèrent les tests de sécurité, déploient des modèles et répondent aux avertissements internes sur les risques potentiels. Ces révélations ont suscité un débat intense sur l'adéquation des pratiques de sécurité en IA et si le rythme rapide de développement de l'industrie dépasse sa capacité à garantir que les systèmes puissants soient déployés de manière responsable.
Une nouvelle initiative tente désormais de formaliser et protéger ce type de signalement interne à l'échelle mondiale. Psst, une plateforme numérique de signalement sécurisé, permet aux travailleurs de l'IA partout dans le monde de documenter et soumettre des préoccupations de sécurité via un canal sécurisé, même dans des juridictions dépourvues de lois robustes de protection des lanceurs d'alerte. La membre fondatrice du conseil d'administration de la plateforme, l'avocate Mary Inman, indique que l'objectif est de garantir que les travailleurs des entreprises d'IA puissent s'exprimer sur les dommages potentiels sans crainte de représailles, quel que soit l'endroit où ils se trouvent.
Pourquoi la Géographie Est Importante
Les protections des lanceurs d'alerte varient considérablement d'un pays à l'autre. Aux États-Unis, les lois fédérales et étatiques offrent certaines protections aux employés qui signalent des irrégularités, bien que leur efficacité et leur portée fassent l'objet d'un débat continu. Dans l'Union européenne, une directive sur les lanceurs d'alerte adoptée en 2019 fournit un niveau de base de protections dans tous les États membres, bien que la mise en œuvre ait été inégale.
Mais le développement de l'IA est une activité mondiale. Les principaux laboratoires d'IA exploitent des bureaux de recherche et recrutent des talents dans des dizaines de pays, dont beaucoup ont des lois minimales ou inexistantes sur la protection des lanceurs d'alerte. Un chercheur en sécurité à Singapour, en Inde ou aux Émirats arabes unis qui découvre des pratiques préoccupantes chez son employeur peut ne disposer d'aucune voie légale pour signaler ces préoccupations sans risquer sa carrière — ou pire.
Psst est conçu pour combler cette lacune en fournissant une solution technologique à un problème de gouvernance. En proposant des canaux de signalement chiffrés et anonymes accessibles depuis n'importe quel pays, la plateforme vise à créer un filet de sécurité qui fonctionne indépendamment de tout cadre juridique national. Les rapports soumis via la plateforme peuvent être acheminés vers les organismes de réglementation appropriés, des chercheurs universitaires ou des organisations d'intérêt public selon la nature et la gravité de la préoccupation.
La Vague de Révélations sur la Sécurité de l'IA
Le moment d'émergence de Psst est significatif. L'année dernière a été témoin d'un volume sans précédent de révélations publiques de la part d'employés actuels et anciens des principales entreprises d'IA. Le départ de Mrinank Sharma d'Anthropic et ses déclarations publiques ultérieures sur les pratiques de sécurité ont attiré une large attention, tout comme plusieurs anciens employés d'OpenAI qui ont questionné si les pressions commerciales de l'entreprise compromettaient ses engagements en matière de sécurité.
Ces révélations proviennent généralement de personnes disposant de la sécurité financière, du statut d'immigration et de la réputation professionnelle nécessaires pour absorber les coûts personnels de la prise de parole publique. La grande majorité des travailleurs de l'IA qui partagent des préoccupations similaires ne disposent pas de ces protections et restent silencieux. La thèse de Psst est que les préoccupations révélées ne représentent que la pointe de l'iceberg, et qu'un mécanisme de signalement sécurisé pourrait faire émerger un tableau beaucoup plus large des problèmes de sécurité dans l'ensemble de l'industrie.
Le Défi de la Vérification
L'un des défis fondamentaux auxquels toute plateforme de lanceurs d'alerte est confrontée est la vérification. Les rapports anonymes, bien qu'ils protègent le lanceur d'alerte, peuvent être difficiles à corroborer et faciles à rejeter. Les entreprises accusées de défaillances en matière de sécurité peuvent faire valoir que les allégations anonymes manquent de crédibilité, tandis que l'absence d'un accusateur nommé rend plus difficile pour les régulateurs ou les journalistes d'enquêter.
Psst tente de résoudre ce problème en établissant des relations avec des intermédiaires de confiance qui peuvent évaluer la crédibilité des rapports sans exposer l'identité du lanceur d'alerte. La plateforme encourage également les travailleurs à soumettre des documents — courriels internes, résultats de tests, notes de réunion, documents de politique — qui peuvent étayer leurs préoccupations indépendamment de leur témoignage personnel.
Réaction de l'Industrie et des Régulateurs
La réaction des entreprises d'IA au mouvement croissant des lanceurs d'alerte a été mitigée. Certaines entreprises se sont publiquement engagées à protéger les employés qui soulèvent des préoccupations de sécurité par des canaux internes, tandis que d'autres ont eu recours à des accords de non-divulgation et d'autres instruments juridiques que les critiques affirment avoir un effet refroidissant sur la dissidence interne.
Les régulateurs observent attentivement. La loi européenne sur l'IA comprend des dispositions relatives à la transparence et à la responsabilité qui pourraient créer des canaux formels pour les signalements de sécurité. Aux États-Unis, les auditions du Congrès sur la sécurité de l'IA ont abordé la nécessité de protections spécifiques aux lanceurs d'alerte pour l'industrie de l'IA, bien qu'aucune législation globale n'ait été promulguée.
Ce Que Cela Signifie pour le Développement de l'IA
L'émergence d'une infrastructure dédiée aux lanceurs d'alerte en IA reflète une maturation du débat sur la sécurité de l'IA, passant de discussions philosophiques abstraites à des questions pratiques de gouvernance. À mesure que les systèmes d'IA deviennent plus puissants et plus profondément intégrés dans les infrastructures critiques, les soins de santé, la finance et les applications de défense, les conséquences de pratiques de sécurité inadéquates deviennent de plus en plus graves.
Psst et des initiatives similaires représentent une reconnaissance que la gouvernance efficace de l'IA ne peut pas reposer uniquement sur les entreprises pour se surveiller elles-mêmes ou sur les gouvernements pour réguler de l'extérieur. Elle nécessite des mécanismes qui habilitent les personnes les plus proches de la technologie — les chercheurs et ingénieurs qui construisent ces systèmes — à sonner l'alarme lorsqu'ils voient des problèmes, sans détruire leurs propres carrières dans le processus.
Que de telles plateformes puissent influencer de manière significative le comportement de l'industrie reste à voir. Mais dans une ère où le rythme du développement de l'IA dépasse constamment le rythme de la réglementation de l'IA, les plateformes de lanceurs d'alerte peuvent servir de système d'alerte précoce important, faisant émerger des préoccupations qui pourraient autrement rester cachées jusqu'à ce qu'elles se manifestent comme des préjudices réels.
Cet article est basé sur des reportages de Rest of World. Lire l'article original.
