Anthropic se démarque d’OpenAI au sujet d’une proposition de responsabilité sur l’IA dans l’Illinois

Un projet de loi au niveau d’un État a ouvert un débat plus large sur la responsabilité en matière d’IA

Anthropic s’est publiquement opposée à une proposition de l’Illinois soutenue par OpenAI qui, selon le texte source fourni, protégerait les laboratoires d’IA de toute responsabilité si leurs systèmes étaient utilisés pour causer des dommages à grande échelle, comme des pertes humaines massives ou plus d’un milliard de dollars de dégâts matériels. Le projet de loi, identifié comme SB 3444, a peu de chances d’aboutir, mais la controverse qu’il suscite est politiquement significative, car elle met en lumière une divergence croissante entre deux grandes entreprises d’IA sur la question de savoir qui doit assumer la responsabilité lorsque des systèmes de pointe sont impliqués dans des usages malveillants catastrophiques.

Le texte fourni indique qu’Anthropic fait du lobbying auprès des législateurs de l’Illinois pour qu’ils modifient substantiellement la mesure ou l’abandonnent dans sa forme actuelle. Dans une déclaration citée, l’entreprise a soutenu que les exigences de transparence doivent s’accompagner de responsabilité, et non d’une large protection contre l’exposition juridique.

Ce qui est en jeu dans ce combat législatif

Le conflit politique central n’a rien d’abstrait. Il porte sur la responsabilité dans un scénario extrême, mais de plus en plus discuté : une catastrophe facilitée par l’IA. Le texte source présente le désaccord autour de la question suivante : un laboratoire d’IA doit-il être tenu responsable si un acteur malveillant utilise un modèle pour créer ou faciliter un préjudice grave ?

Cette question se situe au cœur de la gouvernance moderne de l’IA. Si la responsabilité est trop large, les développeurs soutiennent qu’elle pourrait freiner l’innovation utile et faire porter aux entreprises la faute pour des usages criminels en aval qu’elles n’ont ni souhaités ni contrôlés. Si elle est trop étroite, les critiques estiment que les laboratoires pourraient avoir trop peu d’incitations à mettre en place des garde-fous solides, à surveiller les risques de déploiement ou à limiter l’accès lorsque les conséquences peuvent être graves.

Pourquoi la rupture entre Anthropic et OpenAI compte

Les désaccords publics entre grands laboratoires d’IA sont importants parce qu’ils montrent comment l’alignement du secteur évolue. Pendant des années, de nombreuses entreprises de premier plan ont globalement soutenu un mélange de langage sur la sécurité, d’engagements volontaires et de réglementation ciblée. À mesure que les propositions législatives deviennent plus concrètes, ce consensus devient plus difficile à maintenir.

Dans ce cas, le texte fourni présente Anthropic comme rejetant ce qu’elle considère comme un cadre trop protecteur pour les développeurs, tandis qu’OpenAI est décrite comme soutenant le projet de loi. Il ne s’agit pas seulement d’un désaccord tactique sur une mesure dans un seul État. Cela suggère que la concurrence entre laboratoires d’IA s’étend désormais à la conception des règles de responsabilité, à la stratégie de lobbying et à l’équilibre acceptable entre innovation et responsabilité juridique.

Pourquoi les affrontements au niveau des États restent importants

Le texte source note que des experts en politique estiment que la législation de l’Illinois n’a qu’une chance lointaine de devenir loi. Même ainsi, ces affrontements au niveau des États peuvent façonner les termes du débat futur. Ils testent les arguments, poussent les entreprises à prendre position et produisent un vocabulaire qui pourra réapparaître dans d’autres projets de loi ailleurs.

Ils obligent aussi les législateurs à se confronter plus tôt à une question difficile qu’ils ne le souhaiteraient souvent. Il est relativement facile d’appeler en principe à une IA sûre et transparente. Il est plus difficile de décider quelles obligations juridiques un laboratoire doit assumer lorsque les dommages en question sont graves, indirects et entremêlés au comportement des utilisateurs.

Le projet de loi de l’Illinois ira peut-être de l’avant, ou non, mais le conflit qui l’entoure compte déjà. Il montre que les grandes entreprises d’IA ne parlent plus d’une seule voix sur la responsabilité. À mesure que les systèmes de pointe gagnent en capacité et s’insèrent davantage dans l’économie, cette fracture est susceptible de devenir une caractéristique permanente de la politique de l’IA.

Cet article s’appuie sur un reportage de Wired. Lire l’article original.