Le paradoxe de la vie privée à l'ère de l'IA
Aux yeux de nombreux défenseurs de la vie privée, l'IA n'est qu'une technologie de surveillance de plus. Elle décuple le pistage en ligne et les outils d'espionnage dans le monde réel, fouille d'immenses quantités de données personnelles pour produire ses résultats, puis encourage les utilisateurs à partager leurs secrets et désirs les plus intimes avec un modèle de langage hébergé dans le cloud. Le capitalisme de surveillance a rendu l'IA possible, et l'IA lui rend la pareille en rendant la surveillance plus puissante et les entreprises qui en vivent plus riches en données et plus rentables que jamais.
Andy Yen, fondateur et PDG de Proton, est l'une des voix les plus influentes de l'industrie technologique qui assimile l'IA à une intrusion dans la vie privée. Proton est l'une des entreprises technologiques les plus populaires au monde spécialisées dans le chiffrement, offrant des versions chiffrées de bout en bout de services Google tels que Gmail, Docs, Sheets, Calendar et Meet. Yen affirme que la tendance à intégrer l'IA dans chaque produit technologique grand public, que les utilisateurs le veuillent ou non, attire de nouveaux utilisateurs en masse vers les produits de Proton.
Pourtant, Yen n'est pas contre l'IA, dit-il, pas plus qu'il n'est contre Internet. Fin juin, Proton a publié la dernière version de son propre chatbot IA, Lumo, une façon parmi d'autres pour Proton d'intégrer l'IA plus profondément dans sa suite d'outils, mais en cherchant à le faire de manière plus volontaire et en préservant la vie privée des utilisateurs bien mieux que ne le fait le géant technologique typique.
De la physique des particules à la vie privée
Le parcours de Yen à la tête d'une entreprise technologique axée sur la vie privée est peu conventionnel. Il est physicien des particules de formation et a travaillé au CERN, l'Organisation européenne pour la recherche nucléaire, sur le Grand collisionneur de hadrons, le plus grand accélérateur de particules au monde. Mais sa carrière a pris un tournant décisif après les révélations de 2013 d'Edward Snowden, qui ont mis en lumière l'ampleur des programmes de surveillance gouvernementale. Inspiré par la nécessité d'un chiffrement accessible, Yen a cofondé Proton en 2014.
« Je ne suis pas vraiment une personne de la tech ni même un entrepreneur de formation, donc je suis arrivé dans ce domaine un peu par accident », a déclaré Yen lors d'une récente interview. « Je travaillais au Grand collisionneur de hadrons, qui est un accélérateur de particules. C'est le plus grand du monde. Et ce que vous ne savez peut-être pas, c'est que de temps en temps, l'accélérateur est arrêté pour des mises à niveau, et ces mises à niveau peuvent prendre beaucoup de temps. »
Pendant l'un de ces arrêts, Yen s'est retrouvé à réfléchir aux implications des révélations de Snowden. Il a réalisé que si lui, physicien, ressentait le besoin de communications sécurisées, les gens ordinaires en avaient probablement besoin aussi. Cette prise de conscience a conduit à la création de Proton Mail, qui compte aujourd'hui des millions d'utilisateurs dans le monde.
L'approche de Proton en matière d'IA
L'incursion de Proton dans l'IA peut sembler contradictoire pour une entreprise fondée sur le chiffrement. Après tout, les modèles d'IA nécessitent généralement l'accès à d'énormes quantités de données pour fonctionner, et le chiffrement est conçu pour rendre les données inaccessibles. Cependant, Yen soutient que l'IA et la vie privée ne sont pas mutuellement exclusives. Le chatbot IA de Proton, Lumo, est conçu pour fonctionner sur l'appareil ou d'une manière qui minimise l'exposition des données, donnant aux utilisateurs le contrôle sur leurs informations.
« Nous croyons que l'IA peut être construite d'une manière qui respecte la vie privée des utilisateurs », a déclaré Yen. « Il s'agit de donner aux utilisateurs le choix d'y adhérer, plutôt que de leur imposer l'IA. Et il s'agit de traiter les données localement autant que possible, afin que les informations sensibles n'aient pas à quitter l'appareil de l'utilisateur. »
Cette approche contraste fortement avec celle de géants de la technologie comme Google et Meta, qui ont été critiqués pour avoir utilisé les données des utilisateurs pour entraîner des modèles d'IA sans consentement explicite. Le modèle de Proton repose sur la transparence et le contrôle de l'utilisateur, conformément à sa mission plus large de protection de la vie privée en ligne.
L'argument commercial en faveur de la vie privée
La position de Yen sur l'IA n'est pas seulement philosophique ; c'est aussi une stratégie commerciale. Alors que les préoccupations concernant la confidentialité des données augmentent, de plus en plus d'utilisateurs recherchent des alternatives aux services technologiques traditionnels. Proton a connu une augmentation des inscriptions, en particulier après des intégrations controversées de l'IA par d'autres entreprises. Yen estime que la vie privée est un droit fondamental et qu'il existe un marché croissant pour les produits qui la respectent.
« Les gens sont de plus en plus conscients de la manière dont leurs données sont utilisées », a déclaré Yen. « Ils recherchent des services qui ne les traitent pas comme le produit. C'est là que Proton intervient. »
Le modèle commercial de Proton est également distinct : il est structuré comme une fondation à but non lucratif, ce qui signifie qu'il n'est pas redevable aux actionnaires et peut privilégier la vie privée des utilisateurs plutôt que le profit. Cette structure a permis à Proton de maintenir son engagement en faveur du chiffrement et de la vie privée, même en s'étendant à de nouveaux domaines comme l'IA.
L'avenir de l'IA et de la vie privée
Yen reconnaît que l'IA présente des défis importants pour la vie privée, mais il reste optimiste quant au potentiel de coexistence. Il envisage un avenir où l'IA serait utilisée pour renforcer la vie privée, plutôt que de la saper. Par exemple, l'IA pourrait être utilisée pour expurger automatiquement des informations sensibles ou détecter des tentatives de hameçonnage, tout en gardant les données chiffrées.
« Nous ne faisons qu'effleurer la surface de ce qui est possible », a déclaré Yen. « La clé est de construire l'IA d'une manière transparente, responsable et respectueuse du consentement de l'utilisateur. C'est la seule façon pour l'IA d'être durable à long terme. »
Alors que l'IA continue de s'infiltrer dans tous les aspects de la technologie, le débat sur la vie privée ne fera que s'intensifier. L'approche de Proton offre un modèle pour que les entreprises innovent sans compromettre la confiance des utilisateurs. Reste à savoir si d'autres entreprises technologiques suivront, mais Yen est convaincu que l'industrie devra éventuellement s'adapter.
« En fin de compte, la vie privée n'est pas un luxe ; c'est une nécessité », a déclaré Yen. « Et l'IA devra apprendre à vivre avec. »
Cet article est basé sur un reportage de Wired. Lire l'article original.
Originally published on wired.com