La paradoja de la privacidad en la IA
A los ojos de muchos defensores de la privacidad, la IA es solo otra tecnología de vigilancia. Potencia el rastreo en línea y las herramientas de espionaje en el mundo real, examina vastas cantidades de datos de todos para generar sus resultados, y luego anima a los usuarios a compartir sus secretos y deseos más profundos con un modelo de lenguaje grande alojado en la nube. El capitalismo de vigilancia hizo posible la IA, y la IA devuelve el favor haciendo que la vigilancia sea más poderosa y que las empresas que dependen de ella sean más ricas en datos y más rentables que nunca.
Andy Yen, fundador y CEO de Proton, es una de las voces más influyentes en la industria tecnológica que equipara la IA con la invasión de la privacidad. Proton es una de las empresas de tecnología centradas en el cifrado más populares del mundo, y ofrece versiones cifradas de extremo a extremo de servicios de Google como Gmail, Docs, Sheets, Calendar y Meet. Yen dice que el impulso de integrar la IA en cada producto tecnológico de consumo, lo quieran o no los usuarios, está llevando a nuevos usuarios en masa a los productos de Proton.
Sin embargo, Yen no está en contra de la IA, dice, más de lo que está en contra de Internet. A finales de junio, Proton lanzó la última versión de su propio chatbot de IA, Lumo, una de las formas en que Proton está integrando la IA cada vez más profundamente en su conjunto de herramientas, pero buscando hacerlo de una manera más voluntaria y que preserve la privacidad de los usuarios mucho más que el típico gigante tecnológico.
De la física de partículas a la privacidad
El viaje de Yen al frente de una empresa de tecnología centrada en la privacidad es poco convencional. Es un físico de partículas formado que trabajó en el CERN, la Organización Europea para la Investigación Nuclear, en el Gran Colisionador de Hadrones, el acelerador de partículas más grande del mundo. Pero su carrera dio un giro brusco después de las filtraciones de 2013 de Edward Snowden, que revelaron el alcance de los programas de vigilancia gubernamental. Inspirado por la necesidad de un cifrado accesible, Yen cofundó Proton en 2014.
"En realidad no soy una persona de tecnología ni siquiera un emprendedor de formación, así que realmente llegué a este campo un poco por accidente", dijo Yen en una entrevista reciente. "Solía trabajar en el Gran Colisionador de Hadrones, que es un acelerador de partículas. Es el más grande del mundo. Y lo que quizás no sepas es que de vez en cuando, el acelerador se apaga para mejoras, y estas mejoras pueden llevar mucho tiempo".
Durante una de esas pausas, Yen se encontró reflexionando sobre las implicaciones de las revelaciones de Snowden. Se dio cuenta de que si él, un físico, sentía la necesidad de una comunicación segura, entonces la gente común probablemente también la sentía. Esa realización llevó a la creación de Proton Mail, que ahora cuenta con millones de usuarios en todo el mundo.
El enfoque de Proton hacia la IA
La incursión de Proton en la IA podría parecer contradictoria para una empresa construida sobre el cifrado. Después de todo, los modelos de IA típicamente requieren acceso a grandes cantidades de datos para funcionar, y el cifrado está diseñado para mantener los datos inaccesibles. Sin embargo, Yen argumenta que la IA y la privacidad no son mutuamente excluyentes. El chatbot de IA de Proton, Lumo, está diseñado para funcionar en el dispositivo o de una manera que minimice la exposición de datos, dando a los usuarios control sobre su información.
"Creemos que la IA se puede construir de una manera que respete la privacidad del usuario", dijo Yen. "Se trata de dar a los usuarios la opción de participar, en lugar de forzar la IA sobre ellos. Y se trata de procesar datos localmente siempre que sea posible, para que la información sensible no tenga que salir del dispositivo del usuario".
Este enfoque contrasta fuertemente con gigantes tecnológicos como Google y Meta, que han sido criticados por usar datos de usuarios para entrenar modelos de IA sin consentimiento explícito. El modelo de Proton se basa en la transparencia y el control del usuario, alineándose con su misión más amplia de proteger la privacidad en línea.
El caso de negocio de la privacidad
La postura de Yen sobre la IA no es solo filosófica; también es una estrategia de negocio. A medida que crecen las preocupaciones sobre la privacidad de los datos, más usuarios buscan alternativas a los servicios tecnológicos convencionales. Proton ha visto un aumento en las inscripciones, particularmente después de integraciones de IA controvertidas por parte de otras empresas. Yen cree que la privacidad es un derecho fundamental, y hay un mercado creciente para productos que la respeten.
"La gente se está volviendo más consciente de cómo se utilizan sus datos", dijo Yen. "Buscan servicios que no los traten como el producto. Ahí es donde entra Proton".
El modelo de negocio de Proton también es distintivo: está estructurado como una fundación sin fines de lucro, lo que significa que no está sujeto a accionistas y puede priorizar la privacidad del usuario sobre las ganancias. Esta estructura ha permitido a Proton mantener su compromiso con el cifrado y la privacidad, incluso mientras se expande a nuevas áreas como la IA.
El futuro de la IA y la privacidad
Yen reconoce que la IA presenta desafíos significativos para la privacidad, pero sigue siendo optimista sobre el potencial de coexistencia. Imagina un futuro donde la IA se utilice para mejorar la privacidad, en lugar de socavarla. Por ejemplo, la IA podría usarse para redactar automáticamente información sensible o detectar intentos de phishing, todo mientras se mantienen los datos cifrados.
"Apenas estamos arañando la superficie de lo que es posible", dijo Yen. "La clave es construir IA de una manera que sea transparente, responsable y respete el consentimiento del usuario. Esa es la única forma en que la IA será sostenible a largo plazo".
A medida que la IA continúa impregnando todos los aspectos de la tecnología, el debate sobre la privacidad solo se intensificará. El enfoque de Proton ofrece un modelo de cómo las empresas pueden innovar sin comprometer la confianza del usuario. Si otras empresas tecnológicas seguirán su ejemplo, queda por verse, pero Yen está seguro de que la industria eventualmente tendrá que adaptarse.
"Al final, la privacidad no es un lujo; es una necesidad", dijo Yen. "Y la IA tendrá que aprender a convivir con ella".
Este artículo se basa en un reportaje de Wired. Leer el artículo original.
Originally published on wired.com