O Paradoxo da Privacidade na IA
Aos olhos de muitos defensores da privacidade, a IA é apenas mais uma tecnologia de vigilância. Ela potencializa o rastreamento online e as ferramentas de espionagem no mundo real, vasculha vastas quantidades de dados de todos para gerar seus resultados e, em seguida, incentiva os usuários a compartilhar seus segredos e desejos mais profundos com um modelo de linguagem de grande porte hospedado na nuvem. O capitalismo de vigilância tornou a IA possível, e a IA retribui o favor tornando a vigilância mais poderosa e os negócios que dependem dela mais ricos em dados e lucrativos do que nunca.
Andy Yen, fundador e CEO da Proton, é uma das vozes mais influentes na indústria de tecnologia que equipara IA à invasão de privacidade. A Proton é uma das empresas de tecnologia focadas em criptografia mais populares do mundo, oferecendo versões criptografadas de ponta a ponta de serviços do Google como Gmail, Docs, Sheets, Calendar e Meet. Yen diz que o impulso para integrar IA em todos os produtos de tecnologia de consumo—quer as pessoas queiram ou não—está trazendo novos usuários em massa para os produtos da Proton.
No entanto, Yen não é contra a IA, diz ele, assim como não é contra a internet. No final de junho, a Proton lançou a versão mais recente de seu próprio chatbot de IA, Lumo—apenas uma das maneiras pelas quais a Proton está integrando a IA cada vez mais profundamente em seu conjunto de ferramentas, mas buscando fazê-lo de uma forma mais voluntária e que preserva a privacidade dos usuários muito mais do que o típico gigante da tecnologia.
Da Física de Partículas à Privacidade
A jornada de Yen até o comando de uma empresa de tecnologia focada em privacidade é incomum. Ele é um físico de partículas treinado que trabalhou no CERN, a Organização Europeia para a Pesquisa Nuclear, no Grande Colisor de Hádrons—o maior acelerador de partículas do mundo. Mas sua carreira tomou um rumo brusco após as revelações de 2013 por Edward Snowden, que expuseram a extensão dos programas de vigilância governamental. Inspirado pela necessidade de criptografia acessível, Yen cofundou a Proton em 2014.
“Na verdade, não sou uma pessoa de tecnologia nem empreendedor por formação, então entrei nesse campo um pouco por acidente”, disse Yen em uma entrevista recente. “Eu costumava trabalhar no Grande Colisor de Hádrons, que é um acelerador de partículas. É o maior do mundo. E o que você pode não saber é que, de vez em quando, o acelerador é desligado para atualizações, e essas atualizações podem levar muito tempo.”
Durante uma dessas paradas, Yen se viu refletindo sobre as implicações das revelações de Snowden. Ele percebeu que, se ele, um físico, sentia a necessidade de comunicação segura, então as pessoas comuns provavelmente também sentiam. Essa percepção levou à criação do Proton Mail, que agora conta com milhões de usuários em todo o mundo.
A Abordagem da Proton à IA
A incursão da Proton na IA pode parecer contraditória para uma empresa construída em criptografia. Afinal, os modelos de IA normalmente exigem acesso a grandes quantidades de dados para funcionar, e a criptografia é projetada para manter os dados inacessíveis. No entanto, Yen argumenta que IA e privacidade não são mutuamente exclusivas. O chatbot de IA da Proton, Lumo, é projetado para funcionar no dispositivo ou de uma forma que minimize a exposição de dados, dando aos usuários controle sobre suas informações.
“Acreditamos que a IA pode ser construída de uma forma que respeite a privacidade do usuário”, disse Yen. “Trata-se de dar aos usuários a opção de optar por participar, em vez de forçar a IA sobre eles. E trata-se de processar dados localmente sempre que possível, para que informações sensíveis não precisem sair do dispositivo do usuário.”
Essa abordagem é um contraste gritante com gigantes da tecnologia como Google e Meta, que têm sido criticados por usar dados de usuários para treinar modelos de IA sem consentimento explícito. O modelo da Proton é baseado em transparência e controle do usuário, alinhando-se com sua missão mais ampla de proteger a privacidade online.
O Caso de Negócios para a Privacidade
A postura de Yen sobre IA não é apenas filosófica; é também uma estratégia de negócios. À medida que as preocupações com a privacidade de dados crescem, mais usuários estão buscando alternativas aos serviços de tecnologia convencionais. A Proton viu um aumento nas inscrições, particularmente após integrações controversas de IA por outras empresas. Yen acredita que a privacidade é um direito fundamental, e há um mercado crescente para produtos que a respeitem.
“As pessoas estão se tornando mais conscientes de como seus dados são usados”, disse Yen. “Elas estão procurando serviços que não as tratem como o produto. É aí que a Proton entra.”
O modelo de negócios da Proton também é distinto: é estruturado como uma fundação sem fins lucrativos, o que significa que não está sujeito a acionistas e pode priorizar a privacidade do usuário em vez do lucro. Essa estrutura permitiu que a Proton mantivesse seu compromisso com criptografia e privacidade, mesmo enquanto se expande para novas áreas como IA.
O Futuro da IA e da Privacidade
Yen reconhece que a IA apresenta desafios significativos para a privacidade, mas permanece otimista sobre o potencial de coexistência. Ele vislumbra um futuro onde a IA é usada para melhorar a privacidade, em vez de miná-la. Por exemplo, a IA poderia ser usada para redigir automaticamente informações sensíveis ou detectar tentativas de phishing, tudo isso mantendo os dados criptografados.
“Estamos apenas arranhando a superfície do que é possível”, disse Yen. “A chave é construir IA de uma forma que seja transparente, responsável e respeite o consentimento do usuário. Essa é a única maneira de a IA ser sustentável a longo prazo.”
À medida que a IA continua a permear todos os aspectos da tecnologia, o debate sobre privacidade só vai se intensificar. A abordagem da Proton oferece um modelo de como as empresas podem inovar sem comprometer a confiança do usuário. Se outras empresas de tecnologia seguirão o exemplo, resta saber, mas Yen está confiante de que a indústria eventualmente terá que se adaptar.
“No final, a privacidade não é um luxo; é uma necessidade”, disse Yen. “E a IA terá que aprender a conviver com ela.”
Este artigo é baseado em reportagem da Wired. Leia o artigo original.
Originally published on wired.com