AIのプライバシーパラドックス
多くのプライバシー擁護者の目には、AIは単なる監視技術の一つに過ぎない。AIはオンライントラッキングや現実世界のスパイツールを強化し、膨大な個人データをふるいにかけて結果を出力し、ユーザーにクラウド上の大規模言語モデルと最も深い秘密や欲望を共有するよう促す。監視資本主義がAIを可能にし、AIはその恩返しとして監視をより強力にし、それに依存する企業をかつてないほどデータ豊富で収益性の高いものにしている。
Protonの創設者兼CEOであるアンディ・イェン氏は、AIをプライバシー侵害と同一視するテック業界で最も影響力のある声の一人である。Protonは、Gmail、Docs、Sheets、Calendar、MeetなどのGoogleサービスをエンドツーエンドで暗号化したバージョンを提供する、世界で最も人気のある暗号化重視のテック企業の一つである。イェン氏は、ユーザーが望むかどうかに関わらず、あらゆる消費者向けテック製品にAIを統合しようとする動きが、Protonの製品に新規ユーザーを大量に引き寄せていると語る。
しかし、イェン氏はインターネットに反対しているわけではないのと同様に、AIに反対しているわけでもないと語る。6月下旬、Protonは自社のAIチャットボット「Lumo」の最新版をリリースした。これはProtonが自社のツール群にAIをこれまで以上に深く統合しながらも、より自発的で、一般的なテック大手よりもはるかにユーザーのプライバシーを保護する方法を模索している一例である。
素粒子物理学からプライバシーへ
イェン氏がプライバシー重視のテック企業のトップに至るまでの道のりは異例である。彼は訓練を受けた素粒子物理学者であり、欧州原子核研究機構（CERN）で世界最大の粒子加速器である大型ハドロン衝突型加速器に携わった。しかし、2013年のエドワード・スノーデン氏による内部告発で政府の監視プログラムの規模が明らかになった後、彼のキャリアは大きく方向転換した。アクセスしやすい暗号化の必要性に触発され、イェン氏は2014年にProtonを共同設立した。
「私は実際には技術者でもなければ、訓練を受けた起業家でもありません。ですから、この分野には少し偶然に入り込んだのです」とイェン氏は最近のインタビューで語った。「私はかつて大型ハドロン衝突型加速器で働いていました。これは粒子加速器で、世界最大です。ご存じないかもしれませんが、加速器はアップグレードのため定期的に停止され、これらのアップグレードには長い時間がかかることがあります。」
そのような停止期間中に、イェン氏はスノーデン氏の暴露の影響について考えを巡らせた。物理学者である自分が安全な通信の必要性を感じているなら、一般の人々もおそらく同様に感じているだろうと彼は気づいた。その気づきがProton Mailの創設につながり、現在では世界中で何百万人ものユーザーを抱えている。
ProtonのAIへのアプローチ
ProtonのAIへの進出は、暗号化を基盤とする同社にとっては矛盾しているように見えるかもしれない。結局のところ、AIモデルは機能するために膨大なデータへのアクセスを必要とし、暗号化はデータにアクセスできないようにするために設計されているからだ。しかし、イェン氏はAIとプライバシーは相互排他的ではないと主張する。ProtonのAIチャットボット「Lumo」は、デバイス上で動作するか、データ露出を最小限に抑える方法で動作するように設計されており、ユーザーに情報の制御権を与えている。
「私たちは、ユーザーのプライバシーを尊重する方法でAIを構築できると信じています」とイェン氏は語った。「重要なのは、AIを強制するのではなく、ユーザーにオプトインの選択肢を与えることです。また、可能な限りデータをローカルで処理し、機密情報がユーザーのデバイスから出る必要がないようにすることです。」
このアプローチは、ユーザーデータを明示的な同意なしにAIモデルのトレーニングに使用していると批判されてきたGoogleやMetaなどのテック大手とは対照的である。Protonのモデルは透明性とユーザーコントロールに基づいており、オンラインプライバシーを保護するという同社の広範な使命と一致している。
プライバシーのビジネスケース
イェン氏のAIに対する姿勢は哲学的なものだけでなく、ビジネス戦略でもある。データプライバシーへの懸念が高まるにつれ、より多くのユーザーが主流のテックサービスの代替を求めている。Protonは、特に他の企業による物議を醸すAI統合の後、登録者数が急増している。イェン氏は、プライバシーは基本的な権利であり、それを尊重する製品に対する市場は成長していると信じている。
「人々は自分のデータがどのように使用されているかをより意識するようになっています」とイェン氏は語った。「彼らは自分たちを製品として扱わないサービスを求めています。そこにProtonの出番があります。」
Protonのビジネスモデルも特徴的である。同社は非営利財団として構成されており、株主に責任を負わず、利益よりもユーザーのプライバシーを優先できる。この構造により、ProtonはAIなどの新しい分野に拡大しながらも、暗号化とプライバシーへのコミットメントを維持できている。
AIとプライバシーの未来
イェン氏は、AIがプライバシーに重大な課題をもたらすことを認めつつも、共存の可能性については楽観的である。彼は、AIがプライバシーを損なうのではなく強化するために使用される未来を思い描いている。例えば、AIは機密情報を自動的に編集したり、フィッシングの試みを検出したりするために使用でき、その間もデータは暗号化されたままにできる。
「私たちは可能性の表面をなぞっているに過ぎません」とイェン氏は語った。「重要なのは、透明性があり、説明責任があり、ユーザーの同意を尊重する方法でAIを構築することです。それが長期的にAIを持続可能にする唯一の方法です。」
AIがテクノロジーのあらゆる側面に浸透し続けるにつれて、プライバシーをめぐる議論はさらに激化するだろう。Protonのアプローチは、企業がユーザーの信頼を損なうことなく革新する方法の青写真を提供している。他のテック企業が追随するかどうかはまだわからないが、イェン氏は業界が最終的に適応せざるを得なくなると確信している。
「結局のところ、プライバシーは贅沢品ではなく、必需品です」とイェン氏は語った。「そしてAIはそれと共存することを学ばなければなりません。」
この記事はWiredの報道に基づいています。元の記事を読む。
Originally published on wired.com