昨年11月にChatGPTが発表されて以来、人工知能(AI)への関心が急速に高まっており、医療からデートに至るまで、その潜在的な影響について議論が広がっている。しかし、AIの議論がどこで行われたとしても、常に話題に上るテーマがひとつある —— それがプライバシーだ。

AIシステムが効果的に機能するためには、大量のデータが必要だ。テクノロジー大手が過去にデータを大量に収集し、悪用したり、取り扱いを誤ったりした過去を考えると、プライバシーへの懸念が高まるのも不思議ではない。だが、テクノロジー大手もユーザーデータの取り扱いには慎重になっており、業界を席巻するプライバシー規制の波によって「AIの使用が規制されるのではないか」というユーザーの不安を和らげている。とは言え、ニューヨーク・タイムズのオピニオン記事で、米国連邦取引委員会(FTC)のリナ・カーン長官は、規制当局はAI使用を制限するための「適切な法的根拠を持っている」と主張しており、6月上旬には、英国データ保護機関（ICO）が、AI開発者に対して、AI製品を市場に出す前にプライバシー上の懸念に十分対応しておくようにと警告を発している。当局の執行責任者であるスティーブン・アルモンド氏は、「人権侵害リスクを軽視して良い口実など何もない」と主張している。これはがプライバシー侵害に関し、従来のWeb2テクノロジーより、AIの方が高い基準が適用される可能性を示しているといえるだろう。

セキュリティ保護に関して、厳格な規制が敷かれる可能性が高いにもかかわらず、AIツールは、他のテクノロジーと同様、データ漏洩には脆弱なようだ。つい最近も、ChatGPTがハッキングされ1万件以上のアカウントがダークウェブ上で販売されていたことが露見している。これによりOpenAIの親会社は重大なプライバシー上の欠陥を露呈した。アップルやサムスンのようなテクノロジー大手でさえも、従業員に対し生成AIの使用を制限しているという報道もある。これらはプライバシーに対するAIの潜在的脅威を示しているといえるだろう。

そこで、AIのプライバシーへの影響を把握するため、業界の専門家たちに話を聞いた。

責任あるAIのためには、基本ルールを策定する必要がある

AIとプライバシーは、「愛憎関係」にありますが、ほとんどの場合、憎悪の方が勝るようです。個人データこそが顧客向けAIモデルの生命線です。だから、ChatGPTなどのLLM（大規模言語モデル）は、検索エンジンやソーシャルメディアのアルゴリズムと同様、プライバシーの難問を抱えることになるはずです。アルゴリズムによる差別や心理操作、偽情報、社会の分断は、私たちをとても愚かにし、怒らせ、悲しませてきました。

AIの利便性と社会に対する悪影響を切り離すのは難しいことですが、不可能ではありません。フェデレーテッドラーニング（連合学習）などの非集約型AIや、ML（機械学習）モデルの透明性(説明可能性)、データ収集の制限（例：センシティブデータ）などは、悪影響を軽減するのに役立つでしょう。しかし、AIがより健全に発展するためには、そして社会に良好な影響をもたらすイノベーションとなるには、AIの基本ルールを策定する必要があります。エンジニアに任せてしまうと、我々は「マトリックス」の世界を生きることになるかもしれません。弁護士に任せていると、いまだに馬と暮らす生活かもしれません。やはり、全員が協力して、ルールを作っていかなければならないのです。

マッティア・フォスキ氏、アノ二マイズ(Anonymised) 創設者兼CEO

侵襲的なプロファイリングとマイクロターゲティングはリスク

AIの発展は、プライバシー面に大きな影を落とすかもしれません。特にAIシステムが、すでに膨大なユーザーデータを収集し、分析し、解読しているメディアマーケティングの領域では、ファーストパーティデータや単なる行動履歴データを越えた詳細な個人情報の保護について懸念が高まっています。洗練されたAIアルゴリズムによる侵襲的なプロファイリングやマイクロターゲティングはリスクが高く、信頼を失墜させるリスクがあります。

AIの活用とプライバシー保護のバランスを取ることがとても重要です。2026年までには合成コンテンツが主流になるとの予測もあります。これによって、誤情報が大量に生み出される畏れもあるでしょう。最高マーケティング責任者（CMO）やリーダーにとっては、透明性のあるデータガバナンスや確固とした同意メカニズム、倫理に基づくAIプラクティスが、消費者の信頼を維持するために不可欠です。AIの利点を生かしつつ、社会を害から守るためには、政府、テクノロジープラットフォーム、パブリッシャー、ブランド、エージェンシーが一体となって協力し合う必要があるのです。

オレリア・ノエル氏、電通Ｘ イノベーションとトランスフォーメーション責任者

AIか否かにかかわらず、プライバシーは必須だ

AIを活用するテクノロジーは、個人データを含む膨大なデータの分析結果から学習するように設計されています。そのため、最近登場したAIツールにより、データ保護に関する懸念が一段と高まっているのです。しかし、広告エコシステムで起きている規制強化の動きやプライバシー技術の進化が示すように、プライバシーは既にテクノロジー業界全体を根本から変え始めています。

ユーザーはデータを共有することを拒否しており、それに応じて各種規制が厳格化されました。これは、企業が消費者プライバシーをビジネスモデルの中心に置くことを余儀なくしています。このようにプライバシー強化の流れが続く中では、AIを活用するか否かに関わらず、(プライバシーに)対処できる企業しか生き残れないでしょう。

ジョフワ・マーティン氏、オギュリー(Ogury) CEO

プライバシーとのバランスが、AIにとっての最重要課題

AIは、将来的にはセキュリティを向上させるかもしれませんが、現在、利用可能な流行のAIは、すでに重大なプライバシー課題を提起しています。ChatGPTも自ら注意喚起を行い、ユーザーに個人情報を開示しないようにと警告しています。実際、アマゾンやJPモルガン、ゴールドマン・サックスなどの大企業も、従業員にChatGPTの利用を禁止または制限する措置を取っています。このことからも、AIにおけるプライバシーリスクの深刻さが見て取れるかと思います。

ChatGPTは一例に過ぎません。米国のクリアビュー（Clearview AI）の事件も深刻です。これにより、同社は民間企業への顔認識データベースの販売が禁止されました。データベース販売の潜在的脅威は重大であり、この顔認識技術は、前例のない規模で、大規模な衆人監視を可能にしてしまいます。民間企業の自由意志で、個人が監視されるような社会は、私の生きたい世界ではありません。私には、あまりにも「ブラック・ミラー」（Netflixの連続ドラマ）すぎる世界です！

AIが生み出す可能性を受け入れながらも、プライバシーに関する脅威にも真正面から取り組むことがとても重要です。テクノロジーの進化とプライバシー保護のバランスが、すべての鍵を握っているのです。

ニーヴ・リネハン氏、Women of Web3 パートナーシップおよびコンテンツディレクター

誰がAIを管理するかということが、AIの真の懸念

AIは、インターネットから収集された膨大な個人データを収集、分析、処理することで、前例のない技術を解き放ちました。そして、それらのデータは、ポジティブなものからネガティブなものまで、さまざまな目的に利用されることでしょう。命を救うための医学研究分野から、大規模監視による非民主的な国家管理まで、それこそさまざまな目的が考えられます。

AIに対する本当の懸念は、AIを誰が管理するかということなのです。AIが個人データを処理できる法的根拠、データの利用方法を管理する仕組み、そして個人データの削除や訂正に関わる権利も、これらはすべて私たちの人格に関わる問題です。結局、本質的な争点は、AIが私たちを管理するのか、私たちがAIを管理するのかというテーマに帰着するのでしょう。

フラビア・ケニオン氏、36コマーシャル(36 Commercial) 弁護士

AIはプライバシーに対する本質的な脅威

AIは、さまざまな用途に利点がありますが、おそらくその中にプライバシーは含まれないでしょう。データの飽くなき収集をベースに創られたテクノロジーが、プライバシーリスクの要因にならないというのは考えづらいです。そして、収益モデルが広告になれば、AIがプライバシーにもたらす脅威はいっそう大きくなるでしょう。人工知能を進化させるリソースとビジネスを持つ企業のこれまでの歴史を考えると、広告による収益化は避けられないように思えます。ただ、AIはとても新しい技術です。インターネットや検索と同じ道をたどることを防ぐ機会は、まだ残されているはずです。

ソレン・H・ディネセン氏、デジセグ(Digiseg) CEO

透明性がAIの脅威を軽減する

AIは、単に過去のデータを見て、パターンを特定し、予測を行うだけです。プライバシーに配慮し、GDPRの理念に則ってデータが使用される限り、何も心配することはありません。但し残念ながら、悪意を持つ者が、恐れを煽り、法制度をないがしろにする可能性はあります。したがって、AIを利用する人は、どのようなデータがモデルに入力されていて、それがどのように使われているか、ちゃんと説明できる必要があるのです。

ジョニー・ホワイトヘッド氏、スカイライズ(Skyrise) 戦略ディレクター

AIはプライバシーリスクを最小限に抑えたターゲティング広告を可能にする

AIは、プライバシーに強い影響を与えますが、悪い影響ばかりではありません。AIによって、以前には分からなかった行動パターンや関連性を解き明かすことができれば、個人を特定する情報(PII)の利用を最小限に抑えることができます。AIが、膵臓がんにかかる可能性を予測できるなら、誰がマヨネーズ、保険、新しい車を必要としているかを推測することも難しくないでしょう。つまり、PIIに依存しないターゲティング広告の可能性を広げることができるのです。

ドリュー・スタイン氏、オーディジェント(Audigent) 共同創設者兼CEO