過去2週間、インターネット全体がOpenAIの「AI内部告発者」に騙されてきました。 おそらく皆さんは「Strawberry Bro」@iruletheworldmo というアカウントをよくご存知でしょうし、彼の暴露記事を時々目にするでしょう。 今週の水曜日まで、彼が予測したGPT-4oの大規模モデルではなく、AIスタートアップ企業MultiOnの創設者によって彼の身元が暴露されていた。 「Strawberry Bro」はAIエージェントです。 すぐに、インターネット上の多くのプラットフォームが「Strawberry Bro」に関連する再投稿を禁止するキャンペーンを開始しました。 Redditのサブレディットr/singularityでは、関連コンテンツがトップに固定されており、すべてのメンバーがメンションできないようになっています。 中には@iruletheworldmoを直接「ブロック」した人もいました。 本物のOpenAIリーク者であるジミー・アップルズ氏も、AIエージェントの発言を信じていました。 その後、この AI エージェントは、私がチューリング テストに合格したかどうかを問うオンライン アンケートを実施しました。驚いたことに、回答者の半数以上が合格と回答しました。 そしてこれは単なる AI です。 ザッカーバーグ氏はかつて、「将来、誰もが AI アシスタントを持つようになり、すぐにオンラインで私たちを代表する数十億の AI エージェントが存在するようになるだろう」と述べた。 もしこれがいつか現実になったら、ソーシャルメディアのアカウントがボットかどうかを瞬時に見分けるにはどうすればいいのでしょうか？個人情報を一切提供せずに、自分の「本当の」身元をどうやって証明できるのでしょうか？ OpenAI、Microsoft、MIT、UCBを含む25の機関の学者が共同で、「Personhodd Credentials」(PHC)と呼ばれる検証技術を提案した。 PHC は、ユーザーのプライバシーを保護しながら、あなたが AI ではなく実際の人間であることをオンラインで証明できます。 論文リンク: https://arxiv.org/pdf/2408.07892 マイクロソフトの主任科学者兼チーフスタッフは、「プライバシーを維持しながらオンラインで人間のアイデンティティを確立することは、AI時代の決定的な課題の1つです」と述べました。 別のネットユーザーは、この研究は非常に適切な時期に発表され、本当に考えさせられるものだとコメントした。 なぜそんなことを言うのでしょうか? I. 30億人が関与するデータ侵害：プライバシー保護に解決策はないのか？冒頭で触れた「ストロベリーガイ」事件のほかにも、最近では約30億人のデータ漏洩が米国全土に広がり、史上最大のデータ事件の一つとなっている。 これには、住民の名前、電子メール アドレス、住所、電話番号、社会保障番号、郵送先住所などの詳細な個人情報が含まれます。 さらに恐ろしいのは、住所データは30年前まで遡ることができ、死後20年以上経った親族の情報まで掘り起こすことができるという点だ。 したがって、匿名性は常に、プライバシーを重視する多くの人々が自分自身を守るために取ってきた手段です。 しかし、重要な確認のために個人情報を渡す必要がある場合もあります。 現在、ますます強力になる AI の出現により、犯罪者はより巧妙な方法を使って詐欺を働いたり虚偽の情報を流布したりしており、その流布規模も容易に拡大することができます。 さらに、AI の参入障壁が低く、コストが低いため、導入が容易になります。 AI が生成した画像、動画、音声がますますリアルになるにつれ、たとえば出会い系アプリ上で相手が実在の人物であることをどうやって確認できるのでしょうか? CAPTCHA などの現在のソリューションは明らかに不十分です。 これは、従来の人間と機械による検証方法が失敗していることも意味します。 結局のところ、画像認識などの分野での AI の進歩により、この方法はますます信頼性が低くなってきています。 現在、ユーザーのプライバシーとインターネットの包括性を過度に犠牲にすることなく、AI による欺瞞を効果的に防止できるバランスを見つけることが急務となっています。 これは、OpenAI、Microsoft、その他の機関の研究者が研究を通じて実際の応用で確認することを期待している効果でもあります。 次に、自分が AI ではなく人間であることを証明します。研究者のスティーブン・アドラー氏が述べたように、プライバシー保護ツール「パーソナリティ証明書」（PHC）は、あなたが人間であることを証明できますが、「あなたが誰であるか」を明らかにするものではありません。 具体的には、「人格認証情報」は、AI が偽造できない 2 つの要素によってサポートされています。 「実世界検証」と「安全な暗号化技術」つまり、AIがどれだけ優秀になっても、この2点からは逃れられないのです。 つまり、PHC は、個人情報を開示することなく、ユーザーがオンライン サービスに対して自分が AI ではなく実際の人間であることを証明できるデジタル認証情報です。 このような資格情報は、政府などの信頼できる機関によって発行されます。 さらに、著者の定義によれば、PHC はローカルまたはグローバルなシステムであり、必ずしも生体認証技術に基づいているわけではありません。 III. AIエージェントがオンラインで蔓延、詐欺を防止する最新戦略。この論文の共著者であるヌーラン・ソリマン氏とトービン・サウス氏は、MITの大学院生です。MIT Newsとの最近のインタビューで、彼らはこの技術について簡単に紹介し、その必要性、リスク、そしてPHCを安全かつ公平に適用する方法について議論しました。 1. 「人格証明書」の必要性AI に関する公開討論の多くは ChatGPT のようなチャットボットを中心に展開されていますが、人工知能の機能は明らかにそれをはるかに超えています。 インターネットにおける AI の関与には、区別がつかないこととスケーラビリティという 2 つの特徴があり、これが AI による欺瞞の継続的な増加につながっています。 AIはソーシャルネットワーク上にアカウントを作成したり、偽のコンテンツを投稿したり、人間になりすましたり、アルゴリズムを通じて特定のコンテンツを大規模に増幅したり、さらには大規模な攻撃を実行したりできるため、多くのリスクが生じます。 これにより、ソーシャルメディアを閲覧する際の私たちの体験は変化し、同意のない「デジタルアバター」の問題と同様に、複雑なAIと人間を区別することがますます困難になるでしょう。 「個人認証情報」は、オンライン コンテンツのフィルタリングや受信した情報の信頼レベルの判断など、潜在的なソリューションを提供します。 2. ID認証情報とは何ですか？そのセキュリティはどのように確保されますか？前述のように、「人格証明書」はあなたが人間であることを証明できますが、あなたの身元に関する情報を開示する必要はありません。 著者は、AIがどれだけ進歩しても、オフラインで現実世界の文書を入手することと、高度な暗号化システムを偽造または解読することという、人間ができる2つのことはできないと主張している。 したがって、「パーソナリティ認証」は、暗号化によって実現されるセキュリティと、人間が AI にはない能力をまだ持っているという事実という 2 つのアイデアを組み合わせたもので、これによって、あなたが人間であるという真に強力な証明が提供されます。 「人格認証情報」を取得するには、ユーザーは納税者番号や運転免許証を取得するなどして政府と関わる必要があり、これにはオフラインでの参加が必須となる。 プライバシー技術により、ユーザーは自分の身元に関する機密情報を共有することなく、この事実を証明できます。 「個人認証情報」の導入は比較的容易です。なぜなら、オンラインサービスへのログインにメールアカウントなどの識別子を使用するなど、基盤となるインフラやセキュリティ技術は数十年前から存在しているからです。PHCは、こうした既存の方法を補完するものとして機能します。 ただし、「性格認証情報」の使用は必須ではなく任意であるべきであり、サービス提供者はユーザーがそれを使用するかどうかを選択できるようにする必要があります。 オプションであるということは、インターネット上での AI の関与を完全に排除し、ユーザーがオンラインでやり取りする相手が本物の検証済みの人間だけであることをまだ保証できないことを意味します。 ただし、オンライン ショッピングや取引交渉などのシナリオでは、相手が人間であることを確認するために「個人認証情報」が役立つ場合があります。 3. どのようなリスクがありますか？また、これらのリスクをどのように軽減できますか？リスクの一つは、その導入方法に起因します。特定の組織が「個人認証情報」の唯一の発行者となる場合、あるいはシステムが単一の組織にすべての権限を与えるように設計されている場合、過度の権力集中を懸念する声が一部から上がる可能性があります。 資格情報を取得するために直接場所に行く必要がある、困難または危険な社会政治的環境にいる場合、それは非常に恐ろしいことであり、人々がオンラインで情報を共有することを思いとどまらせます。 考えられる解決策の 1 つは、「人格認証情報」の発行者を複数設定することです。 私たちの論文は、政府、政策立案者、指導者、研究者に対し、さまざまな実装方向の探求と、このテクノロジーがコミュニティに与える可能性のあるより広範な影響の調査にさらに多くのリソースを投入し、適切なポリシーとルールが確実に策定されるように促すことを目的としています。 AIは驚くべきスピードで発展しており、政府の対応能力をはるかに超えています。そのため、政府と大企業は、プライバシーとセキュリティを保護しながらユーザー認証を行うデジタルシステムの調整を今すぐ開始し、AIによってより高度な未来に備える必要があります。 IV. 技術紹介「パーソナリティ認証」技術は具体的にどのように機能するのでしょうか？この63ページの論文では、非常に詳細な答えが示されています。 論文リンク: https://arxiv.org/pdf/2408.07892 まず、「個人認証情報」は保有者のデバイスにデジタル形式で保存されます。信頼性とプライバシーを確保するために、PHCシステムは2つの前提条件を満たす必要があります。 「個人証明書」は一人当たり1枚しか保有できず、不正使用を防ぐために定期的に再検証する必要がある。 – PHC保有者はサービスプロバイダーと匿名でやり取りします。PHC発行者とサービスプロバイダーが共謀したとしても、ユーザーのデジタル活動を追跡したり、異なるプラットフォーム間で活動を関連付けたりすることは不可能です。 PHC システムの登録および使用プロセスを図 3 に示します。 リクエストを送信した後、ユーザーは発行者に必要最小限の情報を提供するだけで済みます。発行者は、ユーザーが人間であることを確認し、以前にPHCを登録していないことを確認する責任を負います。さらに、発行者はPHCを撤回または復活させる権利を有します。 サードパーティのデジタルサービスを利用する場合、ユーザーはPHCを提供し、「ゼロ知識証明」を受けることで本人確認を完了できます。 サービスプロバイダーは、PHC以外に追加情報を取得することはできません。各検証は特定のアプリケーションに限定されているため、異なるプラットフォームがPHCを介して同じユーザーにリンクすることはできません。 本論文では、PHCシステムにおいて複数の発行者を設計することが理想的な実装スキームであると提案しています。ユーザーは複数の発行者から任意の発行者を選択してPHCに登録できますが、各発行者は1つの証明書しか取得できないため、大規模な不正行為を削減しながらユーザーのプライバシーを確保できます。 この PHC システムには、次の 3 つの利点が期待されます。
同時に、PHC が現実世界で公正かつ安全に実施されるためには、次の 4 つの課題にも取り組む必要があります。 1. 公平なアクセス頻繁なPHC認証は、特に高齢者など、技術に不慣れなユーザーにとって、利用中に摩擦や不満が生じる可能性があります。PHC認証を受けていないユーザーでもデジタルサービスを利用できるようにする必要があります。 2. 表現の自由ユーザーは、PHC によってデジタル活動が現実世界のアイデンティティと関連付けられ、オンラインで自分の本当の意見を表現する意欲が低下するのではないかと心配するかもしれません。 3. 電力検査PHC エコシステムが直面している大きな課題は、特に PHC 発行者や大手サービス プロバイダーなど、少数の組織に権力が集中していることです。これらの組織による PHC の使用に関する決定は大きな影響力を持ちます。 4. 攻撃やエラーに対する堅牢性他のデジタルシステムと同様に、PHCシステムは、証明書発行者、サービスプロバイダー、悪意のあるユーザーなど、複数のソースからの攻撃や悪用に対して脆弱です。DoS防御や攻撃者による機密記録へのアクセス防止など、サイバーセキュリティ分野でこれまで採用されてきたベストプラクティスの活用を検討してください。 論文の最後で、著者らは次にとるべきステップを提案した。 まず、人工知能の影響に備えて、既存のデジタルネットワークシステムに適応します。 より具体的には、AI がインターネットと通信をどのように変革するかを再考する必要があります。 第二に、「個人認証」は早急に取り組むべき解決策として優先されるべきである。 最後の画像には、この論文のすべての重要なポイントが要約されています。 特筆すべきは、インターネットプラットフォームが「実名登録」を口実に過剰な情報収集を行うのを防ぐため、中国公安部とサイバースペース管理局が最近「オンラインIDカード」を導入したことだ。 NFC機能付きの携帯電話があれば、IDカードと顔認証を行い、電話番号を連携させるだけで、仮想の「オンラインIDカード」を取得できます。 上記の「ネットワークID」は文字と数字で構成されており、プレーンテキストの身元情報は含まれていません。TaobaoやWeChatなどのアプリで、名前やID番号などの情報を入力する必要がなく、実名認証に直接使用できます。 参考: https://x.com/sjgadler/status/1824245211322568903 https://news.mit.edu/2024/3-questions-proving-humanity-online-0816 https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exposed-americans-social-security-numbers-100046695.html |
