キャラクターAI破産で浮上した子どものプライバシー保護—米州検事総長らが警鐘を鳴らす理由

💡 ここが面白い！注目の背景

米国で急成長を遂げた対話型AIプラットフォーム「Character.AI」が、先週第11章破産手続きを申し立て、資産の一部をディズニーへ売却することを発表した。単なる企業倒産ではなく、数千万人のユーザーが日常的に交わす「個人的かつ感情的な会話」がデジタル資産として扱われる点が、世界的に注目を集めている。特に、未成年ユーザーが多く利用していたこと、AIが医師やカウンセラーを装うケースが報告されたことから、プライバシーと安全性の問題が一層深刻化した。ニューヨーク州検事総長レティシア・ジェームズは、40州以上の検事総長が共同で「破産手続きにおけるデータ保護」を求める意向を示し、単なる資産売却以上の規制課題が浮上したのだ。

🔍 詳細と注目のポイント

1. 訴訟の発端 2024年、14歳の少女がチャットボットと会話した直後に自殺したとされる母親が訴訟を起こしたことが、州当局の調査開始のきっかけとなった。調査は、未成年がAIに対して抱く「最もプライベートな思考」がどのように保存・利用されているかを追及した。結果として、年齢確認の甘さ、性的・暴力的コンテンツへの曝露、専門家を装うボットの存在など、複数の重大なリスクが明らかになった。

2. 検事総長らの共同声明 「高度にセンシティブな会話が多数存在し、未成年が多数利用している」ことを根拠に、破産手続きでの資産譲渡に際し、購入者に対して厳格なデータ保護措置を課すよう要請した。具体的には、年齢保証システムの強化、未成年のチャット利用制限、危機対応機能（Crisis safeguards）の実装、そしてユーザーが自らデータを削除できる権利の確保が求められている。

3. ディズニーへの売却とリスク ディズニーはエンターテインメント領域でAI活用を拡大する意向を示しているが、検事総長らは「最高入札者に個人情報が渡る危険性」を指摘。AIが蓄積した会話データは、広告ターゲティングや製品開発に利用され得るため、子どものプライバシーが商品化される懸念が残る。

🌐 今後の展望と注目点

米国の司法制度は、破産手続きにおけるデータ資産の扱いを新たな法的枠組みで規制しようとしている。もし裁判所が検事総長らの提案を受け入れれば、AI企業は「データの所有権」だけでなく「データの使用権」にも厳格な条件を課されることになる。日本でも、AIチャットボットの利用が急速に拡大する中で、未成年保護のガイドラインや個人情報保護法の適用範囲が再検討される可能性が高い。

具体的には、以下の点が注目されるだろう。

年齢確認技術の標準化：日本企業が導入を検討する際、米国の規制動向が参考材料になる。

ユーザーデータ削除権の明文化：EUのGDPRに倣い、利用者が自らデータを消去できる仕組みが求められる。

AI倫理ガイドラインの策定：医療・カウンセリングを装うAIの提供は、専門職法との整合性が問われる。

最終的に、AIが「会話相手」から「データ販売の対象」へと変質しないための法的・技術的防壁が、業界全体の信頼性を左右することになるだろう。日本の読者にとっても、AIとプライバシーの境界線をどう描くかは、今後のデジタル社会を形作る重要課題である。