欧州委員会は9月17日、13歳未満の子どもによるSNSアカウント開設を禁止する「EU KIDS法案」を正式に提案した。13歳以上15歳未満は、保護者が開設・管理する「ミニアカウント」に限り利用でき、1日の利用時間は最大1時間となる。15歳以上は自分でアカウントを開設できる。

規制対象は年齢制限にとどまらない。子どもの長時間利用を促す機能や報酬の仕組み、ライブ配信、AIチャットボットやAIコンパニオンなども規制対象となる。

法案は今後、EU加盟国と欧州議会の審議を経る必要があり、内容が修正される可能性もある。一部の条項は正式発表の2日前にメディアが報じていた。

13～14歳、SNS利用は1日最大1時間

13歳未満の子どもは、自分のSNSアカウントを持つことができない。ただし保護者の管理下で、幼い子ども向けに設計された動画サービスを保護者のアカウントから利用できる。

13歳以上15歳未満は、SNSや動画共有サービスを利用できるが、保護者が開設・管理するミニアカウントに限られる。利用時間は1日最大1時間で、新たな連絡先を追加する際は保護者の承認が必要となる。

15歳以上は自分でアカウントを開設できる。ただし18歳になるまでは、未成年者向けの保護規定が適用される。

新規則の適用から6か月以内に、プラットフォームは既存アカウントの年齢も確認しなければならない。15歳未満、または年齢を確認できないアカウントは停止される。

未成年者の「無限スクロール」を制限

18歳未満の利用者に対しては、コンテンツが自動で次々と表示される「無限スクロール」など、過度な利用を促す機能を制限する。依存を招きやすい報酬機能も規制し、就寝時間帯のプッシュ通知も制限する。

未成年者のアカウントは初期設定で非公開とし、位置情報、カメラ、マイクの利用権限も制限する。ライブ配信も初期設定では無効となる。

見知らぬ人から未成年者への接触も制限する。子どものアカウントを見知らぬ人の連絡先候補に表示せず、本人の同意なくグループに追加することも認めない。

新規則は動画共有サービス、オンラインゲーム、AIチャットボット、AIコンパニオンにも適用される。一方、百科事典や教育、ニュースなどを主に提供する一部サービスは、SNSのアカウント開設に関する年齢制限の対象外となる。

AI、子どもの感情的依存を促す設計を禁止

未成年者が利用するAIチャットボットやAIコンパニオンは、友人のように振る舞うなど、人間関係を模倣することで、子どもがAIに感情的に依存するよう促す設計を禁止する。

また、AIが初期設定のまま子どもとの過去の会話を記憶し、次回以降の会話に引き継ぐことも認めない。こうした機能は初期設定で無効とし、自動的に表示されたり、子どもに利用を促したりすることも制限する。

子どもが利用する可能性のあるAI製品を提供する企業は、提供前にリスクを評価し、導入後も未成年者への悪影響がないか継続的に監視する必要がある。

欧州委員会は、問題が起きてから対応するのではなく、サービス提供企業側に、子どもの安全を設計段階から確保していることを示すよう求めている。

大手プラットフォーム、違反で世界売上高の最大6％の罰金

EU域内の月間利用者が4500万人以上で、子どもにサービスを提供する大規模プラットフォームは、安全対策をまとめた計画を提出し、独立した監査を受ける必要がある。違反した場合、世界全体の年間売上高の最大6％に相当する罰金が科される可能性がある。

年齢制限の実施には、利用者の年齢確認が必要となる。EUは、EU年齢確認アプリや欧州デジタルIDウォレットなどの利用を想定している。

ロイター通信によると、IT業界団体のCCIAヨーロッパは、年齢確認が新たなプライバシーやサイバーセキュリティー上の問題を招く可能性があると懸念を示した。年齢確認のためにより多くの個人情報を収集すれば、それ自体が新たなリスクにつながる可能性があるとしている。