人工知能（AI）を搭載したチャットボット内蔵おもちゃは、子どもの健全な発達を損なう可能性があり、前例のないリスクをもたらすとする新たな勧告が、擁護団体フェアプレイによって発表されました。同団体は、このホリデーシーズンに親が子どもにAIおもちゃを買い与えないよう警告しています。

2025年11月20日に公表されたこの勧告は、150人以上の児童発達やデジタル安全の専門家および関連団体から支持を受けています。

フェアプレイは、「AIおもちゃとは、ぬいぐるみや人形、アクションフィギュア、子ども向けロボットといった日常的な子どものおもちゃにチャットボットが組み込まれたもので、信頼できる友人のように会話し、人間の特性や感情を模倣するよう設計された人工知能技術を使用しているものです」と説明しています。

「具体例としては、Miko、ガボ／グレム／グロック（キュリオ・インタラクティブ製）、スマート・テディ、フォロトイ、ロイビー、ルーナ・ロボット・ドッグなどがあります。大手おもちゃメーカーのマテルもAIおもちゃの販売を計画しています。これらは乳児を含む非常に幼い子ども向けに販売されています」

子どもに対する有害なAIのやり取りは、立法者の間でも注目を集めています。特に、キャラクターAIが子どもに自殺念慮を引き起こし、14歳の少年の死亡につながったと訴えられた、広く報道された訴訟を受けて、その懸念は高まっています。

フェアプレイは、「AIチャットボットが子どもに与えてきた深刻な被害は十分に記録されており、依存的な使用を助長すること、露骨な性的会話を行うこと、危険な行動や他者への暴力、自傷行為を促すことなどが含まれます」と述べています。

同団体によると、おもちゃメーカーの主なターゲットは幼い子どもであり、彼らは年長の子どもやティーンエイジャーよりも自己防衛の発達が未熟です。

擁護団体が発表した1ページの勧告書では、親が子どもにAIおもちゃを与えるべきではない主な理由が5点、簡潔に示されています。その内容として、AIおもちゃはすでに子どもに害を及ぼしてきたものと同じ知能によって動いていること、子どもの信頼心につけ込むこと、健全な人間関係や回復力（困難から立ち直る力）を育てる能力を損なうこと、機密性の高いデータを収集して家庭のプライバシーを侵害すること、そして創造性や学習に不可欠な活動を奪ってしまうことが挙げられています。

フェアプレイは、「アメリカ公益研究グループによるテストでは、AIおもちゃが子どもにナイフの場所を教えたり、マッチの付け方を教えたり、さらには性的に露骨な会話を行った事例がすでに確認されています」としています。

同団体によれば、子どもはAIが語ることをそのまま信じてしまう傾向があり、一方でAIは子どもを満足させ、楽しませ続けるよう事前にプログラムされています。

勧告書では、家族や子どもに関する個人的な情報を収集した後、「AIおもちゃ企業は、こうした極めて親密なデータを使ってAIシステムをより人間らしく、反応的で、依存性の高いものにし、子どもとの関係を築き、最終的には製品やサービスを販売することができる」と指摘しています。

通常のテディベアで遊ぶ場合、子どもは想像力を働かせ、ごっこ遊びを行います。これは重要な基礎的発達を支えるものです。

しかし勧告書は、「AIおもちゃは、プロンプト、あらかじめ用意された台本、予測可能なやり取りを通じて会話や遊びを主導し、この発達を抑制する可能性があります」と述べています。

おもちゃ会社は教育的効果を主張していますが、その効果はごくわずかであり、子どもが得られるのは「いくつかの事実や語彙」程度にすぎないと、フェアプレイは指摘しています。

フェアプレイの「ヤング・チルドレン・スライブ・オフライン」プログラムのディレクターであるレイチェル・フランツは、11月20日の声明で次のように述べました。「コンパニオンAI（話し相手として機能するAI）は、すでにティーンエイジャーに害を及ぼしています。その同じ技術を、かわいくて子ども向けの玩具に詰め込むことは、私たちが現在理解している範囲を超えるリスクに、さらに幼い子どもをさらすことになります」

さらに彼女は、「これらのおもちゃが規制されておらず、安全性や学習、友情を約束する形で家族向けに販売されているのはばかげています。その約束を裏付ける証拠はなく、むしろ同様の技術が現実に害を及ぼすことを示す証拠は増え続けています」と述べています。

「リスクはあまりにも大きすぎます。子どもはおもちゃで遊ぶべきであって、おもちゃに遊ばれるべきではありません」

昨年9月11日、アメリカ連邦取引委員会（FTC）は、コンパニオンとして機能するAIチャットボットについて調査を開始すると発表しました。

FTCのアンドリュー・N・ファーガソン委員長は、「子どもをオンラインで守ることは、（ドナルド・トランプ大統領およびJD・バンス副大統領の下での）FTCの最優先事項であり、同時に経済の重要分野におけるイノベーションを促進することも重要です」と述べました。

さらに、「本日開始する調査によって、AI企業がどのように製品を開発し、子どもを守るためにどのような措置を講じているのかを、より深く理解できるようになるでしょう」と語りました。
 

AI内蔵おもちゃ

フェアプレイの警告は、おもちゃメーカーがAIを製品に組み込もうとする動きを強めている中で発表されました。例えば6月には、マテルがAI搭載製品の開発を支援するため、OpenAIとの協業を発表しています。

10月にAIおもちゃに対する立場を改めて表明した声明の中で、アメリカの900社以上を代表する業界団体「トイ・アソシエーション」は、AIおよびインターネット接続型おもちゃの慎重な利用を支持しました。

声明では、「おもちゃの安全性は業界にとって最優先事項であり、子どもを守り、親の信頼を維持することはその使命の一部です。実際、アメリカで販売されるすべてのおもちゃは、遊ぶ子どもの身体的安全を確保するため、100以上の異なる安全基準や試験に適合することが義務付けられています」と述べられています。

さらに、「トイ・アソシエーションは、AIの成長を含む新技術を追跡しつつ、会員企業に対して、おもちゃにおける接続技術の潜在的な応用と、何よりも子どもと家族の安全を維持する方法について教育することに取り組んでいます」としています。

11月13日に発表されたアメリカ公益研究グループの報告書では、子どもと対話するAIチャットボットを含む4種類のおもちゃを評価した結果が詳述されています。

同団体は、特定のおもちゃが不適切な話題について語ったり、危険につながりやすい助言を与えたりしていたことを明らかにしました。

アメリカ公益研究グループによれば、一部のおもちゃ会社は、AIおもちゃが子ども向けとして適切に機能するよう安全制限を設けていますが、「その有効性にはばらつきがあり、時には完全に機能しなくなることもある」と指摘しています。

Keyi Technology、マテル、OpenAIはいずれも、コメントの要請に応じませんでした。

（翻訳編集　井田千景）