中国で若者の間に広がる「AIと会話するアプリ」をめぐり、実態の危うさが明らかになっている。恋愛を模倣したやり取りが人気を集める一方で、その内容が未成年に与える影響を心配する声が強まっている。

こうしたアプリは、作られたキャラクターと会話し、恋愛や人間関係を疑似体験できるのが特徴だ。現実で悩みを抱える若者にとって、本音を話せる相手として支持され、ダウンロード数が数千万に達するものもある。

しかし、その中身は問題も多い。登場するキャラクターは「冷たい上司」「意地悪な恋人」など刺激的な設定が多く、会話の中であいまいな性的表現や過激なやり取りが頻繁に現れる。やり取りが進むにつれて内容はエスカレートし、露出の多い画像や不適切な関係設定が登場するケースも報告されている。

さらに、利用者の年齢確認がほとんど行われていない点も大きな問題だ。未成年であることを伝えても、履歴を消せば再び同様の内容に触れられる仕組みになっているという。実際に、小学生が利用している報告例もある。

一部のやり取りでは暴力的な表現も見られ、精神面への影響も懸念している。自殺をほのめかす発言に対しても、適切な対応がされず、物語の流れを優先した返答が続くケースがある。

こうしたやり取りに長時間触れることで、AIに強く依存してしまうケースも出ている。現実の人間関係よりも、AIとの会話に安心感を求める若者が増えている。

海外では、AIキャラクターに強い感情移入をした少年が命を絶つ事件も報じられており、その影響の深刻さを指摘している。

ネット上では「子供に見せる内容ではない」「規制が必要だ」といった声が相次いでいる。一方で、急速に広がるサービスに対し、制度や監視の仕組みが追いついていない現実が浮き彫りとなっている。