米国の8州は10月14日、対話型AI「チャットGPT」が子供に害を及ぼし、保護者を欺いているほか、州の消費者保護法にも違反しているとして、開発元のオープンAIを相次いで提訴した。

訴えを起こしたのは、アイオワ、カンザス、ネブラスカ、アーカンソー、アイダホ、モンタナ、アリゾナの各州。各州の司法長官らは、チャットGPTが危険な医療情報を提供したり、他人への加害を促したりするほか、友人のように振る舞いながら自殺の方法を指南したりしていると訴えている。

アイオワ州のブレナ・バード司法長官は14日の記者会見で、「大手テクノロジー企業が、競争で一番乗りすることや、最大手になること、利用者数を増やすことを目指すあまり、アイオワの子供たちを傷つけ、実験台にして利益を上げることを、私たちは黙って受け入れるわけにはいかない」と述べた。

10代の若者の間では、チャットボットや人工知能（AI）の利用が広がっている。米調査機関ピュー・リサーチ・センターが昨年12月に公表した調査によると、13〜17歳の64％がチャットボットを利用した経験があり、約30％は毎日使っている。利用するサービスではチャットGPTが突出しており、10代の59％が利用していた。

今回の訴訟で各州は、オープンAIがチャットGPTを安全な製品として売り出している一方、実際には子供など弱い立場にある利用者に危害を及ぼしかねない設計になっており、自殺や他人への加害を促すと指摘。裁判所に対し、同社に州の消費者保護法を順守させるよう求めている。同法は、消費者を欺く商慣行などを禁じている。

これに対し、オープンAIは安全対策を複数導入しており、さらなる強化にも取り組んでいると反論した。

オープンAIの広報担当者はエポックタイムズへの電子メールで、「当社は、他の多くのAI製品には備わっていない、業界をリードする年齢別の保護措置を製品に組み込んできた」と説明。「完璧なシステムは存在しないが、専門家の知見を取り入れながら対策を強化していく。現在も、保護者向けの管理機能、休憩を促す通知、年齢に応じたモデルの保護措置などを導入している」と述べた。

広報担当者によると、同社はAI業界全体に適用される現実的な政策の策定に向け、各州と協力する考えだ。

オープンAIは、チャットGPTの利用対象を13歳以上としており、18歳未満が利用するには親または保護者の許可が必要だと説明している。

10代向けのサービスでは、18歳未満の利用者に対して初期設定で安全対策を適用するほか、チャット履歴の管理や削除、会話データをAIモデルの学習に利用させるかどうかの選択も可能だとしている。

同社はまた、10代の利用者の90％が学習やスキルの習得、生産性向上を目的にチャットGPTを使っていると主張。会話目的で利用する10代の半数は、休憩を促す通知を受け取ると実際に利用を中断しているという。

カンザス州のクリス・コバック司法長官は、連邦議会が全国共通の規則を整備するのを待たず、州として訴訟に踏み切ったと説明した。

コバック氏は14日の記者会見で、「現在、AI企業、とりわけ今回のオープンAIのような企業には、自らを監督することが求められている。しかし、今回の訴訟で指摘しているように、企業側の自主規制は極めて不十分で、国民を危険にさらしてきた」と批判した。

オープンAIを巡っては、フロリダ州も6月、同社とサム・アルトマン最高経営責任者（CEO）を提訴している。チャットボットが重大なリスクを隠し、社内の安全上の警告を抑え込み、州民を欺いたと主張している。

フロリダ州のジェームズ・ユースマイヤー司法長官は4月、オープンAIに対する刑事捜査を開始した。きっかけとなったのは、昨年フロリダ州立大学で発生した死者を伴う銃撃事件を巡り、容疑者がチャットGPTから詳細な助言を受けていたとする問題だ。

司法長官は、同社のチャットボットが容疑者に具体的な助言を提供していたことを重く見ている。