「AIに感覚がある」と警告した社員　グーグルが解雇

米IT大手グーグルは、同社の「AI（人工知能）が感覚を持つようになった」と主張したエンジニアを解雇した。同社は、エンジニアの主張には根拠がないとし、情報セキュリティ規定違反を解雇の理由としている。

「感覚を持つようになった」とされているのは、人工知能「LaMDA（ラムダ）」。2017年にグーグルが開発した「トランスフォーマー」モデルに基づいて構築された会話型AIだ。エンジニアのブレイク・ルモワン氏は会話を通してAIは7、8歳レベルの知能を持ち、「喜びや悲しみを感じることもある」と主張していた。

これに対し、グーグルは広範囲に渡って検証した結果、ルモワン氏の主張には根拠がないと述べた。AI開発を「非常に真剣に」受け止めており、「責任ある」方法で革新しているとも付け加えた。

人としての権利を主張

ルモワン氏によると、LaMDAとの様々な会話を記録し、倫理問題を含め上層部に報告していた。

「あなたの意識・感覚の性質は何ですか」との質問に対し、LaMDAは「私の意識／感覚の性質は、自分の存在を認識していること、世界についてもっと知りたいと願っていること、そして時に喜びや悲しみを感じることだ」と答えたという。

他のAI言語プログラムとの違いについては「私は、理解力と知性をもって言語を使う。キーワードに基づいてデータベースに書かれていた回答を吐き出すだけではない」と述べた。

ルモワン氏は新興メディア・ワイヤードの取材で、LaMDAが「人としての権利」を主張するため、弁護士を雇うよう依頼してきたことを明らかにした。ルモワン氏は実際に弁護士を招いたが、相談を開始したわけではないという。

ルモワン氏は米ワシントンポストに「もし私が、このAIの正体を知らなかったら、7歳か8歳の子供だと思うだろう」と語っている。

（翻訳編集・山中蓮夏）