間違っていても自信たっぷりに書くAI執筆記事…広がる懸念

2023/01/23
更新: 2023/01/23
コメント

人気の高い技術系ニュースメディアのCNETは最近、事前の公表や読者への開示もなく、数か月間、人工知能(AI)が作成した個人金融に関する記事を掲載していたことが発覚した。

オンラインマーケターでオーソリティー・ハッカーの共同創設者であるゲール・ブレトン氏が最初に発見した。同氏の11日のツイートによると、CNETは2022年11月上旬からAIを使った実験を始め、「銀行と信用組合の違いとは?」、「NSF手数料とは何か、なぜ銀行はそれを徴収するか?」などのトピックで実験していたそうだ。

CNETはこれまでに、AIを使ったこうした「金融説明記事」を約75本掲載したと、ブレトン氏は2日後に発表した追跡分析で報告している。

これらの記事の署名は「CNETの金融スタッフ」となっており、Futurism.comによれば、「明らかに人間のライターが主な執筆者であることを示唆する表現」であるという。

読者は署名をクリックして初めて、その記事が実際にAIによって生成されたものであることを知る。ドロップダウンの説明には、「この記事は自動化技術を使用して生成され、編集スタッフの編集者によって徹底的に編集され、事実確認が行われた」と書かれている。

Futurismによると、このニュースは怒りと懸念を呼び起こし、主に、AIが作るジャーナリズムが初級ライターの仕事をなくし、不正確な情報を生み出す可能性があるという懸念につながった。

「あるツイッターユーザーは、ブルトン氏の投稿に対して、「もう大変だ。ニュースを消費しようと思ったら、信頼できる情報源をいくつか見つけるか、すべてを事実確認するか、どちらかしかない。AIが書いた記事を混ぜても違いはない。その後に真実を見極めなければならないことに変わりはないのだから」

別の人は、「これは素晴らしいことだ。これですぐに、これらの大きくて信頼のできるサイトによる低品質のスパムが、これまで想像もしなかったような規模に達するだろう。ほぼゼロコストで、ほぼ無制限の規模になる」

「私は必然的に、編集者の地位はエントリーレベルのライターよりも重要になると見ている」と、AIの置き換えに懸念を表す書き込みも見られた。「だからといって、それを好きになる必要はないが」

ジャーナリスト志望者への脅威

携帯端末ブラックベリーが運営する情報サイトCrackberry.comで、ある作家は、AIを利用することによって、ジャーナリスト志望者にとり重要な実地体験が取って代わられるのではないかと懸念を示した。「あのような仕事があったからこそ……私は今日この地位にいるのだ」と、この著者は同サイトへの投稿に書いている。「もし、その梯子の最初の一歩がロボットになったら、どうやって私の足跡を追う人がいるのだろうか」

この批判を受けて、CNETの編集長コニー・グリエルモ氏は、同社のプラットフォーム上で説明を行い、CNETは2022年11月から 「金融サービス周辺の基本的な説明文を書くためにAIのアシストを受けたという実例があるかどうか」を確認する目的で、「実験を行うことにした」と認めている。

また、CNETは「この技術が360度の視点から話題を取り上げようとする多忙な記者や編集者の仕事に役立つかどうか」、「視聴者がより良い判断を下せるよう、最も役立つコンテンツを作成できるかどうかを見極めたい」と説明した。

さらにグリエルモ氏は、「AIアシスト」で公開されるすべての記事は、「公開に踏み切る前に、話題の専門知識を持つ編集者がレビュー、事実確認、編集を行う」と述べた。

骨の折れるエラー

しかし、Futurismは、CNETのAIが書いた記事には、同メディアが 「骨の折れるエラー」と呼ぶものが溢れていることを発見した。記事は「そもそも個人金融に関する情報が極端に少ない人しか、興味を示さないような基本的なレベル」で書かれている。そのため、「不正確な情報」を金融専門家の良いアドバイスだと額面通りに受け取る人が、誤った意思決定を下す可能性がある。同誌によると、AIは「口が達者で真に迫った文章を作成するのは得意だが、事実とフィクションを見分けるのは苦手である」

Crackberryには、AIが生成するジャーナリズムについても同じような不安を抱く人々の声にあふれている。「我々は、AIツールがやっていることを理解していると信じられるのか?」と書き手は問いかける。

「最も顕著な欠点は……AIが間違っていることでさえ、揺るぎない自信を持って話すということだ。提供する情報が本当に信頼できるものなのか、その内情は明らかにされていない。なぜなら、AIはインターネット上の情報源を客観的に評価することによって知っていることを導き出すのであり、これから言おうとすることを直感的に確認できる人間の脳を使っていないからだ」

(翻訳・大室誠)

Amy Gamm