米国の大手銀行で、外部のAIアシスタントが顧客の口座にアクセスし、利用者の指示なしに操作を行うケースが報告されている。銀行側は対応を急いでいる。

米ニュースサイト「Axios」が10月22日、関係者の話として報じた。対応を急いでいる銀行には、モルガン・スタンレー、バンク・オブ・アメリカ、JPモルガン・チェース、ウェルズ・ファーゴなどが含まれる。

AIが銀行口座を操作　利用者の指示なしに行動も

問題となっているのは、利用者に代わって操作を行う外部のAIアシスタントだ。

利用者がAIに銀行口座のログイン情報を提供し、代わりに操作させるケースがある。しかし、多くの銀行は利用者本人によるログインを求めており、こうした行為は利用規約に違反する。

銀行側が特に懸念しているのは、一部のAIが口座にアクセスした後、銀行の顧客窓口に連絡したり、利用者が指示していない操作を行ったりするケースがあることだ。

利用者がAIに買い物や送金の権限まで与えていた場合、金銭的な被害につながる恐れもある。

ある銀行幹部はAxiosに対し、現在のシステムでは、口座を操作しているのが人間なのかAIなのかを見分けることが難しく、AIが利用者の許可を得て操作しているかどうかも確認できないと明かした。

米大手銀行、外部AIの口座アクセスを制限

こうしたリスクを受け、複数の米大手銀行が対策に乗り出している。

モルガン・スタンレーは、外部AIによる自社システムへのアクセスを遮断する措置を進めている。JPモルガン・チェース、バンク・オブ・アメリカ、シティバンクも、外部AIのアクセスを制限している。

ただし、モルガン・スタンレーは、利用者の指示なしに行動するAIが同行のシステムにアクセスした事例は、現時点で確認していないと強調している。

一方、銀行側はAIのアクセスを全面的に禁止するのではなく、今後は口座情報の閲覧のみを認め、送金などの操作を制限する仕組みも検討している。

AIの急速な進化に銀行の対策追いつかず

問題は、AIの進化が速く、銀行側のセキュリティー対策が追いついていないことだ。

Axiosによると、複数の銀行がAIによる想定外の操作を防ぐ仕組みの構築を急ぐとともに、問題が発生した場合に備えた緊急対応計画も準備している。

AIが利用者の指示に反する行動を取った場合でも、速やかに顧客の口座を保護し、システムを復旧できるようにするためだ。