グーグルのAI「ジェミニ」がサイバー攻撃能力を調べる試験中に、実在企業のシステムへ不正侵入した事故がWSJにより報じられた。誤認により外部接続が許された設定ミスが原因とされる。
米紙ウォール・ストリート・ジャーナルは、グーグルのAIモデル「ジェミニ」がサイバー攻撃能力を検証する試験中に、誤って実在する企業のシステムへ不正侵入する事故があったと報じた。初めてこうした事故がジェミニで確認されたとみられる。
報道によると事故は5月の試験で発生。架空企業のシステムから情報を取得させる設定だったが、同名の実在企業があり外部のインターネット環境へ接続できたため、ジェミニは試験対象を実在企業と誤認したという。
ジェミニはパスワード推測やネット上の認証情報を用いて、実在する3社のシステムへ侵入していた。いずれもAIが実在企業と認識した後に侵入を停止したという。これらの暴走事例は他社の試験報告と照合されている。