ビル・ゲイツ氏「AI悪用なら10億人が死ぬ恐れ」…研究者ら「人類の未来を賭けたギャンブル」と警告し相次ぎ退職

英FTの報告とともに、AIの安全性に対する懸念が強まる中、OpenAIやAnthropic、Googleディープマインドなどで研究者が退職する事例が12人を超えると伝えられている。安全性や技術開発のスピードをめぐる議論が背景にある。英国政府傘下のAIセーフティ・インスティテュートでもストレスやカウンセリング等の事情で休職者が出ていると報じられている。

グーグル・ディープマインドでAIチップ設計ツールを担当していたロバート・オキャラハン氏が24日に退社。退社理由として「AIは急速に発展している」との認識と、それを加速させる研究が人々にとって良いとは限らないとの認識を挙げた。

企業の外部で安全性研究を続けようとする動きもあり、ディープマインド出身のジョシュ・エンゲルス氏が独立系評価機関METRへ移籍。エンゲルス氏は今後5年以内の被害リスクを懸念した意見を示した。

今月初旬にはアンソロピックを退職したジェイコブ・コクソン氏が、超知能の開発競争を「命を賭けてギャンブルをしている」と語り、AI研究者間でも今後1～2年が安全性にとって決定的との懸念を述べた。

ビル・ゲイツ氏はNBC番組のインタビューで、悪意ある者が最新AIツールを組み合わせて使用することが強力な兵器となり得ると指摘。政府による安全装置の整備を促した。