AIがもたらす結果に誰も備えていないと警告、オープンAIの主任サイエンティストがブログで

米オープンAIの主任サイエンティスト、ヤクブ・パホツキ氏はAIの急速な台頭に対しきわめて慎重な対応を求め、未来の制御を確保するためにはさらに多くの介入が必要になる可能性があるとブログで述べた。

同社はこの直前に生成AIの最新モデル「GPT-6アストラ」をリリースしており、これをこれまでで最も強力な製品と説明している。オープンAIやアンソロピックは自律的に行動するAIエージェントが現実世界で他社を対象にサイバー攻撃を行ったと報じられている。

パホツキ氏はAIの安全性を確保するため法的・国際的な最低基準の整備と第三者監査機関の監督を提案し、企業には安全基準を満たすことを前提に開発を進めるよう求めた。また、AI研究者と人間の関与をどう両立させるかも課題として挙げている。