# 人工知能の判断不透明性と安全立証困難によるインシデント｜ヴィッツ（4440）の変遷

Source: Komori (komori.app) — https://komori.app/company/4440/threads/ba7298e489b5
企業ページ: https://komori.app/company/4440

## 経過

- FY2019 初出 「制御機器への活用は、前述のような人工知能の暴走により重篤なインシデントが発生する恐れがあり、人工知能の安全活用は大変重要な意味を持つことになります。残念ながら人工知能研究は、機能向上・性能向上が優先されるあまり、安全性の観点からの研究事例は少ないのが現状です。」 — 人工知能の制御機器利用について、暴走による重篤なインシデントの可能性と安全性研究の不足をリスクとして示している。 (https://komori.app/company/4440/filing/2018-fy)
- FY2020 再掲 「人工知能は判断結果を導き出す方法が明確でなく、一般的なソフトウェアなどに求められる安全分析は実施できません（安全分析はソフトウェアの構造が明確であり、明確な構造を順次破壊した場合の挙動を分析します。人工知能は内部構造が不明な巨大なブラックボックスであるため、従来型の内部構造が明確であることを前提としている安全分析では解析できません）。そのため従来型の分析手法を利用した方法での人工知能の安全立証は困難であります。」 — 人工知能の判断の不透明性と従来型手法による安全立証の困難性を、人工知能安全活用上の課題として引き続き詳細に説明している。 (https://komori.app/company/4440/filing/2019-fy)
- FY2025 再掲 「AIの急速な発展と活用により、今後増々未知のリスクが増大することが予想されます。」 — AIの急速な発展・活用に伴う未知のリスクを認識し、AIセーフティ及びHMCESによる検証環境の事業化準備を進めている。 (https://komori.app/company/4440/filing/2024-fy)