SEAMSガイドライン

AI搭載システムや自動運転システムなどの品質・安全を論証するためのガイドライン「SEAMSガイドライン」。
「AI関連人材の不足」・「AIシステムの品質・安全を保証することが難しい」などのAIシステムの課題解決に向けたサポートをいたします。

技術紹介
製品紹介
販売実績

お問い合わせ

資料ダウンロード

技術紹介製品紹介販売実績

技術紹介

AIの品質や安全の課題

従来のソフトウェアはエンジニアが設計・実装したプログラムの通りに動きます。そのため、設計のレビューやソフトウェアのテストによって品質を保証してきました。

一方で、自ら学習して予測・推論を行うAIは、どのように動くか・どのような結果を出力するかは不明確です。
そのため、AIの品質や、AIを利用した製品の安全を保証・説明するためにはいくつもの課題があります。

AI品質の課題

AIの選定の妥当性

アルゴリズム、ネットワーク、ハイパーパラメータ機械学習モデルの性能を調整するために事前に設定する値（例：学習率、バッチサイズ）の妥当性

AIの選定の妥当性

データ数、データの種類、アノテーションAIに学習させるためのデータに対して、人手で「正解」などの情報を付ける作業の妥当性など

学習済AIモデルの妥当性

十分な精度を保証できること

結果が正しいことの説明性AIが出した結果について「なぜそのような判断をしたか」を人間が理解できるようにする性質

予測結果の理由を示すのが難しい

倫理面の課題

公平性、プライバシー、社会性など

開発プロセスが適切か

AIセーフティの課題

AIの誤認識・誤判断等による人、周辺などへの被害

AIのロバスト性外乱やノイズのある環境下でも安定して正しく動作できる能力保証が技術的に難しい

AIの誤認識・誤判断等による被害発生時の責任問題

外部からのハッキングなどのよる情報漏洩

AIの安全規格/品質規格策定

2020年頃より、米国・欧州を先頭に各国でAIの品質・安全の原則やガイドラインの策定が進められてきました。
2022年半ばに入り、法規化に向けた整備がされて、各国運用が始まっております。

アメリカ

2023/10/30 AIに関する米大統領令発令。規制化へ向けた動き。

欧州：AI法

2024年5月に欧州委員会で最終承認、成立。2026年から全面施行が予定。

欧州：機械規則 (EU) 2023/1230

2027年1月から適用。AIを搭載したシステムに対し、より厳密な安全性の評価が求められることになる。

その他各国 (シンガポール、マルタ、UAE、カナダ、英国など)

AIについて自国独自規制(政府調達基準)を施行。

他にも、AI責任指令AIの誤作動により発生した損害に対して誰が責任を負うかを定める欧州の法案や製造物責任指令の改訂も注目を集めております。
これらを適用する国では「法律」となり、必ず遵守しなければならないものになります。

製品紹介