PRODUCT / SERVICE

技術情報

AI安全

AIの課題と安全

現在、機械学習によって実現されるAIが主流となっています。これにより、AIは誤り(誤判定)の可能性という特性を持ちます。
つまり、AIを搭載したシステムやソフトウェアは、あらゆる場合において同じ振る舞いをすることが保証できないという事になります。

一方で、従来のAIを搭載しないシステムやソフトウェアでは、振る舞い(仕様)を可能な限り明確化し、対応する設計やテストを行う事で安全性を保障します。

※引用:SEAMSガイドライン~エッセンシャル版~

つまり、従来の設計方法や開発プロセスでは、AIを搭載したシステムやソフトウェアの安全性を保障できないという大きな課題があります。

AI搭載システムの安全設計パターン

上記のAIの課題に対する解決策として、ヴィッツでは以下の安全設計パターンを研究しています。

パターン名称(仮) 安全設計パターン
【方針1】AIコンポーネント自体の安全性を示すパターン(AIをSIL評価)

1a) 機能安全開発パターン

AIコンポーネントを機能安全準拠開発する(例えば、IEC 61508に準拠した開発)
1b) 安全性評価パターン AIコンポーネントについて、機能安全規格適合相当の安全性を示す
1c) Proven-in-useパターン AIコンポーネントについて、使用実績によって十分な安全性を示す(Proven-in-use)
1d) 多重化設計パターン QM品質相当のコンポーネントを多重化し安全度水準を満たす方法
【方針2】AIコンポーネント自体は非安全系とし、外部に安全メカニズムを設ける
2a) 機能安全機能パターン 制御(QM)と独立した安全機能(SIL)を搭載
2b) 比較パターン AIコンポーネント(QM)と他の非AIコンポーネント(SIL)による多重化比較
2c) 防御設計パターン 動的にロバスト性の確認をするための防御設計(ガード)を搭載

※引用:SEAMSガイドライン~エッセンシャル版~

AI搭載システムの安全開発プロセス

上記のAIの課題に対する解決策として、ヴィッツでは安全開発プロセスを研究しています。

  • AI搭載システム開発
    • 前述”方針2”の場合の開発プロセス
    • AIはQM開発
      • 例えば、Automotive SPICE (A-SPICE) レベル3に準拠
    • 安全機能は機能安全設計
      • ISO26262に準拠
  • AIのQM開発
    • (8) 初期AIコンポーネント開発
      • ベースとなるAIアルゴリズム開発
      • 従来のソフトウェアと同等のため、A-SPICE開発可能
    • (9) AI学習フェーズ
      • AIモデル開発
      • 品質・安全についての標準化検討は現在進行中
        (ISO/IEC JTC1 SC42など)

※引用:SEAMSガイドライン~エッセンシャル版~

SEAMSプロジェクト

上記のAIの課題を解決するため、ヴィッツはSEAMプロジェクトに参画し、AI搭載システムに対する安全について様々な研究を行っています。

SEAMプロジェクトとは

“Safety Engineering for Automotive ML-controlled System” SEAMSは人工知能を「つなぐ」技術群です。

詳しくはseamsのURLをご覧ください。

成果

  • 「人口知能搭載システムの安全設計ガイドライン 第2版」(略称:SEAMSガイドライン)
    2017年10月から2020年3月までのSEAMSProjectの研究活動知見や安全設計手順を整理したガイドラインとなります。
    詳細は、後述のプレリリースをご参照ください。
  • 「人口知能搭載システムの安全設計ガイドライン ~エッセンシャル版~」
    上記「人口知能搭載システムの安全設計ガイドライン 第2版」の技術ポイントをまとめたものです。
    こちらは無償ダウンロードが可能です。
    上記、SEAMSプロジェクトのホームページからダウンロードできます。

 

プレスリリース

ご相談・ご質問等ございましたら、
お気軽にお問い合わせください。

株式会社ヴィッツ
〒460-0008 
名古屋市中区栄2-13-1名古屋パークプレイス 1F
TEL (052)220-1218 / FAX (052)218-5855