プロセス構築／各国の法規制などに対応したプロセス構築
●欧州 AI ACT
●米国 NIST AI リスクマネジメントフレームワーク
●AI責任指令
●UL4600
など多くの法規・規定・ガイドなどに則った対応が可能
AIの学習データは本当にこれで十分なのか...
悩まれた経験はありませんか？
他にも、Al品質の基準が存在していない、他社にも実績がない、
参考になる情報がないなど、AI搭載製品・システムの品質について
悩まれたことはないですか？
そんな課題に応えるため、品質安全のスペシャリストが
AI搭載製品・システムの品質安全を保証するサービスです。
現在AIの安全規格/品質規格策定が
佳境を迎えています
2020年頃より、米国・欧州を先頭に各国でAIの品質・安全の原則やガイドラインの策定が進められてきました。
2022年半ばに入り、法規化に向けた整備が急加速しております。例えば、欧州のAI ACTや、アメリカのNIST AIリスクマネジメントフレームワーク、さらにAI責任指令や製造物責任指令の改訂も注目を集めております。これらを適用する国では「法律」となり、必ず遵守しなければならないものになります。
法規化されてからビジネスの機会損失や開発手戻りが発生しないよう、
今から対策をしておきましょう。
ヴィッツでは、規格策定団体の委員も在籍しており的確な支援が可能です。
AI品質の課題
● AIの品質説明が困難
- AIの選定の妥当性
（アルゴリズム、ネットワーク、ハイパーパラメータの妥当性） - 学習データの妥当性
（データ数、データの種類、アノテーションの妥当性など） - 学習済AIモデルの妥当性
（十分な精度を保証できること） - 結果が正しいことの説明性
（予測結果の理由を示すのが難しい） - 倫理面の課題
（公平性、プライバシー、社会性など） - 開発プロセスが適切か
AI安全の課題
- AIの誤認識・誤判断等による人、周辺などへの被害
- AIのロバスト性保証が技術的に難しい
- AIの誤認識・誤判断等による被害発生時の責任問題
- 外部からのハッキングなどのよる情報漏洩
このようにAIの品質・安全に関する課題（お悩み）が多く存在しています。
その中で、弊社サービスでは独自の強みを生かすことで課題解決に向けた支援が可能です。
AIの品質/安全の課題解決を15年以上の経験のある
品質・安全のスペシャリストが支援
森川聡久
株式会社ヴィッツ 執行役員
2006年より約15年間、機能安全対応に注力しており、
2010年4月に日本初のIEC 61508 SIL3プロセス認証取得、
2012年3月に世界初のISO 26262 ASILDプロセス認証取得に成功。
この経験を活かして、さまざまな産業ドメインの機能安全・製品安全を支援中。
近年、AI搭載システムを機能安全規格適合するための研究と、
自動運転レベル4システムを安全論証するための研究を実施し、
AIシステムの安全設計ガイドライン（SEAMSガイドライン）を作成する。
この技術知見を活かして、AIの機能安全規格策定活動に貢献中。
- ISO/IEC JTCI/SC42 WG3委員
- IoT住宅 規格作成WG委員会オブザーバー
- MISRA-C研究会メンバ
- システム開発文書品質研究会（ASDoQ）運営委員
- 組込みシステム開発技術研究会（CEST）幹事
【AI品質・安全】×【AI開発】専門家２社による最強チームを編成！
AIシステム開発のトータルサポートを実現！
サービス概要
AIシステム開発のトータルサポートが可能
AIシステム設計／AIシステムの安全設計・リスク軽減に向けた支援
●AIの機能安全にも対応可能
●ハザード分析＆リスク評価を行い、品質安全上の強みを抽出
●システム使用や運用上の改善を支援
AI開発・検証／品質安全の実現に向けたトータル支援
●AIの選定から学習・評価・運用までAIシステムの品質・安全の向上＋論証に向けたトータル支援が可能
第三者評価／第三者視点での製品評価対応
●既存開発物に対して、各国の調達基準対応などへの適合を確認
●AI開発目線で品質・安全について再検討・妥当性の確認などを支援
| 実績事例 | 自動運転車両向けの物体認識システム |
|---|---|
| 支援内容 |
|
| 開発における 課題・問題点 |
・収集した学習データや件数の妥当性をどう論証すればよいか ・AIシステムの機能安全をどうすればいいか |
| 解決に向けた 具体的な支援 |
上記課題に対して、AI開発のスペシャリストと品質・安全のスペシャリストが協同でAIの品質安全の実現・向上＋論証を構築
・AI開発プロセスの構築・論証ノウハウの提供 ・収集した学習データ・推論結果の分析・評価 ・ヴィッツでのデモ開発における開発文書・エビデンスなどの提供 |
AI品質安全の最新動向、安全基準適合支援ツールのサンプルなどの詳細資料はこちらから
自動運転やAIシステムの安全基準適合支援ツール
（総称：SEAMSガイドライン）
SEAMS概要説明
SEAMSプロジェクト（AI/自動運転の安全性論証技術の研究開発）で得たノウハウを認証機関のレビューや開発支援を通して、安全基準適合支援ツールに昇華したものがSEAMSガイドラインです。本ガイドラインは、「AI関連人材の不足」・「AIシステムの品質・安全を保証することが難しい」などのAIシステムの課題解決に向けた支援ツールです。
SEAMSプロジェクト▶︎ https://www.seams-p.jp/
| ガイドライン名称（自動運転安全） | 種別 | 活用効果 |
|---|---|---|
ODDのための自動運転用リスク評価カタログ |
ツール |
・自動運転の検証シナリオの網羅性を保証 |
自動運転レベル4システムの安全設計事例 |
具体事例 |
・国際認証機関の相場観を踏まえた自動運転システムの安全設計、安全性論証の具体策を習得 |
ISO21448(SOTIF)対応のための効率的なSTAMP/STPA実施方法 |
手順書 |
・自動運転システムに対する網羅的且つ効率的なSTAMP/STPAの実施ノウハウを習得 |
| ガイドライン名称（AI安全） | 種別 | 活用効果 |
|---|---|---|
AI搭載システムの安全設計ガイドライン |
技術カタログ |
・AI搭載システムの設計・評価方法、プロセス構築方法、各国規制対応などの安全技術を総合的に習得 |
自動運転AIのUL4600への適合方法 |
解説書チェックリスト |
・UL4600のAI要求に適合するための具体的な対応方法を習得 |
GDPRに対応するためのAIのホワイトボックス化方法 |
解説書 |
・GDPR要求に適合するための、さまざまなAIのホワイトボックス化技術について習得 |
AI搭載システムの欧州CEマーキングへの適合方法 |
解説書チェックリスト |
・将来CEマーキング要件に組み込まれるであろう欧州AI規制（EU AI Act）への適合方法を習得 |
AI規制対象国への適合方法（対象国：シンガポール／マルタ／ドバイ／カナダ） |
解説書チェックリスト |
・対象国の規制に適合したAIシステムの構築方法を習得 |
AIモデルを機能安全規格(ISO26262,IEC61508)に適合するための定量評価方法 |
手順書 |
・AIモデルの具体的な定量評価手順に従うことで、機能安全適合AIとして評価 |
AIモデルの開発文書テンプレート・チェックリスト |
テンプレート |
・AI開発プロセス構築時の参考・ベースとして活用 |
AIモデルの開発文書の作成例 |
具体事例 |
・AI開発文書の作成方法の参考として活用 |
SEAMSガイドラインがカバーする主な標準群※自動車など特定分野標準は省路
※いくつかの標準・ガイドは省路
| 欧州 | ■EU AI ACT ■ALTAI ■ETSI ISG SAI ■DIN SPEC 92001 ■独標準 ■AFNOR ■BSI PAS 188x ■英国AI原則 |
|---|---|
| 国際 | ■OECD AI原則 ■GPAI ■PAI |
| 米国 | ■NIST AI RMF ■IEEE 70xx |
| その他の国々 | ■AI利活用ガイドライン ■AI・データの利用に関する契約ガイドライン ■ISAGO ■カナダ Directive ■ドバイAI原則 ■北京AI原則 ■マルタ ETHICAL AI |
| AI安全対応の参考になる規格 | ■IEC 62998-1 ■UL 4600 |
SEAMSガイドラインがカバーする主な技術要素
- AIシステムの機能安全設計・評価技術
- AIシステムの説明性の高い開発・学習プロセス
- 信頼できる機械学習の構築方法、評価方法
- AIの説明可能なモデリング手法
- DNNのトレーサビリティ手法
- 機械学習のデザインパターン、アンチデザインパターン
- AIのサイバーセキュリティ対応
- Aその他、自動運転システムの安全性論証技術 など
AI品質安全の最新動向、安全基準適合支援ツールのサンプルなどの詳細資料はこちらから
Amazonで発売中!
AI安全論証の入門書「本日より…AIの安全を保証することになりました」
著者／森川 聡久（株式会社ヴィッツ 執行役員）
著者／森川 聡久（株式会社ヴィッツ 執行役員）
本書では、研究開発や支援実績＋国際認証機関からの技術レビューを基に「AIの品質・安全向上」のための開発方法をストーリー仕立てでまとめています。AI安全論証の入門書として、是非ご一読ください。
ご相談・ご質問等ございましたら、
お気軽にお問い合わせください。
