ニュースの要約
- 東京大学・フランス国立情報学自動制御研究所(Inria)発のAIスタートアップ「株式会社コーピー」がNEDOの「AIセーフティ強化に関する研究開発」事業に採択された。
- 本事業では、生成AIをはじめとする先端AIの安全な社会実装を目指し、AIシステムのリスク評価・管理のための基盤技術開発と、国際標準に整合したセーフティガイドラインの策定・普及が行われる。
- コーピーは「ISO/IEC 42001」の8.1項「運用計画および管理」に対応する企業向け実装ガイドラインの策定を担当し、AIシステムの安全性評価手法の構築を支援する。
概要
東京大学・フランス国立情報学自動制御研究所(Inria)発のAIスタートアップ「株式会社コーピー」は、国立研究開発法人新エネルギー・産業技術総合開発機構(NEDO)が公募した「AIセーフティ強化に関する研究開発」事業に、国立研究開発法人産業技術総合研究所(産総研)および株式会社Citadel AIと共同提案を行い、採択されました。
本事業は、生成AIをはじめとする先端AIの安全な社会実装を目指し、AIシステムのリスクを評価・管理するための基盤技術の開発と、ISO/IEC等の国際標準と整合したセーフティガイドラインの策定・普及を図るものです。
近年、ChatGPTをはじめとする大規模言語モデル(LLM)やマルチモーダルAIの台頭により、生成AIは社会インフラにまで浸透しつつあります。その一方で、誤情報の生成やプライバシー侵害、倫理的リスクなど、予測不能な影響を及ぼす懸念が広がっています。こうしたリスクに対応すべく、欧州では2026年に「AI Act(AI規則)」の本格施行が予定されており、AIの利用にはリスクベースの評価や適合証明が法的に求められます。
今回のプロジェクトにおいてコーピーは、生成AIモデルを組み込んだAIシステム(AIエージェントを含む)を対象に、国際標準「ISO/IEC 42001」の8.1項「運用計画および管理」に対応する形で企業向け実装ガイドラインの策定を担当します。具体的には、ISO/IEC 42001と整合するAIシステム運用管理プロセスの整理、生成AIシステムに適用可能な評価指標・テストプロトコルの開発、安全性評価結果を標準化する報告書テンプレートの整備を行い、実証実験・企業フィードバックとともにAIガイドラインへ反映していきます。これにより、企業が自社のAI製品・サービスの安全性・信頼性を客観的に示す手段を持ち、国際的な基準に則った形でのAI活用が可能になります。
本事業では、評価技術の開発のみならず、その社会実装にも重点が置かれています。コーピーは、本事業および関連する活動を通じて、AIセーフティ評価技術の国際標準化と社会実装に貢献し、企業が安心してAIを活用できる環境整備を支援することで、「ミッションクリティカルなAIを実現する」というビジョンの実現を目指してまいります。
編集部の感想
編集部のまとめ
コーピー：ミッションクリティカルAIの実現を目指す同社、NEDOの「AIセーフティ強化に関する研究開発」に採択についてまとめました
今回のNEDOの事業採択は、コーピーが「ミッションクリティカルAIの実現」という同社のビジョンを具現化するための重要な一歩だと言えます。生成AIをはじめとする先端AIの安全な社会実装を目指す本事業において、コーピーは企業向けのAIシステム運用管理ガイドラインの策定を担当することで、国際標準に即した実践的な安全性評価手法の構築に貢献します。
近年のAI技術の急速な進展に伴い、AI活用における安全性や倫理面での課題が世界的に浮上している中、本事業の成果が、企業のAI製品・サービスの信頼性向上と、国際的なAIガバナンス体制の整備に寄与できると期待されます。コーピーがこの事業を通じてAIセーフティ評価技術の国際標準化と社会実装に貢献していくことで、「ミッションクリティカルAIの実現」というビジョンの具現化が加速されることが期待されます。
参照元：https://prtimes.jp/main/html/rd/p/000000027.000031786.html
人気記事