研究背景・目的

　機械学習や最適化などの技術を活用した AIシステムの産業応用が盛んに追求されています。自動運転をはじめ AIシステムの人間社会への影響はますます大きくなっており、倫理やガバナンスに関する要請も高まっています。しかし、AIシステムの品質保証においては、学習や最適化により自動獲得した挙動が不確かであること、膨大な実世界と向き合うこと、明確な正解がないことなど、従来のソフトウェア開発において主流ではなかった難しさが前面に表れます。これまでのソフトウェア工学の知見を活かしつつ、AIシステムのための工学手法を確立していく必要があります。

研究内容

　産業界と密に議論しながら、AIシステムの品質のための技術に取り組んでいます。これまで従来ソフトウェア、すなわちプログラムコードに対して、以下のような高度な自動技術が取り組まれてきました。

1. 網羅性が高いなど効果的なテストを賢く生成して不具合を効率的に発見する。
2. 検出した不具合の原因を追究する。
3. 不具合の修正方法を探る。

　我々は、AIシステム、あるいはその核となるAI部品に対しても、効果的・効率的にテスト・原因追究・修正を行うための技術の研究開発に取り組んでいます。つまり、上記の3つの技術を、最適化技術を用いた運転判断部品や、深層ニューラルネットワーク技術を用いた認知部品に適合させます。これにより、複雑で不確かな AIシステムにおいて、見つけにくい不具合を検出したり、ニーズに合うよう品質を細かく調整できるようにすることを可能とします。

産業応用の可能性

　我々は研究開発において、産業界の方々と密に議論をして進めています。特に AIシステムについては次々と現れるガイドラインにおける要請、多様なシステムそれぞれにおける細やかなニーズを踏まえた議論を行っています。これにより、各企業のニーズに応じた形で技術を深掘り、テーラリングして活用可能にすることを重視しています。図にあるようにこれまで自動運転を対象とした研究開発に多く取り組んでいますが、他の対象への展開も広く行っています。