AIによる画像認識システムなどを開発するトリプルアイズは6日、企業やマーケット動向の将来予測を提供するAI開発のxenodata lab.（ゼノデータ、東京都渋谷区）と業務提携したと発表した。ディープラーニング（深層学習）による分析や予測のサービスが広がる一方で、「AIがなぜこのように判断したか（結論の根拠）」を人間が理解しにくいことが普及の障壁となっている。両社で「説明可能なAI」を研究し、より透明性の高いAIサービスの実現を模索する。

なぜ重要？

AIの判断プロセスは「ブラックボックス」と呼ばれ、AIの高度化が進むほど人間が理解するのが難しくなる。しかし医療や自動運転車など人間の健康や安全に直結するサービスへのAIの浸透に伴って、AIの判断根拠を人間も理解できる「説明可能なAI」の重要性が指摘されるようになった。

政府は「説明可能なAI」の技術が「情報基盤の信頼性を担保し、高品質と安心・安全という競争上の利点を生み出す」として、研究開発を強化する方針を示している。

詳しい内容

5月にグロース市場に上場したトリプルアイズは、AIが顔画像から特徴を検出し、個別認識や感情の判断などができるサービス「AIZE（アイズ）」などを提供する。2016年設立のゼノデータも国内40万社の業績動向を予測する「xenoBrain（ゼノブレイン）」など、AIを活用したサービスを展開している。

ゼノデータの関洋二郎社長は「説明性の担保の難しさが、日本企業におけるAI浸透の大きなハードルの一つになっている」と指摘する。

両社はブラックボックスとなっているAIの分析・予測を「解決しなくてはいけない技術課題」として、自動化されたプロセスの過程や制御にあえて人間を介在させる「ヒューマンインターループ」などについて研究する。「説明可能なAI」の共同開発も視野に入れるという。