연구진은 의료 및 자율 주행과 같이 고위험 영역에서 사용되는 딥 뉴럴 네트워크(DNN)의 설명 가능성을 높이기 위해 개념 기반 설명 AI(CXAI)를 활용했습니다.
MS-COCO 데이터셋의 상위 20개 레이블을 사용하여 VGG16과 ResNet50 DNN을 학습하고 CRP와 CRAFT CXAI 방법을 적용하여 개념 수준의 설명을 분석했습니다.
분석 결과 CXAI는 DNN의 학습 약점을 드러내고, 개념의 구별도가 높을수록 레이블과 개념의 혼동을 줄이며, 환경 개념은 데이터셋에 의한 편향을 드러내는 것으로 나타났습니다.