AI 기술은 이미 산업 전 분야에 널리 사용되고 있으며, 보안 분야도 예외는 아니다. AI 기술은 대체로 만족할만한 결과를 산출하지만 100% 정확한 것은 아니며, 이는 중요 시스템이나 보안과 관련된 시스템에서는 사용하는데 제약으로 작용한다. 이에 따라, AI 판단에 대한 해석을 제공하는 XAI(eXplainable Artificial Intelligence) 기술개발 및 다양한 보안 분야에 적용하는 연구가 진행 중이다. 그러나, XAI 기술에 대한 정확한 성능평가 기준이 마련되어야 XAI 해석을 신뢰할 수 있고, AI 판단을 실질적으로 지원할 수 있게 된다. 본 고에서는 이와 관련하여 XAI 개념 및 필요성과 보안 분야에서의 몇 가지 XAI 연구 동향을 설명하고, XAI 평가 기술 동향을 기술하였다. 아직은 연구초기 단계에 해당하지만, 점차 실효성 있는 AI 해석기술과 평가 기술이 연구되고 있고, 신뢰할 수 있는 AI 운용을 지원할 것으로 예상된다.

[원문보기]