한국전자통신연구원(ETRI)의 국내 AI 신뢰 인식도 조사에 따르면, 알고리즘 설계의 편향성과 책임 소재 등에 대한 우려 때문에 AI에 대한 전반적인 신뢰도는 7점 만점에 4.7점으로 낮게 나타났다. 또한 머신러닝 기술은 작동 원리가 복잡하고 어떤 과정을 통해 결과를 도출했는지 명확히 설명하지 못하는 블랙박스(black box) 문제를 안고 있다. 이에 따라 AI 모델을 해석하고 결과를 투명하게 도출해내는 역량이 중요해졌다.

‘SAS 바이야’ 최신 버전은 ▲투명한 AI 의사결정 ▲지능형 태깅 자동화 기술로 강화된 개인정보보호 ▲최신 오픈소스 AI 기술 통합 등 신규 기능을 제공한다. 부분의존성(PD), 라임(LIME), 개별 조건부 기대치(ICE) 등 프레임워크가 내장된 고급 분석 기능을 활용하면 AI 솔루션의 난제인 투명성과 신뢰성을 확보할 수 있다. 머신러닝 모델의 작동 원리를 더 잘 이해하고 보다 신뢰할 수 있는 분석 결과를 도출할 수 있다는 설명이다.

김근태 SAS코리아 이사는 “AI를 활용한 실질적인 비즈니스 성과가 등장하고 있지만, 모델이 복잡해짐에 따라 발생하는 블랙박스 문제 및 신뢰도 문제는 해결해야 할 숙제”라며, “‘SAS 바이야’ 최신 버전은 기업이 AI 모델의 작동 원리와 방식에 대한 확신을 갖고 고객이 신뢰할 수 있는 제품과 서비스를 제공하도록 지원한다”고 말했다.