딥러닝 연구 프로젝트 ALOHA 참여…AI 의사결정 편향 문제 해결 및 애자일 방법론 적용

 
[아이티데일리] 한국CA테크놀로지스(대표 유재성, 이하 한국CA)는 유럽 호라이즌 2020(Horizon 2020) 프로그램의 일환인 ‘이기종 아키텍처 기반의 적응형 안전한 딥러닝(이하 ALOHA)’ 연구 프로젝트에 참여한다고 18일 밝혔다.

ALOHA는 사물인터넷(IoT) 애플리케이션이 딥러닝을 활용해 사람의 의사결정을 모방할 수 있도록 연구하는 3개년 연구 프로젝트다. 비디오카메라, 센서, 모바일 기기와 같은 소형의 저전력 소비 기기가 딥러닝 알고리즘을 활용해 이미지, 비디오, 사운드, 시퀀스를 빠르고 정확하게 학습, 인식, 분류할 수 있는 방법을 연구한다.

또한 IoT는 물론 다양한 애플리케이션 환경에서 인공지능(AI)의 편향 문제를 해결할 수 있는 데이터 중독 방지 연구를 수행할 예정이다. 이를 통해 인종 차별적인 발언을 하는 챗봇이나 성차별주의를 옹호하는 번역 애플리케이션 등을 방지할 수 있다.

CA는 이번 연구에서 보안 및 애자일(민첩성) 분야에 초점을 맞추고 기반 학습 플랫폼의 개발과 보안을 담당한다. 보안 분야에서는 데이터를 분석하고 편향을 탐지할 수 있는 새로운 툴을 개발한 후 데이터 중독 리스크를 탐지하고 완화 조치를 제안하도록 확장한다. 또한 딥러닝에 애자일 방법론을 적용함으로써 전략 및 실행을 조정하고, 예측 가능한 케이던스에서 배포를 추적 및 관리하며, 주요 데이터를 활용해 성과를 측정하는 방법을 연구한다.

오토 버크스(Otto Berkes) CA CTO는 “미래 모든 기술은 AI와 딥러닝을 어떤 방식으로든 포함할 것”이라며, “복잡한 다층의 IoT 시스템이 확산되면서 보안 및 SW 문제가 발생하고 있으며, AI와 자율 컴퓨팅은 이를 해결할 수 있는 고유한 솔루션으로 자리잡고 있다”고 말했다.

빅토르 문테즈(Victor Muntes) CA 전략연구부문 부사장은 “ALOHA 프로젝트의 목표는 연산력이 높아지고 있는 IoT 기기 애플리케이션이 어떻게 경험을 통해 배우고 주변 환경에 자율적으로 반응하는지 더 잘 이해하는 것”이라면서, “CA는 AI의 편향을 유발할 수 있는 데이터 중독 리스크를 방지하기 위해 보안 전문 지식을 제공하며, AI 개발 프로세스에 딥러닝을 효율적으로 내장하도록 지원할 것”이라고 밝혔다.

저작권자 © 아이티데일리 무단전재 및 재배포 금지