[CIOCISO매거진=홍상수 기자] IBM의 세스 도브린 부사장이 23일 온라인 기자간담회에서 "인공지능(AI)의 신뢰도를 확보하려면 AI가 편견을 학습하지 않도록 사람이 계속 관리하는 것이 중요"하다고 말했다.

IBM은 최근 AI 챗봇 '이루다' 사태로 국내에 AI 윤리라는 화두가 던져진 상황에서 IBM이 '신뢰할 수 있는(Trusted) AI'를 만들고자 어떤 노력을 하는지 공유하려고 간담회를 열었다.

도브린 부사장은 "비즈니스 분야에서 AI는 사람이 결정해야 하는 것을 예측하고 보완하는 역할을 맡는데, 그러려면 AI의 예측을 사람이 신뢰할 수 있어야 한다"며 "비즈니스 AI는 결국 얼마나 신뢰할 수 있느냐로 판가름 난다"고 말했다.

이어 "'신뢰'라는 문제는 AI 모델을 투명하게 검증할 수 있느냐는 것"이라며 "(개발사는) AI에 내재한 편견을 감지할 능력, 위험을 인지할 능력, 편견을 개선해 더 정확한 결과를 도출할 능력이 필요하다"고 강조했다.

IBM은 이를 위해 'AI는 인간을 대체하는 것이 아니라 인간의 지능을 보완하기 위한 것', '데이터와 통찰의 소유권은 창작자에게 있다', '새로운 기술과 AI 시스템은 반드시 투명하고 설명 가능해야 한다' 등의 원칙을 세우고 있다.

도브린 부사장은 "편견이라는 것은 그 기준이 국가나 업종에 따라 다양할 수 있다"며 "(개발사는) AI의 목적과 맥락에 맞게 편견 제거 작업을 할 수 있어야 한다"고 말했다.

아울러 "개발 과정뿐 아니라 서비스를 운영할 때도 편견을 지속해서 감시하고 제거할 수 있어야 한다"며 "AI 전체 과정에서 사람이 계속 개입하고 주시하는 게 중요하다"고 거듭 강조했다.

도브린 부사장은 IBM의 AI 전략 부문 최고 데이터 책임자(Chief Data Officer)다.