관계에서 ‘신뢰’는 매우 중요한 요소입니다. 신뢰가 있어야 관계가 발전할 수 있고, 서로에 대해 알아갈 수 있기 때문이죠. 그렇기 때문에 신뢰를 쌓으려면 긴 시간이 필요하고, 심지어 사소한 실수로 쌓아온 신뢰를 잃어버릴 수도 있습니다. 이는 사람과 사람의 관계뿐 아니라 사람과 인공지능의 관계에서도 마찬가지죠.

글로벌 커뮤니케이션 회사 Edelman Trust Barometer는 소비자들이 인식하는 기술에 대해 연구했는데요. 응답자의 61%는 ‘기술의 변화 속도가 너무 빠르다’라고 답했습니다. 또한, 66%는 ‘기술로 인해 보고 듣는 것이 진짜인지 알 수 없게 될 것’이라고 말했죠. 이는 기술에 대한 신뢰가 쌓이기 전에 새로운 기술이 등장하면서, 소비자의 신뢰가 부족한 상황이라 할 수 있는데요. 이러한 상황은 앞으로 발전하게 될 인공지능도 마찬가지일 것입니다. 그렇다면 인공지능 기술을 구축할 때 어떤 요소들을 고려해야 사용자들이 신뢰할 수 있을까요?

2021년 LG전자는 이러한 인공지능과 관련된 의문들을 해소하고, 인간 중심 AI의 미래를 만들기 위해 ‘AIX 보고서’를 발표했습니다. 세계 최고의 AI 전문가 12명이 참여한 이 보고서는 대중의 인식(Public Perception), 윤리(Ethics), 투명성(Transparency), 사용자 경험(User Experience), 맥락(Context), 관계(Relationship) 등 AI에 대한 6가지 주제를 다루고 있는데요. 오늘은 세 번째 주제인 ‘투명성(Transparency)’에 대해 알아보겠습니다.

지난 시리즈가 궁금하다면?
[그래서 AI #1 – 대중의 인식(Public Perception)]
[그래서 AI #2 – 인공지능과 윤리(Ethics)의 관계]

AI의 투명성(Transparency)이란?

사용자들이 인공지능 기술을 신뢰하기 위해선 무엇보다 ‘투명성(Transparency)’이 중요합니다. 나의 정보가 어떻게 사용되는지, 프로그램의 명확한 목적이 무엇인지 등 인공지능 운영 방식을 투명하게 공개하는 것이죠. AIX 보고서에서는 사용자들이 인공지능 기술에 대해 투명성을 확신할 수 있는 요소를 5가지로 나누어 정의했습니다.

① 인공지능의 프로세스를 공개하는 설명가능성(Explainability)

인공지능 기술을 다루는 기업은 인공지능의 정보를 담고있는 이른바 ‘블랙박스’를 열어야 합니다. 기업 내부에서 무슨 일이 일어나고 있는지, 어떠한 자료와 데이터를 가지고 의사소통이 이루어지는지를 소비자들에게 공개하는 것이죠. 이를 통해 인공지능의 결정이 공정하고 정확하며, 신뢰할 수 있음을 사용자에게 알려야 합니다.

글로벌 온라인 지불 시스템을 운영하는 페이팔(PayPal)의 수석 부사장 겸 CTO인 스리 시바난다(Sri Shivananda)는 “고객이 인공지능 서비스를 제공하는 플랫폼이나 기업을 신뢰할 수 있을 때, 그들이 체험하는 경험의 이면에 있는 인공지능 또한 신뢰하기 시작합니다.”라고 말했습니다. 인공지능을 제공하는 기업과 소비자와의 신뢰가 쌓이면, 인공지능 기술을 수월하게 받아들일 수 있다는 것이죠.

② 기업과 고객, 인공지능 간의 의사 소통(Communication)

인공지능이 더욱 보편화되기 위해서 기업은 인공지능 제품이 주는 명백한 혜택을 사용자들에게 명확한 메시지로 제공해야 합니다. 인공지능 제품이 어떻게 이러한 혜택을 제공하는지 설명하며 사용자들과 소통 하는 것이죠. 인공지능의 의사결정 과정을 공개해 사용자들이 쉽게 이해할 수 있어야 신뢰를 구축할 수 있는 것입니다.

스리 시바난다(Sri Shivananda)는 “인공지능을 구축할 때, 고객과의 신뢰를 가장 우선시해야 한다”라고 말했는데요. “고객이 회사와 접하는 모든 것. 시스템이나 실행 방식, 문제를 해결하는 방법 등 다양한 요소들이 고객을 중심으로 움직일 때, 신뢰로 나타난다”고 덧붙이며 기업과 사용자 간 소통의 중요성을 강조했습니다.

③ 인공지능의 목적(Purpose)

인공지능은 학습을 통해 발전하면서, 사용자의 생활을 가치 있게 변화시킵니다. 거주 지역, 수입, 자주 가는 공간 등 다양한 요소들을 수치화 해 대상을 분석하여 필요한 서비스를 제공하죠. 하지만 이 과정에서 사회적 인식이나 윤리와 같은 사항들은 고려되지 않습니다. 이로 인해 사용자가 생각했던 ‘목적’과 다른 결과가 나올 수 있는데요. 그렇게 된다면 사용자는 인공지능 기술에 대한 신뢰를 잃어버릴 수 있죠. 따라서 기업들은 인공지능의 행동에 대한 오해가 생기지 않도록, 프로그래밍된 인공지능의 ‘목적’을 공개해야 합니다.

미국의 승차 공유 서비스 기업 리프트(Lyft)의 자전거 및 스쿠터 책임자 인 데이비드 포스터(David Foster)는 이어서 그는 “목적 없는 AI는 가치가 없으며, 인공 지능이 우리 삶에 가치를 더하지 않는다면 사용자들은 그것을 단순히 우리 삶에 침입하는 것으로 보고 거부할 것”이라고 말했죠. 이어 기술의 ‘목적’을 투명하게 공개하여 소비자가 직접 서비스의 결과를 평가할 수 있도록 해야 한다고 말했습니다.

④ 사용자의 데이터를 지켜주는 데이터 프라이버시(Data Privacy)

오늘날 디지털 비즈니스에서 가장 시급한 문제 중 하나는 바로 데이터 프라이버시와 보안입니다. 해킹으로 인한 사생활 침해나 게임으로 위장하여 사용자 정보를 수집하는 악성 앱 등 디지털 상 곳곳에 위험이 퍼져 있죠. 개인의 데이터를 활용하는 인공지능 기술은 앞서 말한 위협들로부터 사용자의 데이터를 지킬 수 있는 높은 수준의 보안이 필요합니다.

국제 소비자기구(consumer international)의 사무총장 헬레나 루렌트(Helena Leurent)는 “인공지능 제품에 대한 소비자의 태도를 살펴보면, 이 제품에 사용된 나의 데이터는 어디로 가는지에 대해 신뢰가 부족하다”라고 말했습니다. 이어 “인공지능을 구축할 때, 투명성, 보안 수준, 사용자에 대한 관심 등 다양한 요소를 고려해야 한다”라고 밝혔죠. 이 같은 과정을 통해 사용자들이 신뢰할 수 있도록 해야 합니다.

⑤ 소비자에게 편리함을 주는 품질 높은 Interface(인터페이스)

소비자들이 제품을 선택할 때는 ‘사용 용의성’도 중요합니다. 제품 조작이 직관적이고 작동이 쉽다면 소비자는 제품에 대한 신뢰는 물론, 제품을 제작한 회사 자체에도 신뢰를 보입니다. 이는 인공지능 제품과 서비스도 마찬가지인데요. 사용자들에게 어떻게 편리함을 제공하는지가 인공지능 신뢰도에 영향을 줄 수 있는 것이죠.

미국의 오디오 장비를 전문으로 하는 매킨토쉬 그룹(McIntosh Group)의 공동 CEO 제프 포지(Jeff Poggi)는 “인공지능 엔진은 다양한 데이터를 토대로 편리하고 질 높은 서비스를 제공해야 합니다. 만약 사람들이 제공한 음성, 시각 등 생체 데이터들을 활용하여 잘못된 결정을 내린다면, 사람들은 서비스를 외면하거나 그들에게 데이터를 전달하지 않을 것”이라고 말했습니다. 인공지능 장치의 품질이 인공지능 기술에 대한 신뢰감을 구축하는 중요한 요소라는 것이죠.

인공지능 기술은 이전의 다른 어떤 기술보다도 많은 개인 데이터가 필요합니다. 이를 얻기 위해선 기업에 대한 소비자의 신뢰가 핵심이며, 이는 높은 투명성에서 비롯됩니다. 따라서 기업들은 조직이 하는 일이나 하지 않는 일, 그 일에 대한 목적 등 운영 방식에 대해 매우 정직하게 알려야 합니다. 또한 소비자는 회사의 철학, 개발의 기준, 일이 잘못되었을 때의 방침 등 이해하고 있어야 하죠. 이렇게 서로 간의 소통으로 신뢰를 얻는 것이야 말로 인공지능 산업 발전의 첫 번째 단계입니다.

지금까지 인공지능의 신뢰 구축을 위한 ‘투명성’에 대해 알아보았는데요. 다음 시간에는 사용자 경험(User Experience)에 대해 이야기해보겠습니다. 다음 이야기도 기대해주세요.

※ 이 글은 LG ThinQ 개발자 사이트(thinq.develper.lge.com/ko/ai) 내 블로그 내용을 재구성하였습니다.

※ AIX Framework와 상세한 AIX 보고서 내용은 www.aixexchange.com 에서 확인하실 수 있습니다.