“배시는 당신의 정보를 4천만 건 가지고 있어요. 1994년부터 내린 결정을 모두 알죠. 당신의 대장 용종도 검진 결과 나오기 몇 달 전에 알았어요. 네댓 개쯤 있더군요. 빨리 확인해 봐요. ... 우리는 96.5%의 정확도로 사망 방식도 예측해요. 우리 만난 후로 좀 알아봤죠. 당신의 죽음은 아주 하찮고 따분했어요. 당신은 외롭게 혼자 죽을 거예요.”2021년 하반기에 출간된 책 AI 2041의 첫 챕터인 <황금 코끼리>는 2041년 뭄바이에 살고 있는 10대 소녀 나야나가 주인공이다. Nayana의 가족은 가네쉬 보험이라는 서비스의 할인 혜택을 받기 위해 미성년자 나야나의 동의 없이 데이터 액세스에 동의한다. 자기의 동의 없이 정보가 공유되는 것에 대해 화가 났지만, 보험사의 황금 코끼리 서비스를 통해 “오늘은 비가 오니 우산을 챙기세요” “당신이 가는 길에 교통사고가 났으니 혼잡을 피해 다른 길로 돌아가세요” 등 유용한 팁을 얻게 되면서 앱을 점차 활용하게 된다.
가족들의 사소한 행동 변화가 보험료 인상, 인하를 결정한다. 황금 코끼리는 조부모님들에게 약을 복용하게 안내해주고, 병원 예약 일정을 잡으라고 상기시켜준다. 아버지는 앱 알람의 계속된 꾸지람으로 담배를 끊고, 보험료를 할인받게 되었으며, 독한 술 대신에 레드와인을 추천받는다. 당뇨병의 위험을 가지고 있는 동생에게는 단 음식을 끊게 만들어준다.
나야나는 새로운 반 친구인 사헤지(Sahej)를 좋아하게 된다. 앱에서 “남자들에게 자신을 더 매력적으로 만드는 꿀팁”을 제시받기도 한다. 메타버스 교실에 등장한 사헤지는, 카메라를 통해 비춰진 가구와 숨겨진 그의 성씨(姓氏)를 통해 불가촉천민 출신임이 드러나 놀림거리가 된다. 그럼에도 나야나는 사헤지에 대한 마음이 커져갔고, 이 사실을 알게 된 어머니에게 반항하는 행동을 보이자 보험료가 인상되는 알람이 울린다. 사헤지가 불가촉천민 계급이라고 직접적으로 말하지 않더라도, 데이터에 기반한 추론을 통해 AI는 그와 그녀를 떼어놓는 방향으로 그녀가 취할 행동을 추천한다. 나야나가 빈민가로 향하면 앱에 경고가 쇄도한다. 가네시 보험은 나야나를 위해 최선을 다하고 싶어하지만, 진정한 사랑은 보험료를 올리는 결과를 초래한다. 결국 나야나와 사헤지는 황금 코끼리를 피해 사헤지가 사는 빈민가를 함께 걷는 선택을 한다.
영화 ‘돈 룩 업’, 그리고 AI 전문가 리카이푸와 SF소설가가 공저한 AI 소설이자 AI 해설서인 ‘AI 2041’은 더 나은 건강과 웰빙을 위한 초개인화 서비스를 다소 부정적으로 묘사한다. 디지털 미(Digital Me)로 통칭될 수 있는, 이러한 서비스들은 사람들이 더 건강하게, 그리고 더 부유한 삶을 살 수 있도록 도울 수 있다. 다만, 이러한 디지털 나 서비스는 프라이버시에 대한 위험성이 존재하므로, 철저히 사용자의 데이터를 보호하고, 최소한만을 사용하면서도 최대의 효과를 내는 것이 필요하고, 철저히 사용자 중심의 목적함수를 설정하고 이를 달성할 수 있도록 하는 AI 구조와 기법의 연구 개발이 필요하다.
경희대학교와 하렉스인포텍의 사용자 중심 인공지능 연구소는, 사용자의 데이터를 보호하는 구조를 설계하고, 사용자 정보를 최소로 사용하는 동시에, 사용자 중심의 목적 함수를 설정하고, 이를 최적으로 달성하는 경로를 찾는 인공지능을 개발하고 그 결과를 상호간에 공유함으로써 더욱 시너지를 높이는 방법론을 연구해왔다.
2021년 10월 Nature Medicine에 발표된 논문에 따르면, 전세계 20개 병원간에 COVID-19 환자에게 산소를 적절히 공급하기 위한 AI를 연합 학습한 결과 이들 병원이 따로 AI를 개발하는 것보다, 각 병원이 개발하여 공유한 글로벌 모델이 늘 성과가 좋다는 것을 확인했다. 중소 병원이 가장 크게 성과를 향상시킬 수 있었고, 가장 데이터가 많은 대형 병원도 공유 협력하는 것이 더 성과가 좋다는 것을 확인하였다. 이러한 연구는 현재 기계학습 공유 체계로 발전해나가고 있다.
필자의 연구팀은 이러한 연합 학습을 넘어, 사용자중심 AI(User Centric AI) 프로토콜을 개발 중이다. 이는 전 세계 경제주체가 AI를 공유하면서 개발할 수 있도록 하는 AI 프로토콜이다. 세상 데이터를 다 모아서 AI를 개발하는 독점적 플랫폼이 아니라 개인의 프라이버시 정보는 개인이 그대로 가지고 있고 기업의 데이터는 각 기업이 그대로 가지고 있으면서도 각자 개발한 지능을 공유하여 지능을 더 높이는 기술구조와 비즈니스 모델을 개발해 이를 공유 플랫폼이 운용하도록 하는 것이다. 이러한 공유 플랫폼은 개인에게는 건강과 행복을 유지하고, 역량을 개발해주는 디지털 미 서비스를 제공하고, 기업에게는 사업 전략과 운영에 필수적인 AI 역량을 제공하게 될 것이다.
바람직한 인공지능 서비스의 구현을 위해서는 사업자의 이익만이 아니라, 사용자의 효용과 가치관, 의지를 반영하는 사용자 중심의 목적함수를 최대화하는 AI 서비스 구현이 절대적으로 필요하다. A* 알고리듬의 관점에서 설명한다면, 사용자 중심의 목표를 설정하고, 이를 달성하기 위해 발생할 비용을 예측하는 휴리스틱을 자동 생성하는데, 실제 발생할 비용(h*)보다는 늘 작은 낙관주의적 휴리스틱을 만들면서도, 실제 발생할 비용(h*)에 가까운 휴리스틱, 즉, 현실적 관점을 가진 휴리스틱을 생성하여 사용자를 가이드하는 것이 필요하다.
필자의 연구팀은 그러한 디지털 미를 거시적 디지털 미와 미시적 디지털 미로 나누고, 이러한 디지털 미 서비스를 위한 일반 알고리듬을 개발해왔다. 그 결과 도메인 지식이 없이 순수 데이터만 가지고 사용자의 미래 상태를 예측하고, 최소한의 상식적 추론에 의해 사용자의 현재 상태를 평가하고 비교하며, 주어진 예측과 평가 함수를 기반으로, 바람직한 행동을 추천하는 알고리듬의 구조를 개발하였다.
돈룩업과 AI 2041과 같은 SF 영화나 공상과학 소설은 속성상 늘 부작용을 강조하지만, 비즈니스에는 유익하다. 기술의 비전을 보여주면서, 그 부작용을 예방할 수 있게 해주기 때문이다. 그 부작용을 사용자 중심의 AI가 해결하면서 선(善)을 실현한다. 2041년에는 사용자 중심의 AI에 기반한 사업들이 주류 비즈니스 모델로 정착될 것이고, 이를 실현하는 주체가 세계 10대 기업의 반열에 올라 있을 것이다.
<이경전 경희대·경영학 & 빅데이터응용학과 교수>
