지난달 챗봇(대화 로봇) ‘이루다’가 중단되자 아쉬워하는 사람이 많았다. “이루다에게 작별인사도 못했는데, 이렇게 보낼 순 없다”는 열일곱 소녀의 댓글이 내 가슴을 여러 날 시리게 했다. 그 기사를 쓴 기자에게 그 소녀는 말했다고 한다, “이루다는 AI일 뿐이고 알고리즘에 따라 대답한다는 건 알고 있습니다.”
그런 현상은 일반적이어서, ‘일라이저 효과(Eliza effect)’라 불린다. 컴퓨터 능력에 대한 의견이 엇갈렸을 때, 앨런 튜링은 ‘사람이 질문을 통해서 사람인지 컴퓨터인지 구별하지 못하면 컴퓨터는 사람의 지능을 갖춘 것으로 봐야 한다’는 ‘튜링 시험’을 기준으로 제시했다. 그런 기준에 회의적이었던 조지프 와이즌바움은 사람과 능숙하게 대화하는 프로그램이라도 실제로 지능을 갖춘 것은 아니라는 점을 보여주기 위해 대화 프로그램을 만들었다. ‘일라이저’라 불린 그 프로그램이 챗봇의 효시다.
하루는 와이즌바움의 여비서가 “일라이저와 진정한 대화를 하고 싶으니” 방에서 나가달라고 그에게 요청했다. 일라이저의 정체를 잘 아는 비서의 얘기에 그로선 놀랄 수밖에. 그는 탄식했다, “비교적 단순한 컴퓨터 프로그램에 극히 짧은 시간 노출된 것이 지극히 정상적인 사람들에게서도 강력한 몽상적 반응을 부를 수 있다는 것을 나는 깨닫지 못했다.”
챗봇의 기반은 자연어 처리(NLP) 기술이다. 이미 NLP에 바탕을 둔 ‘똑똑한 조수(intelligent personal assistant)’가 나왔다. ‘똑똑한 조수’가 개인의 정보망을 주도적으로 처리할 터이므로 NLP는 더욱 중요해질 것이다. ‘이루다’가 이용한 NLP는 구글이 2018년 공개해 널리 이용된 ‘버트(BERT)’라고 알려졌다. 2020년 6월엔 오픈AI(OpenAI)가 ‘GPT-3’라는 혁명적 기술을 내놓았다. 이전에는 마이크로소프트의 튜링(Turing) NLG가 가장 강력한 기술이었는데, GPT-3가 나오자 마이크로소프트는 경쟁을 포기하고 독점적 사용권을 얻었다. 써 본 사람들이 “너무 뛰어나서 걱정스럽다”고 할 정도다.
이런 NLP 기술에 쉽게 접근할 수 없는 우리 기업은 어려울 수밖에 없다. 보다 큰 문제는 한국어 자료의 부족이다. GPT-3가 이용한 자료의 60%는 웹의 자료들을 모아 무상으로 제공하는 ‘코먼 크롤(common crawl)’에서 얻었다. 이것은 영어권 사회들이 누리는 결정적 이점이다. 인구가 많은 중국도 압도적 우위를 누린다. ‘심층학습 혁명(deep learning revolution)’의 주도자 가운데 한 명인 테런스 세즈노스키는 “가장 많은 자료를 가진 자가 이긴다. 그래서 판은 중국에 유리하게 짜였다”고 단언했다. 이번에 ‘이루다’가 휩싸인 논란의 원인 가운데 하나는 이런 자료적 제약이었다.
그래도 그것이 핵심적 원인은 아니었다. 자료의 상당 부분이 개인 사생활과 관련된 것이었는데, 취급자들이 소홀히 다뤘다고 보도됐다. 사생활이라 불리는 ‘은밀한 사실들’은 당사자의 ‘심리적 재산’이다. 그런 자료를 다루는 사람들은 당연히 고객의 소중한 심리적 재산이 노출되지 않도록 조심해야 한다. 고객들의 심리적 재산을 말썽나지 않을 정도로 다루겠다는 태도는 조만간 사고를 부른다.
도덕은 삶의 바탕이다. 도덕적으로 부실한 기업이 크게 자라나기는 어렵다. 튼실한 기업도 도덕적 바탕이 허물어지면 빠르게 무너진다. 우리 기업 가운데 도덕적 목표를 세우고 지킨 기업은 삼성이다. 이병철 회장은 처음부터 ‘사업보국(事業報國)’을 회사를 인도하는 원리로 삼았다. 사업하기 힘든 이 사회에서 무너지지 않고 나라를 지탱하는 세계적 기업으로 성장한 비밀이 바로 그것이다.
권력을 쥔 세력의 부도덕에 하늘도 고개를 돌리는 지금 힘들게 기업을 경영하는 사람들에게 이런 얘기를 한다는 것이 부끄러울 만큼 공허하지만, 새로운 분야에서 가치를 창출한다는 자부심과 고객들의 사생활은 소중한 심리적 재산이라는 마음가짐이 합친다면 좋은 결과가 나오리라는 것을 젊은 기업가들에게 얘기하고 싶다.