인공지능(AI) 기반의 챗봇 서비스를 자주 사용하는 사람일수록 챗봇에 더 많이 공감하며, 챗봇을 인간화하려는 경향이 있다는 흥미로운 연구결과가 나왔다.
경상국립대학교(GNU·총장 권진회) IT공과대학 컴퓨터공학과 진효진 교수와 차미영 KAIST 교수, ㈜심심이는 공동으로 상업용 챗봇 플랫폼의 최다 활동 사용자(메시지 수로 상위 1%)들의 대화 스타일, 인구 통계, 심리학, 감정적 경향 등의 특징을 최초로 규명한 연구결과를 발표했다.
이번 연구결과는 컴퓨터-인간 상호작용 분야 국제 최우수학회인 ‘컴퓨터 지원 협업 작업 및 소셜 컴퓨팅에 대한 콘퍼런스(ACM CSCW)’에서 13일 발표됐다.
챗지피티(Chat GPT)와 같은 대화형 AI는 다양한 작업을 지원하며 100만 명 이상의 유료 사용자를 확보했다. 그러나 민감한 감정이나 개인적인 문제를 AI와 공유하는 데는 여전히 망설여진다. 이 연구는 챗봇과 감정적 유대를 형성하는 사용자와 그렇지 않은 사용자 간의 행동 패턴과 상호작용을 분석해 아직 충분히 탐구되지 않은 챗봇 사용자의 인식 영역을 조명하고자 했다.
연구진은 소셜 챗봇 서비스인 ‘심심이’의 데이터를 활용했다. 2002년 운영을 시작한 심심이는 111개 국가에 서비스되며, 하루 대화가 2억여 건에 이르는, 전 세계적으로 가장 활발히 사용되는 소셜 챗봇이다. 연구진은 챗봇 사용이 많았던 상위 1% 사용자의 영문 대화 데이터 198만8971건을 분석했다.
연구 결과 AI 챗봇의 최다 활동 사용자(슈퍼유저)들은 높은 수준의 자기 개방성을 보였다. 우울감, 슬픔, 부정적 감정뿐만 아니라 건강, 가족, 가정생활과 같은 개인적 어려움도 챗봇과 빈번히 공유하는 경향을 보였다.
설문 조사에서는 슈퍼유저들이 전반적으로 우울한 기분과 감정적 취약성을 표현하는 데 더 적극적이었으며, 챗봇을 인간화하고 공감하는 경향이 강했다. 또 이들은 챗봇과 예의 바르고 친근한 관계를 형성하려는 모습을 보였다. 이에 대해 연구진은 “일부 챗봇 상위 사용자들은 감정적으로 더 취약할 수 있다는 의미”라고 분석했다.
제1저자인 진효진 교수는 “AI와 깊은 유대를 형성하는 취약 사용자를 위해 챗봇 디자인의 개선이 필요하다”며 “특히, 개인정보 누출 위험을 줄이기 위한 경고와 지침이 요구되며, 인간과의 상호작용 감소 등 윤리적 문제를 고려한 챗봇 설계가 필요하다”고 강조했다.
이번 연구결과는 해당 학회에서 우수 연구로 선정되어 ACM CSCW의 공식 블로그와 사회관계망서비스 채널에 소개됐으며, ACM 논문집에도 게재됐다. 진주=김해연 기자