인공지능(AI)이 이번에는 ‘갑질 상사’를 겨냥했다. 사내 메신저와 이메일 등 업무상 대화를 분석해 괴롭힘과 차별, 성희롱 징후를 조기에 포착하는 AI 소프트웨어가 빠르게 개발되고 있다. AI가 업무 효율을 높이는 데 그치지 않고 조직 내 관계까지 들여다보기 시작한 것이다. 기업의 윤리·인사 관리 방식이 변화할 수 있다는 전망이 나온다.AI가 대화 맥락까지 파악18일 블룸버그통신에 따르면 컴플라이언스 소프트웨어 업체 스마시는 BNY멜론, 모건스탠리 등 금융회사를 고객으로 두고 있다. 이 회사는 AI가 대화 속에 드러나지 않는 의도와 맥락까지 분석해 미묘한 형태의 직장 내 괴롭힘도 찾아낼 수 있다고 설명한다. 또 다른 업체인 글로벌릴레이도 AI가 부적절한 언행을 즉시 감지해 조직 내 문제의 시작점을 찾아낼 수 있다고 홍보하고 있다.
기업들이 특히 주목하는 분석 대상은 관리자다. 관리자는 업무를 배정하고 승진을 결정하는 등 직원들의 근무환경에 직접적인 영향을 미치기 때문이다.
직원 모니터링용 소프트웨어는 오래전부터 있었지만 대규모언어모델(LLM)의 등장으로 성능이 크게 향상됐다. 기존에는 욕설이나 모욕적인 표현 등 특정 단어를 중심으로 문제를 걸러내는 수준이었다. 이제는 AI가 수천 건의 대화를 분석해 맥락과 어조, 반복되는 행동 패턴까지 파악할 수 있다. 문제가 커지기 전에 괴롭힘을 일삼는 상사를 찾아낼 수 있게 됐다는 의미다.
글로벌릴레이의 도널드 맥엘리고트 컴플라이언스 담당 부사장은 “누군가를 은근히 깎아내리는 행동은 키워드만으로는 찾을 수 없다”며 “이제 AI는 대화의 맥락까지 이해해 그런 행동을 가려낼 수 있다”고 말했다. 이 기능은 약 1년 전 출시됐으며 현재 수십 개 기업이 시범 운영 중이다.
일부 기업은 해당 AI 기술을 조직문화 관리 전반으로 확대하고 있다. 글로벌 인프라 기업 에이컴의 전 최고윤리책임자(CCO)인 수전 프랭크 다이버스는 미국 서부의 한 기업이 교육 미이수나 비밀번호 미변경 등 사소한 규정 위반까지 데이터로 축적해 직원별 행동 패턴을 분석하고 있다고 소개했다. 특정 부서나 관리자에게 반복적인 이상 징후가 나타난 경우 직원 조사를 실시하고, 실제 문제가 확인되면 조치에 나선다는 설명이다.
다이버스는 “윤리·컴플라이언스 분야의 오랜 과제는 비윤리적 행동을 예측할 수 있는 신호를 찾는 것”이라며 “조직이 문제 있는 상사를 얼마나 용인하느냐가 조직문화의 수준을 결정한다”고 말했다개인정보 침해 문제 해결해야기업들이 AI를 활용해 직장 내 부적절한 행위를 막을 수 있는 역량은 커졌지만, 실제 도입 속도가 빠른 것은 아니다. 지금까지는 보안상 내부 커뮤니케이션을 감시해야 할 의무가 있는 금융업 등을 중심으로 활용되고 있다. 노동법 전문 변호사 트레이시 빌로스는 블룸버그에 “대부분 기업이 문제 상사를 찾아내는 방식을 아직 크게 바꾸지 않았다”고 말했다. 다만 그는 “앞으로 몇 년 안에 AI가 직장 내 비위 예방 체계의 핵심 도구로 자리 잡을 것”으로 내다봤다.
비용 역시 큰 걸림돌이다. 스마시의 대형 고객사들은 하루 3000만~4000만 건의 메시지를 처리한다. 이를 모두 LLM 기반 AI로 분석하려면 상당한 비용이 든다. AI가 더 많은 사례를 찾아낼수록 이를 검토할 인력을 추가로 확보해야 해 비용 부담도 커질 수 있다.
개인정보 보호 문제도 해결해야 할 과제다. 문제 있는 상사를 찾아내려면 직원들의 업무상 대화를 일정 수준 들여다봐야 하지만 많은 직원은 이를 과도한 감시로 받아들일 수 있기 때문이다.
일부 국가에서는 규제 장치도 마련하고 있다. 로이터통신에 따르면 최근 유럽연합(EU)은 AI법 가이드라인을 통해 직장에서 AI를 이용해 직원의 감정을 분석하거나 평가하는 행위에 제동을 걸었다. 캐나다에서도 주요 금융회사가 AI 기반 모니터링 시스템을 도입하면서 개인정보 침해 논란이 불거지기도 했다.
스마시 측은 “‘직원 감시’라는 말만 나와도 거부감을 느끼는 사람들이 많다”며 “기업마다 경영 목적과 개인정보 보호 사이에서 적절한 균형점을 찾아야 한다”고 말했다.
한명현 기자 wise@hankyung.com