이 기사는 07월 17일 10:20 마켓인사이트에 게재된 기사입니다.
모르는 것을 아는 척하는 사람을 본 적 있을 것이다. 일종의 ‘허세’다. 그런데 인공지능(AI)도 사람처럼 허세를 부린다. Chat GPT가 한때 놀림받은 이유다. 대표적인 사례로 ‘세종대왕 맥북 던짐 사건’이 있다. Chat GPT에 ‘세종대왕 맥북 던진 사건’을 물었더니 다음과 같이 답을 받은 일화다.“조선왕조실록에 기록된 일화로, 15세기 세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 문서 작성 중단에 대해 담당자에게 분노해 맥북 프로와 함께 그를 방으로 던진 사건”.
이처럼 AI가 사실이 아닌 내용을 사실인 듯 알려주는 현상을 통상 ‘hallucination’(환각)이라고 한다. 필자는 개인적으로 ‘허세’라고 부른다. 이 같은 오류는 GPT가 답변에 대해 진위판정을 하지 않고, 개념을 학습하지 않은 특성에서 비롯됐다. 물론 챗지피티에 지금 똑같은 질문을 한다면, 능청스럽게 인터넷상 농담이니 크게 신경 쓰지 말라는 답이 돌아올 것이다. 오류가 개선됐기 때문이다.
GPT(Generative Pre-trained Transformer)는 참과 거짓을 판명하는 도구라기 보다 문장 다음에 이어질 가장 자연스러운 단어를 예측하는 모델이다. GPT의 G인 ‘Generative’(생성의)는 사람이 주입한 입력값에 기초해 다른 객체를 만들어 내는 것을 뜻한다. ‘Pre-trained’(사전훈련)는 언어 생성 모델이 이미 많은 데이터를 넣어 훈련됐다는 것을 말한다. 가장 중요한 트랜스포머(Transformer)는 문맥을 읽고 가장 적절한 단어를 ‘확률’적으로 찾도록 훈련된 ‘(합성)함수’다.
여담이지만 GPT에 필수적인 장비가 GPU이고, GPU는 상당한 전기가 필요하다. 이를 위한 데이터센터와 변압기(Transformer)의 수요가 공급을 초과하고 있다. 테슬라의 일론 머스크가 “전기 변압기(transformer)의 부족이 인공지능 모델인 트랜스포머(transformer)의 발전에 큰 제약이 된다”고 말한 것은 동음이의어를 활용한 재치 있는 설명이 아닐 수 없다.
다시 돌아와 GPT를 금융업에 그대로 적용하기에는 한계가 있다는 것이 필자의 생각이다. 금융업은 신뢰성, 적시성, 정확성이 담보되어야 한다. 신뢰성에는 앞서 본 것 같이 ‘허세’라는 한계가 있다. 적시성의 한계는 사전훈련(Pre-trained) 과정에서 입력되는 데이터가 과거의 것이라는 점이다. 그래서 Chat GPT 4o버전에서는 지난해 10월까지의 내용만 답할 수 있다. 1분 1초의 적시성을 다루는 금융업에서 활용하기에는 고민이 커질 수밖에 없다.
이러한 한계점을 극복하는 방법으로 ‘검색증강생성’(RAG, Retrieval Augmented Generation)이 활발히 논의된다. RAG는 출처가 있고, 최신화가 가능한 데이터베이스를 토대로 답변한다. 분리된 데이터베이스에서 정보를 찾아서 이를 토대로 답변을 생성하기 때문에, 오픈소스 ‘GenAI’(생성형 인공지능)를 함께 이용하면 데이터 유출 걱정을 해소할 수 있다. 검색(Retrieval)은 응답을 생성하기 전에 신뢰할 수 있는 지식이 담긴 데이터베이스를 참조하고, 이때 데이터베이스는 언제든지 업데이트될 수 있다. 정보 출처도 알 수 있어 사용자 신뢰성도 강화할 수 있다. 또한 데이터베이스가 있다는 것은 어떤 이용자가 데이터에 접속 가능한지를 관리할 수 있다는 의미다. 이와 동시에 신뢰할 수 있는 지식을 근거로 생성된 데이터이기에 ‘허세’ 확률을 대폭 줄일 수 있을 것이다. 다시 한번 정리하면 비용이 많이 드는 모델의 재훈련 과정이 없고, 정보 소스로부터 전문적 문맥을 언어 모델에 제공하며 모델 답변의 정확성을 올리는 기술이다.
글로벌 컨설팅회사인 맥킨지는 금융업이 가치창출 능력과 용이성 측면에서 AI를 활용하는 몇 가지 방법을 제시했다. 첫째가 미래현금흐름 추정이다. RAG를 이용한다면 수입과 비용, 차입과 자본 투입에 대한 자료를 모델에 반영해 미래현금흐름에 대한 체계적인 인과관계, 다양한 시나리오 분석이 가능할 것이다. 이지스자산운용도 ‘캐플러(Caflur)’라는 자체적인 툴로 현금흐름모델과 RAG 통합을 연구하고 있다.
둘째, 시장과 경쟁환경 분석(Market and competition monitoring)이다. 이지스자산운용은 부동산, 인프라 등 대체투자 외에도 국내외 리츠와 관련 주식, 채권에 투자한다. 이에 관련한 리서치 자료 수백개를 RAG를 통해 손쉽게 분석하고 투자의사결정의 기준으로 이용하는 실험을 하고 있다. 아울러 다양한 공간 정보(매물, 거래 및 임대 사례, 공급 등 시장 자료와 교통량, 인구분포 등 사회과학 데이터)를 지도화하고 해당 자료를 RAG를 적용해 손쉽게 분석하는 방법을 시도하고 있다. 아울러 펀드별 여유 현금관리 등에도 그 실용성이 기대된다.
AI의 봄이 왔다. 글로벌 금융기업인 시타델증권과 밀레니엄매니지먼트는 AI를 도입하기 위하여 내부 데이터와 비즈니스모델를 클라우드로 전환하고 있다. 금융업과 AI 역시 수어지교(水魚之交)의 관계로 따로 놓고 볼 수 없는 세상이 오고 있다. 국내 금융업의 AI 선용을 위한 숙제로 거론되는 ‘망분리 규제’에 대해 감독당국과 업계가 모두 개선하려 노력 중인 사실은 매우 반갑고 감사한 일이다.
AI 활용은 결국 ‘좋은 질문’을 달렸다. “질문에 답이 있다”는 고대 철학자 소크라테스의 가르침이나 “나에게 1시간이 주어진다면, 문제가 무엇인지 정의하는데 55분을 쓰고, 해결책을 찾는 데 나머지 5분을 쓸 것이다”라는 아인슈타인의 명언은 함의가 크다. AI가 금융에서도 고객에 더 큰 유익을 주는 ‘좋은 질문’을 위한 유용한 도구로 자리 매김하길 기대한다.
