인공지능(AI) 비서를 시켜 쇼핑하는데 AI비서가 내 아이디와 비밀번호를 아무 전자상거래 사이트마다 다 적고 돌아 다닌다면? 또 에이전트가 고도화된 온라인 사기꾼에게 당해 내 돈을 털리는 일은 없을까?
글로벌 은행들이 온라인 쇼핑에 AI에이전트를 사용할 경우 사기, 부정행위 및 개인정보 유출 위험이 커질 수 있다고 경고하고 나섰다.
22일(현지시간) 로이터에 따르면, 뱅크오브아메리카와 냇웨스트 ING 등의 은행 그룹은 온라인 쇼핑에 AI에이전트를 사용하는 사례가 늘면서 사기와 개인정보 유출 등의 위험성도 커졌다고 경고했다.
이 보고서는 뱅크오브아메리카를 비롯, ING, 호주 커먼웰스은행, 캐피털원 등의 금융회사들이 공동 발표한 “기술개발원칙”이라는 주제의 공동 보고서이다.
보고서에 따르면, 쇼핑객들이 오픈AI, 앤트로픽, 구글과 메타 등의 AI챗봇이나 AI에이전트를 온라인 쇼핑에 활용하는 사례가 점점 증가하고 있다. 이에 따라 소매업체들도 챗봇의 추천 방식에 영향을 미치기 위해 경쟁적으로 나서고 있다.
영국의 소매업체 존 루이스에 따르면, AI 에이전트를 통한 검색이 9월 기준으로 전년 동기 0.3%에서 2.5%로 증가했다.
보고서에 따르면 고객들은 에이전트 기반 상거래의 잠재력에 열광했으며 이를 활성화하는 데 적극적이었다. 그러나 고객들은 해당 기술이 업계의 소비자 보호조치가 업계 표준보다 앞서서 발전하고 있으며 “AI가 고객의 이익을 위해 행동할 지 확신하지 못한다”는 반응을 보였다.
보고서는 “고객들이 AI 에이전트가 잘못된 물건을 구매하거나 의도하지 않은 지출을 하거나, 사기나 부정행위로 돈을 잃을 수도 있다는 점을 우려하고 있다”고 지적했다. 또 “문제가 발생했을 때 보호받을 수 있을지, 누구에게 도움을 요청해야 할지 알지 못한다”고 언급했다.
보고서는 AI 에이전트가 고객의 카드 정보를 요구해 웹사이트에 직접 입력하거나, 보안이 취약한 결제 방식을 사용자에게 유도할 가능성의 위험성도 강조했다.
은행들은 AI 에이전트가 거래에 관여할 경우 공개를 의무화하고, AI 에이전트의 의사 결정 방식에 대한 투명성 강화, 고객 정보 보호를 위한 안전장치 마련 등을 정책 입안자들과 논의할 계획이다.
보고서는 또 소비자와 판매자가 AI기반 전자상거래 서비스 중 어떤 서비스를 사용할지 자유롭게 선택할 수 있어야 하며, 서로 다른 시스템들은 상호 운용 가능해야 한다고 밝혔다.
김정아 객원기자 kja@hankyung.com