영국 블레츨리 파크에서 지난 1일 열린 제1회 ‘인공지능(AI) 안전 정상회의’는 시종일관 훈훈한 분위기였다. 미국과 중국, 유럽연합(EU), 한국 등 28개국이 AI 기술의 위험성에 대해 공동 협력을 다짐하는 ‘블레츨리 선언’에 합의하는 등 성과도 상당했다. 고도의 능력을 갖춘 ‘프런티어 AI’의 잠재적 위험 관리를 플랫폼에만 맡길 수는 없으니 정부와 외부 전문 기관이 적절한 수위의 규제를 가하겠다는 것이 선언의 골자다.
기업의 반발은 빅테크들을 끌어들이는 방법으로 무마했다. 실리콘밸리를 대표해 정상회의를 찾은 일론 머스크 테슬라 최고경영자(CEO)는 리시 수낵 영국 총리와의 대담에서 “AI 규제는 짜증 나는 일이지만 심판을 두는 것은 필요하다”고 말했다. AI의 잘못인가 사람이 문제인가블레츨리 선언엔 곱씹어볼 부분이 적지 않다. AI 규제는 보통의 산업 규제와 다른 점이 많다. 지금까지의 규제는 악의를 가진 기업과 정부의 싸움이었다. 이익을 늘리기 위해 불량 건자재를 쓰는 건설사가 많아지면 철근이나 시멘트 등의 규격을 정부가 정하는 식으로 규제가 만들어졌다. AI와 관련된 문제들은 플랫폼이 아니라 사용자들이 야기하는 경우가 대부분이다. 업무 효율 개선을 위해 개발한 생성 AI를 가짜뉴스 제작에 활용하는 식이다. 그런데도 정부는 플랫폼에만 초점을 맞춘다. 개개인의 움직임을 일일이 들여다볼 수 없어서다. AI의 오용을 막을 책임을 다하지 않았다는 게 정부의 규제 논리다. AI업계 일각에서 “살인사건의 책임을 범인이 아니라 칼 판매자에게 돌리는 격”이란 볼멘소리가 나오는 배경이다.
AI의 복잡성도 규제를 어렵게 만든다. AI 플랫폼은 생물과 같아서 개발자들도 어떤 메커니즘으로 결과물이 도출되는지 정확히 설명하기 어렵다. 포털 사이트 대문에 배치되는 기사를 놓고 벌어지는 논박을 떠올리면 이해가 쉽다. “특정 정당에 유리한 뉴스만 배치한다”는 정치권 지적에, 뉴스 플랫폼은 “AI 알고리즘의 결과물일 뿐”이란 논리로 응수한다. 해당 플랫폼이 정치적 의도가 있는지를 정부가 밝히는 것은 사실상 불가능하다. 빅테크의 '사다리 치우기'문제의 원인을 정확하게 파악하지 못한 정부는 AI 플랫폼 규제를 결과론으로 끌고 갈 가능성이 높다. 사회적인 문제가 터지면 사후적으로 AI 플랫폼에 책임을 묻는 식이다. 절차가 아니라 결과가 기준이 되면 AI 규제가 정치적으로 악용되기 마련이다. ‘AI 관리 소홀’이란 죄명을 붙여 미운 플랫폼에 불이익을 주는 일이 비일비재해질 것이다.
머스크 CEO 등 실리콘밸리 인사들이 AI 규제에 찬성했다는 대목도 의미심장하다. 업계에선 빅테크들이 규제를 통해 후발 업체를 견제하는 ‘사다리 치우기’에 나섰다는 해석이 나온다. AI는 자본집약 산업이다. 데이터를 모으고 분석하는 컴퓨팅 설비를 구축하는 데 드는 비용만 수십조원이다. AI 규제가 더해지면 후발주자들이 빅테크를 넘어설 가능성은 한층 더 작아진다.
한국은 블레츨리 선언의 모범생이다. 6개월 후 열리는 2차 AI 안전 정상회의 주최국이기도 하다. 정부는 글로벌 AI 질서 구축에 적극적으로 참여하면서 국내 AI 기업 생태계에 미칠 영향도 함께 들여다봐야 한다. 헛심을 들여 글로벌 빅테크에 좋은 일만 시키는 일은 없어야 할 것이다.