“인공지능(AI) 안전성을 확보하려면 정책 입안자들은 물론 대중도 AI 기술의 현재와 미래에 대해 정확히 알 수 있도록 해야 합니다”. 지난 4일 ‘삼성AI 포럼 2024’에 강연자로 나선 오슈아 벤지오 캐나다 몬트리올대 교수(사진)의 일성이다. 벤지오 교수는 ‘AI 분야 노벨상’으로 불리는 튜링상을 2018년 받은 딥러닝 분야의 선구자다.
제프리 힌턴, 벤지오 교수와 함께 튜링상을 공동 수상한 얀 르쿤 메타 수석 AI 과학자 겸 미국 뉴욕대 교수도 기조 강연을 위해 마이크를 잡았다. 그는 대규모언어모델(LLM) 수준과 한계를 설명하면서 기계가 인간의 지능 수준에 도달하기 위해선 기술 혁신이 더 이뤄져야 한다고 강조했다. 일반인공지능(AGI)이 조만간 인간을 추월할 것이란 전망과는 정반대 전망을 내놓은 것이다.삼성전자는 4일부터 이틀간 ‘삼성AI 포럼 2024’를 열었다고 5일 밝혔다. 올해 8회째를 맞은 이번 포럼엔 벤지오 교수, 르쿤 교수와 지식 그래프 분야 세계적 권위자인 이안 호록스 영국 옥스퍼드대 교수 등이 강연자로 나섰다. 이번 포럼은 ‘SK AI 서밋’과 동시에 열린 터라 AI 산업계의 주목을 받았다.
행사가 끝나고 참석자들 사이에선 AI에 대한 삼성의 지향점을 확인할 수 있었다는 반응이 나왔다. 보안 등 AI의 안전성과 초개인화에 초점을 맞추고 있다는 분석이다. ‘메인 스피커’로 초청된 벤지오 교수는 글로벌 석학 중 AI의 윤리적 사용과 사회적 책임을 강조하는 대표적인 인물이다. 한종희 삼성전자 대표이사 부회장도 개회사에서 “AI가 놀라운 속도로 우리 삶을 변화시키고 있고 더욱 강력해지고 있는 만큼 ‘어떻게 AI를 더 책임감 있게 사용할 수 있을지’가 갈수록 중요해진다”며 “삼성전자는 보다 효율적이고 지속 가능한 AI 생태계를 구축하는 데 책임을 다하겠다”고 말했다.
‘AI 안전을 위한 베이지안 오라클’이라는 주제의 기조 강연에서 벤지오 교수는 AI의 성능이 다양한 분야에서 인간 수준을 넘어섰다는 연구 결과를 소개한 뒤 “AI가 위험한 행동을 하지 않도록 사전에 안전하게 AI를 설계하고, AI의 행동과 목표를 인간과 일치시킬 필요가 있다”고 강조했다.
베이지안 오라클은 AI와 기계 학습에서 불확실성을 다루는 개념으로, 어떤 문제나 상황에서 가능한 모든 결과의 확률을 예측하고 이를 기반으로 최적의 결정을 내리는 시스템을 의미한다. 자율주행 자동차가 보행자와 충돌 위험이 발생했을 때 어떤 선택을 할 것인지 등 윤리적 판단 문제가 생겼을 때 AI가 최적의 결정을 내릴 수 있도록 설계해야 한다는 것이 그의 핵심 논지다. 이를 위해 그는 안전하고 책임성 있는 AI를 개발하기 위한 국제적 논의와 국가별 AI 교육을 강조한다.
둘째날에 강연자로 나선 호록스 교수는 삼성전자가 올 7월 인수한 영국 AI 스타트업 옥스퍼드시멘틱테크놀로지스 공동 설립자다. 그는 ‘지식 그래프를 적용한 개인화 AI 서비스 기술’이라는 주제로 기조연설을 했다. 지식 그래프는 관련 있는 정보를 서로 연결된 그래프 형태로 표현해 주는 기술이다. 데이터를 통합하고 연결해 사용자에 대한 이해를 높이고, 빠른 정보 검색과 추론을 지원해 개인화된 AI를 구현하는 핵심 기술 중 하나다.
김채연 기자 why29@hankyung.com
