[AI픽] AI 환각 막는다…'구조화된 인지 루프' 첫 공개

[AI픽] AI 환각 막는다…'구조화된 인지 루프' 첫 공개
김명호 전 MS 임원 등 바월드 연구진, 신뢰성 새 패러다임 제시


(서울=연합뉴스) 조성미 기자 = 차세대 인공지능(AI) 구조로 '구조화된 인지 루프'(SCL·Structured Cognitive Loop)라는 새로운 패러다임이 발표됐다.
주식회사 바월드는 25일 서울 중구 한국프레스센터에서 차세대 인공지능 아키텍처 개발 발표회를 열었다고 밝혔다.
김명호 재능대 책임교수(전 한국 마이크로소프트 최고 기술 임원)가 주축이 된 연구진은 지금까지 거대언어모델(LLM)을 중심으로 한 AI 개발이 크고 복잡한 모델을 만드는 데 집중해 왔지만 환각 현상, 기억 상실, 목표 표류 같은 신뢰성 문제가 여전하다고 지적했다.
그러면서 향후 AI 발전은 규모 확장이 아니라 구조적 설계를 통해 신뢰성을 확보하는 작업이 관건이라고 강조했다.
연구진이 제안한 SCL 구조는 AI의 구조적 문제를 없애기보다는 관리하고 문제를 완화하는 데 초점을 둔다는 설명이다.
판단, 기억, 실행, 제어, 규범이라는 다섯 요소가 상호 작용하는 인지구조를 통해 AI가 보다 안정적이고 투명하게 작동하도록 돕는다.
연구진은 SCL이 새로운 시도이지만 여행 산업, 금융 서비스, 노코드 개발 등 이미 다양한 영역에서 가능성을 확인했다고 발표했다.
나아가 금융, 교육, 공공 서비스 등에서 안전하고 책임 있는 AI를 구축하는 기반이 될 수 있다고 강조했다.
김 교수는 "SCL은 아직 발전 중인 개념이지만 인공지능이 더 신뢰받는 방향으로 나아가기 위한 발걸음"이라며 "정확하고 투명하며 재현할 수 있는 AI를 함께 만들어가는 데 의미가 있기를 바란다"고 말했다.
SCL 개발에는 김 교수를 비롯해 한국전자통신연구원 출신 최완 바월드 대표, 양재동 전북대 컴퓨터인공지능학부 명예교수 등 국내외 인공지능 전문가들이 참여했다.

csm@yna.co.kr
(끝)

<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>