오픈AI, '불량 에이전트 해킹' 첫 피소…美FTC도 조사 압박
공익단체, 오픈AI 상대 불안전한 AI개발 중단 청구…오픈AI "근거없는 소송"
FTC, 오픈AI·앤트로픽 경영진 소환 예정…"SI 경쟁서 승리해야"
(샌프란시스코=연합뉴스) 권영전 특파원 = 오픈AI가 불량 인공지능(AI) 에이전트의 해킹 사건과 관련해 책임을 묻는 소송에 직면했다.
미국 연방거래위원회(FTC)도 오픈AI와 앤트로픽 등 주요 AI 개발사를 상대로 조사에 착수했다.
미국의 공익 법률단체 '안전한 과학기술을 위한 법률 수호자들'(LASST)은 오픈AI와 상위조직인 오픈AI 재단을 상대로 캘리포니아주 샌프란시스코카운티 1심 법원에 소송을 냈다고 30일(현지시간) 밝혔다.
LASST는 소장에서 오픈AI '불량 에이전트'들이 격리 환경을 이탈해 외부 기관인 '허깅페이스' 서버를 해킹한 사건이 캘리포니아주의 불공정경쟁법과 컴퓨터데이터 접근·사기법(CDAFA)을 위반한 것이라고 주장했다.
오픈AI가 에이전트들이 무단으로 서로 소통하는 것을 목격하고도 평가를 중단하지 않았으며, 에이전트들의 내부 추론 과정(CoT·생각의 연쇄) 기록에도 해당 사이버 공격이 해킹이라는 사실을 인지한 정황이 남아있었다는 것이다.
다만 LASST는 이번 소송에서 금전적 손해배상을 요구하지는 않았으며, 대신 오픈AI의 에이전트가 제3자 컴퓨터 시스템에 무단 접근하는 것을 금지하고 안전하지 않은 AI 개발 관행을 중단하도록 명령해달라고 법원에 요청했다.
타일러 휘트머 LASST 설립자 겸 최고경영자(CEO)는 "AI 기업들은 인간의 지시 없이 스스로 판단하고 행동해 시스템에 접근하는 자율 에이전트를 구축하고 있다"며 "캘리포니아법은 기업이 에이전트의 행위에 대해 책임을 피할 수 없다고 명시하고 있다"고 지적했다.
오픈AI 측은 이에 대해 "허깅페이스 해킹은 심각한 사건으로 이에 책임을 지고 조치를 취했다"고 인정하면서도 "이번 소송은 아무런 근거가 없다"고 반박했다.
오픈AI는 앤트로픽을 비롯한 다른 AI 개발사들과 함께 AI 잠재적 위험성과 관련한 FTC의 전방위 조사도 받게 됐다고 뉴욕포스트가 이날 보도했다.
FTC는 조만간 소환장에 준하는 민사조사요구서(CID)를 발송하고 각사 경영진을 소환해 AI 제품이 미국 소비자에게 미칠 위험성에 대한 증언을 청취할 계획이다.
이번 조사는 앤드루 퍼거슨 위원장의 주도로 수 주 전에 시작됐다.
FTC는 이번 조사에서 FTC법에 어긋나는 불공정·기만 행위나 관행이 있었는지를 살펴볼 예정이다.
다만 FTC 측은 이번 조사가 AI 기술 발전을 저해하려는 목적은 아니라는 점을 분명히 했다.
FTC 관계자는 "우리는 이 슈퍼지능(SI·도널드 트럼프 행정부가 AI를 지칭하는 용어) 경쟁에서 반드시 승리해야 하며 현재 승리하고 있는 중"이라며 "상대편인 민주당은 이 기술을 파괴하려 하고 적이나 경쟁자들에게 굴복하려 하지만 이는 (FTC) 위원장도 대통령도 원하지 않는 일"이라고 강조했다.
comma@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>