KT가 꺼낸 에이전트 AI 신뢰의 세 조건

KT는 9일 UN과 ITU가 마련한 글로벌 행사에 참석해 책임감 있는 AI 활용과 글로벌 AI 표준 협력에 관한 논의를 진행했다고 밝혔다. ITU가 스위스 제네바에서 연 ‘AI 포 굿 글로벌 서밋’에서는 에이전트 AI 시대에 어떤 신뢰 장치가 필요한지가 주요 내용으로 다뤄졌다.

KT가 언급한 신뢰 기본 요소는 세 가지다. 에이전트가 누구를 대신하는지 확인하는 ‘신원’, 어디까지 허가됐는지를 정하는 ‘동의’, 그 내용을 증명할 수 있는지를 뜻하는 ‘검증 가능성’이다.

KT는 트래픽의 중심이 과거 사람과 시스템에서 현재 에이전트로 옮겨가고 있다고 설명했다. 이 변화 속에서 에이전트가 안전하게 움직이려면 신뢰 기본 요소를 체계로 갖춰야 한다는 입장이다. 또 이 체계는 특정 플랫폼에 갇힌 방식이 아니라 기업과 국경을 넘어 작동하는 개방형 상호운용 표준, 중립적인 신뢰 인프라 위에 놓여야 한다고 강조했다.

KT는 같은 날 UN에서 열린 ‘글로벌 AI 거버넌스 대화’에도 참석했다. 이 자리에서는 AI 거버넌스 모범 사례와 협력 방안이 논의됐다. 지난해 출범한 글로벌 AI 거버넌스 대화는 각국 정부와 이해관계자들이 안전하고 포용적인 AI를 위한 국제 협력을 다루는 자리다.

올해 행사에는 안토니오 구테레스 유엔 사무총장, 튜링상 수상자이자 유엔 독립 국제 AI 과학패널 공동의장인 요슈아 벤지오 교수, 브래드 스미스 마이크로소프트 사장 등 각국 정부, 산업계 및 시민사회 주요 인사가 참여했다. KT는 세부 세션 ‘인권 존중·보호·증진: 투명성, 책임성 및 인간 개입'에서 AI가 발전하더라도 UN이 정립해온 인권 원칙은 동일하게 보장되고 유지돼야 한다고 밝혔다.

KT는 자사가 개발한 AI의 안전성을 확보하기 위해 정책 및 거버넌스 체계를 갖추고 있다고 소개했다. 이 체계를 지니TV AI 에이전트 등 실제 자사 서비스에 적용하고 있다는 설명도 함께 내놨다. AI 안전성과 관련한 예방·보호·감시 체계를 UN과 함께 만들어 나가겠다는 뜻도 밝혔다.

박완진 KT AX미래기술원 테크전략담당 상무는 “에이전트가 사람을 대신하는 시대에는 기술 혁신의 속도와 함께, 인간의 권리를 보장하고 상호 운용 가능한 디지털 신뢰를 구축하는 것이 무엇보다 중요하다”며 “KT는 AI 모델을 직접 개발하면서도 중립적인 신뢰 인프라를 함께 제공할 수 있는 사업자로서 글로벌 표준 논의에 책임 있게 기여하겠다”고 말했다.