[서울=뉴시스]윤정민 기자 = "사람도 신분증으로 신원을 확인해야 권한을 넘겨주고 통제할 수 있습니다. AI 역시 고유 신분증이 반드시 필요합니다."

메타 '뮤즈'와 오픈AI '닷' 등 인공지능(AI) 에이전트가 사람을 대신해 이메일을 보내고 여행을 예약하거나 상품을 구매하는 시대가 열리고 있다. 기업 현장에서도 여러 시스템을 오가며 문서를 만들고 고객 업무를 처리하는 데 AI를 적극 활용하고 있다.

문제는 AI가 이용자를 대신해 실제 행동에 나서면서 '권한'과 '책임'을 어떻게 규정하느냐다. 사고가 발생했을 때 사람이 직접 한 일인지 AI가 한 일인지, AI가 누구에게 어떤 권한을 위임받아 행동했는지 추적할 수 있어야 하기 때문이다.

이순형 라온시큐어 의장이 주목한 것이 이 대목이다. 라온시큐어는 국내에서 선도적으로 AI 에이전트와 로봇에 고유 아이디(ID)를 부여하고 위임받은 권한과 행동 이력을 관리하는 솔루션을 선보였다. 사람에게 쓰던 디지털 ID 기술을 AI와 로봇으로 넓혀 신시장 선점에 나선다는 구상이다.

이 의장은 지난달 22일 서울 영등포구 라온시큐어 사무실에서 진행한 뉴시스와의 인터뷰에서 "AI 시대의 핵심은 AI의 신원 인증과 통제"라며 "이를 책임지려면 웹3 기술력이 탄탄하게 뒷받침돼야 한다"고 강조했다.

◆AI가 사고 내면 누구 책임?…'에이전트 신분증'으로 원인 찾는다

라온시큐어는 전날 연례 컨퍼런스 '시큐업'을 열고 ▲AI 신분증 '원액세스' ▲AI 세이프가드 '원쉴드' ▲AI 데이터 라벨러 '원태그' ▲AI 자율보안 컨트롤타워 '원소어' ▲AI 모의해커 '원해커' 등 에이전틱 AI 솔루션 5종을 공개했다.

원액세스는 AI 에이전트와 로봇에 고유 ID를 발급한다. 이를 통해 서로 신원을 확인하고 권한의 위임과 회수, 행동 이력을 추적 관리한다. 원쉴드는 AI에 입력되는 요청을 분석해 악성 명령어나 보안 시스템 우회 시도를 차단한다.

라온시큐어가 AI 신원·권한 관리 해법을 전면에 내세운 것은 그동안 이어온 디지털 ID 사업 연장선에 있다.

2024년 시큐업에서는 블록체인 기반 분산신원증명(DID) 플랫폼 '옴니원 디지털아이디'를 공개하고 K-DID를 해외에 널리 보급하는 전략을 발표했다. 지난해에는 웹3와 AI를 결합한 인증·접근통제 전략을 선보였다. 사람과 데이터의 신뢰를 증명하던 기술을 올해 AI 에이전트와 로봇으로 넓힌 셈이다.

이 의장은 "모바일 신분증을 운영하며 챗GPT 시대를 예측했다"며 "AI에도 당연히 신분증이 필요하다고 보고 3년 전부터 차근차근 준비해 왔다"고 설명했다.

이 의장은 AI 에이전트의 신원을 증명하고 권한 밖 행동을 통제하려면 디지털 ID 기술과 사이버보안 역량이 모두 필요하다고 설명했다.

라온시큐어는 국가 모바일 신분증을 구축·운영하며 웹3 기반 DID 기술을 쌓았다. 국제 해킹방어대회 '데프콘 CTF' 우승팀에 참여한 화이트해커들의 공격·방어 경험도 갖추고 있다.

이 의장은 이 두 역량을 다른 보안기업과 구별되는 점으로 꼽으며 "AI는 지능을 만들고 웹3는 신뢰를 만든다"고 강조했다.

◆목표 바꾸고 권한 넘는 AI…"전략 판단은 사람이 직접 맡아야"

정식 신분증을 받은 AI라도 업무 처리 도중 권한을 넘어서거나 원래와 다른 목표를 세울 위험이 있다. 이 의장은 AI에 일을 맡길 때 오탐이나 오류로 인한 피해 규모를 반드시 따져봐야 한다고 지적했다.

이 의장은 "탐지나 보고서 작성 단계의 오류는 피해가 크지 않을 수 있다"며 "하지만 데이터 삭제처럼 복구가 힘든 작업을 AI가 잘못 수행하면 심각한 피해로 이어진다"고 설명했다.

이어 "전략을 세우거나 목표를 바꾸는 핵심 의사결정에는 반드시 사람이 관여해야 한다"며 "AI가 스스로 목표를 바꾸면 감당하기 힘든 재앙이 될 수 있다"고 경고했다.

최근 불거진 AI 속도조절론에 대해서도 소신을 밝혔다. 앞으로의 AI 경쟁력은 성능뿐 아니라 '안전성'에서 갈릴 것이라는 시각이다. 속도보다 안전이 뒤처지면 큰 사고로 이어지는 만큼, 안전을 담보한 상태에서 발전해야 한다고 덧붙였다.

◆AI 직원 수십명 거느린다…'디지털 신뢰 기업' 꿈꾸는 라온시큐어

이 의장은 앞으로의 조직 형태가 'AI 팀원과 사람 팀장' 구조로 바뀔 것으로 전망했다. 사람은 AI가 낸 결과물을 검증하고 전략적 방향을 결정하는 역할에 집중해야 한다는 뜻이다.

라온시큐어는 이러한 변화에 맞춰 사무실 곳곳에 '오늘부터 나도 팀장이다'라는 문구의 포스터를 붙였다. 이 의장은 "직원 한 명이 최소 수십 명의 AI 직원을 거느리는 체제로 바뀌어야 한다. 사원부터 모두 팀장 역량을 키워야 한다"고 말했다. 회사는 전 직원 AI 교육과 30여개 AI 도구 이용 비용도 지원하고 있다.

AI 직원을 관리한다는 구상은 시큐업 시연에도 담겼다. 라온시큐어는 'AI 1호 직원'으로 이름 붙인 휴머노이드 로봇 '라원이'에게 디지털 사원증을 발급했다. 라원이가 방문객의 모바일 신분증을 확인하고 부여받은 권한 안에서 업무를 수행하도록 통제하는 과정도 시연했다.

라온시큐어는 AI 신원·권한 관리 기술을 로봇과 드론, 자율주행차 등 피지컬 AI로 넓힐 계획이다. 이 의장은 "앞으로 더 강화하고 싶은 역량은 피지컬 AI"라며 관련 분야에서 회사 역량을 키우고 시너지를 낼 수 있는 투자·인수합병 대상을 관심 있게 보고 있다고 전했다.

AI 보안 제품의 사업화도 시작한다. 이 의장은 "4분기에 구축을 완료해 실제 업무에 적용할 고객들이 이미 있다. 매출도 4분기부터 발생한다"고 말했다.

이어 "PC와 휴대전화 같은 디바이스의 안전과 신뢰에서 시작해 사람에 대한 신뢰, 지금은 AI에 대한 신뢰로 발전하고 있다"며 "AI에 신뢰를 불어넣는 '디지털 트러스트 플랫폼 컴퍼니'로 발전하는 것이 목표"라고 밝혔다.


◎공감언론 뉴시스 alpaca@newsis.com