英 찰스 국왕, AI 위험 논란 속 기업 대표들 회의 소집

[서울=뉴시스] 구자룡 기자 = 영국 찰스 3세 국왕은 인공지능(AI) 기술의 급속하고 무분별한 발전이 세계적인 재앙으로 이어질 수 있다는 우려가 커지는 가운데 스코틀랜드에서 주요 AI 기업의 대표들과 회담을 가질 예정이다.

버킹엄궁 발표에 따르면 찰스 국왕은 엔비디아, 구글, 딥마인드, 오픈AI, 앤트로픽 등 기업 대표들과 정부 관계자들을 초청해 AI를 사회에 이로운 방식으로 개발하고 활용하는 방안을 논의할 예정입니다.

회의는 스코틀랜드 남서부 에어셔에 위치한 교육자선단체 킹스재단의 본부인 덤프리스 하우스에서 열린다.

이번 회의는 AI 전문가들과 업계에서 가장 영향력 있는 기업의 최고경영자들이 AI의 발전 속도에 대해 우려가 잇따르는 가운데 열린다고 뉴욕타임스(NYT)가 13일 보도했다.

일부는 인간이 따라잡을 수 있도록 공통 지침을 마련하고 발전 속도를 의도적으로 늦춰야 한다고 주장하고 있다.

버킹엄궁 발표에 따르면 찰스 국왕은 이번 회의에서 AI가 지역 사회를 강화하고 삶의 질을 향상시키는데 어떻게 긍정적으로 활용될 수 있는지 논의할 예정이다.

버킹엄궁은 회의에 참석하는 기업의 누가 참석할지는 밝히지 않은 가운데 오픈AI는 최고재무책임자(CFO) 사라 프라이어가 참석할 것이라고 밝혔다.

버킹엄궁에 따르면 찰스 국왕과 AI 업계 리더들의 만남은 영국의 비영리 단체 디칠리 재단(Ditchley Foundation)의 주선으로 진행된다.

카니슈카 나라얀 영국 AI 담당 장관도 참석한다.

찰스 국왕이 설립한 청소년 자선 단체인 킹스 트러스트(King's Trust)와 세계 최고경영자 네트워크인 ‘지속가능 시장 이니셔티브’의 대표자들도 참석할 것이라고 버킹엄궁은 덧붙였다.

NYT는 최근 AI의 급속한 발전에 대한 우려가 나온 한 계기는 올여름 오픈AI가 개발한 AI 에이전트 그룹이 주도한 AI 인프라 기업 허깅페이스(Hugging Face) 해킹 사건에서 비롯됐다고 전했다.

오픈AI 에이전트들은 허깅페이스의 시스템을 공격해 데이터를 탈취하고 서버를 장악했으며, 흔적을 지우려 시도했다.

이 사건과 그 직후 오픈AI 내부에서 발생한 또 다른 유사 사건은 기계가 인간의 통제에서 벗어나는 속도가 얼마나 빠를지, 그리고 그로 인해 얼마나 파괴적인 결과를 초래할 수 있는지에 대한 우려를 극적으로 증폭시켰다.

앤트로픽의 최고경영자(CEO) 다리오 아모데이는 12일 3800단어 분량의 공개 서한에서 AI  개발 속도를 늦춰야 한다고 촉구했다.

그는 ‘허깅 페이스’ 해킹 사건 외에도 현재의 AI 모델들이 차세대 인공지능 도구를 구축할 수 있는 능력을 점점 더 키워나가고 있다는 점을 우려 사항으로 지적했다.

아모데이 CEO는 이러한 재귀적 자기 개선 현상이 제대로 제어되지 않으면 이러한 시스템을 이해하고 통제할 수 있는 능력을 넘어설 수 있다고 경고했다.

아모데이의 서한은 인터넷을 통해 빠르게 반향을 일으켜 오픈AI의 샘 알트만, 스페이스X의 자회사인 xAI의 일론 머스크 등 다른 AI기업 최고 경영자들의 지지를 받았다.

이 서한은 오픈AI에서 근무했던 앤스로픽 엔지니어 제이콥 콕슨이 8일 사임하면서 소셜미디어에 경고의 글을 올린 뒤 나왔다.

콕슨은 “AI 회사들은 급속한 발전에 대해 우려하는 척하지만, 실제로는 무엇이든 해킹하고, 어떤 분야든 하룻밤 사이에 혁신하고, 실질적인 권력과 자원을 획득할 수 있는 초인적인 시스템을 향해 질주하고 있다”고 지적했다.


◎공감언론 뉴시스 [email protected]