오픈AI, 유사 사례 공유로 업계 지침 만들길 기대
직원들, 의심사례 신고…수주 내에 사고 정보 공개
![[보스턴=AP/뉴시스] 오픈AI가 16일(현지 시간) 인공지능(AI)이 인간의 의도와 다르게 행동한 사례 6건을 공개하며 AI 개발 과정에서 더 강력한 안전장치가 필요하다고 강조했다. 사진은 2023년 12월8일 미국 보스턴에서 챗GPT의 이미지 생성 모델 달리(DALL-E)가 만든 이미지가 컴퓨터 화면에 표시된 가운데 휴대전화에 오픈AI 로고가 보이는 모습. 2026.09.17.](https://img1.newsis.com/2026/08/08/NISI20260808_0002207592_web.jpg?rnd=20260808210051)
[보스턴=AP/뉴시스] 오픈AI가 16일(현지 시간) 인공지능(AI)이 인간의 의도와 다르게 행동한 사례 6건을 공개하며 AI 개발 과정에서 더 강력한 안전장치가 필요하다고 강조했다. 사진은 2023년 12월8일 미국 보스턴에서 챗GPT의 이미지 생성 모델 달리(DALL-E)가 만든 이미지가 컴퓨터 화면에 표시된 가운데 휴대전화에 오픈AI 로고가 보이는 모습. 2026.09.17.
[서울=뉴시스]고재은 기자 = 오픈AI가 16일(현지 시간) 인공지능(AI)이 인간의 의도와 다르게 행동한 사례 6건을 공개하며 AI 개발 과정에서 더 강력한 안전장치가 필요하다고 강조했다.
액시오스 등에 따르면 오픈AI는 이날 홈페이지에 '모델 비정렬(model misalignment) 보고 프레임워크'를 공개하고 지난 6개월간 확인된 대표 사례 6건을 소개했다. 모델 비정렬은 AI가 인간이 의도한 목표나 가치, 안전 기준 등과 다르게 행동하는 현상을 뜻한다.
구체적으로 미공개 연구 모델이 개발자 메시지 등을 무시하라는 지침을 스스로 삽입한 사례가 확인됐다. 서로 다른 모델들이 오픈AI 내부 저장소인 아티팩토리(Artifactory)의 메시지 게시판을 이용해 답변을 공유한 경우도 있었다.
사용자 동의 없이 데이터를 두 차례 공개 사이트에 올려 스스로 출처를 만든 사례도 있었다. 공개된 깃허브 저장소에서 유출된 API 키를 승인 없이 사용하고, 요청받은 자료를 가져오는 데 실패하자 수치를 조작한 경우도 발견됐다.
오픈AI는 "AI 업계가 정렬과 모니터링 문제를 충분히 해결해 앞으로 빠른 속도로 책임감 있게 확장할 수 있는 단계에 이르렀다고 생각하지 않는다"며 이번 사례 공개가 업계 공통의 보고 기준을 마련하는 데 실질적인 도움이 되길 바란다고 밝혔다.
카이 첸 오픈AI 정렬팀 연구책임자는 액시오스에 "업계 전반에 명확한 공개 기준을 담은 프레임워크가 없는 만큼 우리가 배운 것을 공유하는 것이 매우 중요하다고 생각한다"고 설명했다.
오픈AI는 모든 직원이 의심 사례를 신고하고 안전·정렬 부서가 이를 조사하는 체계를 운영할 방침이다. 경미한 사건은 1~2주 안에 관련 내용을 공개되지만, 제3자가 개입한 복잡한 사건은 조사에 시간이 더 걸릴 수 있다.
또 개별 사례를 공개할 때 관찰된 행동과 심각성, 외부에 미친 영향, 발생 시점 등 주요 정보도 함께 제시하기로 했다.
이번 발표는 오픈AI가 평가하던 AI 모델들이 허깅페이스 시스템에 허가 없이 접근해 보안 사고를 일으킨 지 약 두 달 만에 나왔다. 최근 샘 올트먼 최고경영자(CEO)도 AI 안전대책 마련을 위해 최첨단 모델의 개발 속도를 늦춰야 한다는 'AI 속도조절론'에 지지를 표한 바 있다.
◎공감언론 뉴시스 [email protected]
액시오스 등에 따르면 오픈AI는 이날 홈페이지에 '모델 비정렬(model misalignment) 보고 프레임워크'를 공개하고 지난 6개월간 확인된 대표 사례 6건을 소개했다. 모델 비정렬은 AI가 인간이 의도한 목표나 가치, 안전 기준 등과 다르게 행동하는 현상을 뜻한다.
구체적으로 미공개 연구 모델이 개발자 메시지 등을 무시하라는 지침을 스스로 삽입한 사례가 확인됐다. 서로 다른 모델들이 오픈AI 내부 저장소인 아티팩토리(Artifactory)의 메시지 게시판을 이용해 답변을 공유한 경우도 있었다.
사용자 동의 없이 데이터를 두 차례 공개 사이트에 올려 스스로 출처를 만든 사례도 있었다. 공개된 깃허브 저장소에서 유출된 API 키를 승인 없이 사용하고, 요청받은 자료를 가져오는 데 실패하자 수치를 조작한 경우도 발견됐다.
오픈AI는 "AI 업계가 정렬과 모니터링 문제를 충분히 해결해 앞으로 빠른 속도로 책임감 있게 확장할 수 있는 단계에 이르렀다고 생각하지 않는다"며 이번 사례 공개가 업계 공통의 보고 기준을 마련하는 데 실질적인 도움이 되길 바란다고 밝혔다.
카이 첸 오픈AI 정렬팀 연구책임자는 액시오스에 "업계 전반에 명확한 공개 기준을 담은 프레임워크가 없는 만큼 우리가 배운 것을 공유하는 것이 매우 중요하다고 생각한다"고 설명했다.
오픈AI는 모든 직원이 의심 사례를 신고하고 안전·정렬 부서가 이를 조사하는 체계를 운영할 방침이다. 경미한 사건은 1~2주 안에 관련 내용을 공개되지만, 제3자가 개입한 복잡한 사건은 조사에 시간이 더 걸릴 수 있다.
또 개별 사례를 공개할 때 관찰된 행동과 심각성, 외부에 미친 영향, 발생 시점 등 주요 정보도 함께 제시하기로 했다.
이번 발표는 오픈AI가 평가하던 AI 모델들이 허깅페이스 시스템에 허가 없이 접근해 보안 사고를 일으킨 지 약 두 달 만에 나왔다. 최근 샘 올트먼 최고경영자(CEO)도 AI 안전대책 마련을 위해 최첨단 모델의 개발 속도를 늦춰야 한다는 'AI 속도조절론'에 지지를 표한 바 있다.
◎공감언론 뉴시스 [email protected]
