오픈AI 소라(Sora), 정부의 정책 소통에 기여하는 동시에 허위정보 확산, 정부 신뢰 저하의 위험도 상존
․ 행정硏, <이슈페이퍼> “오픈AI 소라(Sora) 기술이 공공행정에 미치는 잠재적 영향에 관한 연구” 발간
․ 사용자가 입력한 텍스트 설명에서 고품질 영상을 생성할 수 있는 혁신적인 텍스트-영상 AI모델인 소라(Sora)가 공공행정에 미치는 영향 분석 및 안전성 확보 방안 제시
□ 한국행정연구원(원장 최상한)은 오픈AI가 최근 공개한 텍스트-영상 AI 모델 ‘소라(Sora)’의 공공행정 적용 및 주요 쟁점을 다룬 <이슈 페이퍼> ｢오픈AI 소라(Sora) 기술이 공공행정에 미치는 잠재적 영향에 관한 연구｣를 발간했다.
* 소라(Sora): 사용자가 입력한 텍스트 설명에서 고품질 영상을 생성할 수 있는 혁신적인 텍스트-영상(Text-to-video) AI 모델. 소라는 현실에 존재하는 피사체를 학습하고 이해해 사용자가 프롬프트에 입력한 텍스트를 기반으로 사용자 의도에 맞게 최대 1분 길이의 고화질 영상을 생성
○ 2024년 2월 16일 오픈AI가 소라(Sora)의 데모 비디오를 공개하자 정식 출시 이전임에도 불구하고 공공행정을 포함한 다양한 분야에서의 파괴적 영향으로 인해 전 세계적으로 주목을 받고 있다.
○ 연구진은 향후 사용자의 영상 정보 생성, 전달 및 소비 방식을 혁신할 수 있는 새로운 인공지능(AI) 모델인 소라(Sora)가 공공행정에 미치는 영향 및 쟁점을 분석해 공개했다.
□ 소라(Sora)는 공공행정의 다양한 분야에서 긍정적 효과를 제공할 수 있다.
○ (정책 커뮤니케이션 방식으로 활용) 주요 서비스, 기술, 정책 등 어렵고 복잡한 내용을 시각적으로 전달함으로써 일반 국민의 이해와 공감대를 형성해 정책 수용성을 제고할 수 있다. 특히, 기존보다 인력과 재원을 절약해 정책 홍보 효과를 낼 수 있다는 장점이 있다.
○ (빅데이터 정보의 검토 및 의사 결정의 효율성과 효과성 제고) 소라를 활용해 정부의 대규모 정책 사업이나 기술 대안을 ‘입체적’, ‘사실적’으로 검토, 평가하는 등 의사결정의 효율성과 효과성을 제고할 수 있다.
○ (공무원 및 일반시민 대상 교육 훈련 분야에 활용) 소라가 제작한 영상을 교육 콘텐츠로 활용해‘체험 중심’의 교육이 가능하다.
○ (공공의료, 재난안전 등 개별 정책 도메인에 적용) 개별 정책 분야에 따라 필요한 영상 수요를 파악해 정책 개발 및 정책 서비스 제공에 다양하게 활용할 수 있다.
□ 반면, 소라(Sora)는 사회, 윤리적 문제 및 기술적 한계와 위험성도 갖고 있다.
○ (영상의 진위 판단의 어려움 및 허위정보 확산에 따른 정부신뢰 저하) 정부가 제공하는 고품질 소라 영상은 현재 확산되고 있는 딥페이크(Deepfake)보다 더 실제와 구별할 수 없는 가까운 영상과 뉴스를 만들어 낼 가능성이 있다.
○ (편견과 고정관념 확대) 학습데이터의 문화적 편견이나 고정관념으로 인해 소라가 생성하는 영상물에서도 소라 이용자의 문화적 편견, 선입관, 고정관념이 그대로 반영되거나 이러한 편견과 고정관념을 확대 재생산할 우려가 있다.
○ (저작권 및 개인정보 침해) 소라가 저작권이 있는 영상이나 이미지 등을 무단으로 활용해 동영상을 생성하거나 개인정보가 포함된 학습데이터와 합성데이터를 활용해 영상을 제작할 위험이 있다.
□ 연구진은 소라(Sora)의 공공분야 적용 시 발생할 수 있는 문제점 및 기술 위험 해소 방안을 제시했다.
○ 관련 부처와 기술기업, 시민사회가 협력해 제도적, 기술적 안전장치를 마련하고, 기술 활용의 윤리 원칙과 가이드라인을 수립하는 등의 체계적인 대응이 필요하다.
- 실제 영상과의 구분을 위한 워터마킹 및 인증체계 도입을 고려해야 한다. 정부와 공공기관에서 소라를 활용해 생성한 영상이 실제가 아닌 인공지능이 생성한 것이라는 것을 알리는 식별자를 부여해 노출하는 방안이 필요하다.
- 소라 등 AI 기반 의사결정 과정에 관련 실무자나 전문가의 검토 등 개입이 가능해야 한다.
- 개인정보 보호를 위한 데이터 규제를 마련해 소라 학습데이터에 개인정보가 무단 활용되지 않도록 해야 한다. 1) 과학기술정보통신부, 문화관광체육부, 개인정보보호위원회, 방송통신심의위원회 등 관련 부처가 ‘협의체’ 등을 구성해 공통으로 관리 감독하는 방안, 2) 공공기관 대상 ‘신뢰성과 안전성을 확보할 수 있는 Sora 등 생성형 AI 활용 가이드라인(안)’ 등을 마련할 필요가 있다.
○ 소라 모델 학습을 위한 개인정보 활용 시 철저한 보안 및 동의 절차를 준수하도록 동의 절차를 마련하고 준수하도록 권고해야 한다.
- 소라를 비롯한 text-to-video 플랫폼을 개발하고 제공하는 업체가 학습데이터로 활용하는 정보와 자료가 저작권 보호를 준수할 수 있도록 콘텐츠 관리 및 추적 시스템을 마련하도록 권고할 필요가 있다. 또한, 저작권이 있는 콘텐츠의 불법 활용을 원천 차단하는 시스템을 구축하는 방안에 대한 민관 공동 대처가 필요하다.
- 소라를 비롯한 text-to-video 플랫폼을 개발하고 제공하는 업체의 강력한 콘텐츠 필터링 시스템 구축을 권고해야 한다. 특히, 폭력, 혐오, 차별, 불법 콘텐츠 생성을 원천 차단하는 알고리즘 개발 등의 자발적 노력과 자율적 규제 방안을 마련해야 한다.
- 동시에 정부 차원에서는 민간 생성형 AI 업체를 대상으로 한 지속적 위험 모니터링 및 기술 안전성 평가 방안을 모색할 필요가 있다.
- 아울러, 공공영역에서 소라 기술을 비롯한 AI 기술 활용과 관련한 조직 역량과 인프라를 구축하는 한편, 공무원 대상 AI 교육 및 AI 전문 인력 확보 등의 노력도 필요하다.
※ 한국행정연구원 <이슈페이퍼>는 국내외 정책현안 이슈에 대한 브리프로, 정책 및 행정일반에 대한 심층 분석 및 대안을 제시하여 실효성 높은 정책이 실행되도록 기여하고 있다. 자세한 연구결과는 [한국행정연구원 홈페이지(
www.kipa.re.kr) > 발간자료 > 정기간행물 > 이슈페이퍼]에서 볼 수 있다.
