한국행정연구원

전체메뉴

닫기

보도자료 상세정보 보기
오픈AI 소라(Sora), 정부의 정책 소통에 기여하는 동시에 허위정보 확산, 정부 신뢰 저하의 위험도 상존
작성자 홍성연
등록일 2024-05-16
첨부파일
조회수 172

오픈AI 소라(Sora), 정부의 정책 소통에 기여하는 동시에 허위정보 확산, 정부 신뢰 저하의 위험도 상존
․ 행정硏, <이슈페이퍼> “오픈AI 소라(Sora) 기술이 공공행정에 미치는 잠재적 영향에 관한 연구” 발간
․ 사용자가 입력한 텍스트 설명에서 고품질 영상을 생성할 수 있는 혁신적인 텍스트-영상 AI모델인 소라(Sora)가 공공행정에 미치는 영향 분석 및 안전성 확보  방안 제시

□ 한국행정연구원(원장 최상한)은 오픈AI가 최근 공개한 텍스트-영상 AI 모델 ‘소라(Sora)’의 공공행정 적용 및 주요 쟁점을 다룬 <이슈 페이퍼>  「오픈AI 소라(Sora) 기술이 공공행정에 미치는 잠재적 영향에 관한 연구」를 발간했다.
* 소라(Sora): 사용자가 입력한 텍스트 설명에서 고품질 영상을 생성할 수 있는 혁신적인 텍스트-영상(Text-to-video) AI 모델. 소라는 현실에 존재하는 피사체를 학습하고 이해해 사용자가 프롬프트에 입력한 텍스트를 기반으로 사용자 의도에 맞게 최대 1분 길이의 고화질 영상을 생성
○ 2024년 2월 16일 오픈AI가 소라(Sora)의 데모 비디오를 공개하자 정식 출시 이전임에도 불구하고 공공행정을 포함한 다양한 분야에서의 파괴적 영향으로 인해 전 세계적으로 주목을 받고 있다.
○ 연구진은 향후 사용자의 영상 정보 생성, 전달 및 소비 방식을 혁신할 수 있는 새로운 인공지능(AI) 모델인 소라(Sora)가 공공행정에 미치는 영향 및 쟁점을 분석해 공개했다.
 
□ 소라(Sora)는 공공행정의 다양한 분야에서 긍정적 효과를 제공할 수 있다.
○ (정책 커뮤니케이션 방식으로 활용) 주요 서비스, 기술, 정책 등 어렵고 복잡한 내용을 시각적으로 전달함으로써 일반 국민의 이해와 공감대를 형성해 정책 수용성을 제고할 수 있다. 특히, 기존보다 인력과 재원을 절약해 정책 홍보 효과를 낼 수 있다는 장점이 있다.
○ (빅데이터 정보의 검토 및 의사 결정의 효율성과 효과성 제고) 소라를 활용해 정부의 대규모 정책 사업이나 기술 대안을 ‘입체적’, ‘사실적’으로 검토, 평가하는 등 의사결정의 효율성과 효과성을 제고할 수 있다.
○ (공무원 및 일반시민 대상 교육 훈련 분야에 활용) 소라가 제작한 영상을 교육 콘텐츠로 활용해‘체험 중심’의 교육이 가능하다.
○ (공공의료, 재난안전 등 개별 정책 도메인에 적용) 개별 정책 분야에 따라 필요한 영상 수요를 파악해 정책 개발 및 정책 서비스 제공에 다양하게 활용할 수 있다.
 
□ 반면, 소라(Sora)는 사회, 윤리적 문제 및 기술적 한계와 위험성도 갖고 있다.
○ (영상의 진위 판단의 어려움 및 허위정보 확산에 따른 정부신뢰 저하) 정부가 제공하는 고품질 소라 영상은 현재 확산되고 있는 딥페이크(Deepfake)보다 더 실제와 구별할 수 없는 가까운 영상과 뉴스를 만들어 낼 가능성이 있다.
○ (편견과 고정관념 확대) 학습데이터의 문화적 편견이나 고정관념으로 인해 소라가 생성하는 영상물에서도 소라 이용자의 문화적 편견, 선입관, 고정관념이 그대로 반영되거나 이러한 편견과 고정관념을 확대 재생산할 우려가 있다.
○ (저작권 및 개인정보 침해) 소라가 저작권이 있는 영상이나 이미지 등을 무단으로 활용해 동영상을 생성하거나 개인정보가 포함된 학습데이터와 합성데이터를 활용해 영상을 제작할 위험이 있다.

□ 연구진은 소라(Sora)의 공공분야 적용 시 발생할 수 있는 문제점 및 기술 위험 해소 방안을 제시했다.
○ 관련 부처와 기술기업, 시민사회가 협력해 제도적, 기술적 안전장치를 마련하고, 기술 활용의 윤리 원칙과 가이드라인을 수립하는 등의 체계적인 대응이 필요하다.
- 실제 영상과의 구분을 위한 워터마킹 및 인증체계 도입을 고려해야 한다. 정부와 공공기관에서 소라를 활용해 생성한 영상이 실제가 아닌 인공지능이 생성한 것이라는 것을 알리는 식별자를 부여해 노출하는 방안이 필요하다.
- 소라 등 AI 기반 의사결정 과정에 관련 실무자나 전문가의 검토 등 개입이 가능해야 한다.
- 개인정보 보호를 위한 데이터 규제를 마련해 소라 학습데이터에 개인정보가 무단 활용되지 않도록 해야 한다. 1) 과학기술정보통신부, 문화관광체육부, 개인정보보호위원회, 방송통신심의위원회 등 관련 부처가 ‘협의체’ 등을 구성해 공통으로 관리 감독하는 방안, 2) 공공기관 대상 ‘신뢰성과 안전성을 확보할 수 있는 Sora 등 생성형 AI 활용 가이드라인(안)’ 등을 마련할 필요가 있다.
○ 소라 모델 학습을 위한 개인정보 활용 시 철저한 보안 및 동의 절차를 준수하도록 동의 절차를 마련하고 준수하도록 권고해야 한다.
- 소라를 비롯한 text-to-video 플랫폼을 개발하고 제공하는 업체가 학습데이터로 활용하는 정보와 자료가 저작권 보호를 준수할 수 있도록 콘텐츠 관리 및 추적 시스템을 마련하도록 권고할 필요가 있다. 또한, 저작권이 있는 콘텐츠의 불법 활용을 원천 차단하는 시스템을 구축하는 방안에 대한 민관 공동 대처가 필요하다.
- 소라를 비롯한 text-to-video 플랫폼을 개발하고 제공하는 업체의 강력한 콘텐츠 필터링 시스템 구축을 권고해야 한다. 특히, 폭력, 혐오, 차별, 불법 콘텐츠 생성을 원천 차단하는 알고리즘 개발 등의 자발적 노력과 자율적 규제 방안을 마련해야 한다.
- 동시에 정부 차원에서는 민간 생성형 AI 업체를 대상으로 한 지속적 위험 모니터링 및 기술 안전성 평가 방안을 모색할 필요가 있다.
- 아울러, 공공영역에서 소라 기술을 비롯한 AI 기술 활용과 관련한 조직 역량과 인프라를 구축하는 한편, 공무원 대상 AI 교육 및 AI 전문 인력 확보 등의 노력도 필요하다.
 
※ 한국행정연구원 <이슈페이퍼>는 국내외 정책현안 이슈에 대한 브리프로, 정책 및 행정일반에 대한 심층 분석 및 대안을 제시하여 실효성 높은 정책이 실행되도록 기여하고 있다. 자세한 연구결과는 [한국행정연구원 홈페이지(www.kipa.re.kr) > 발간자료 > 정기간행물 > 이슈페이퍼]에서 볼 수 있다.
 
메인화면썸네일



이 페이지에서 제공하는 정보에 대하여 어느 정도 만족하셨습니까?
소중한 의견 감사드리며 답변이 필요한 의견은 묻고답하기 게시판을 이용해 주시기 바랍니다.
  • 담당부서 : 홍보팀
  • 담당자 : 홍성연
  • 문의사항 : 02-2007-0643

맨위로 이동

COPYRIGHT ⓒ 2022 BY THE KOREA INSTITUTE OF PUBLIC ADMINISTRATION ALL RIGHTS RESERVED
(우)03367 서울시 은평구 진흥로 235 대표전화 02)564-2000

홍보동영상
영상자막:
한국행정연구원은 1991년 ‘사람’ 중심의 국가발전을 위한 국정운영과 행정개혁에 대한 연구를 시작으로 지난 30년간 국정평가, 규제혁신, 사회통합, 정부조직 등 연구 영역을 확장해왔습니다.
매년 100여건의 연구과제를 선정하여 수행하고 있는 한국행정연구원은
다양한 분야에서 각 부처로부터 전문연구기관으로 지정받으며
대한민국 정부 정책을 주도하는 씽크탱크로 성장해 왔습니다.
한국행정연구원은 1991년 ‘사람’ 중심의 국가발전을 위한 국정운영과 행정개혁에 대한 연구를 시작으로 지난 30년간 국정평가, 규제혁신, 사회통합, 정부조직 등 연구 영역을 확장해왔습니다.
매년 100여건의 연구과제를 선정하여 수행하고 있는 한국행정연구원은
다양한 분야에서 각 부처로부터 전문연구기관으로 지정받으며
대한민국 정부 정책을 주도하는 씽크탱크로 성장해 왔습니다.
2021년 설립 30주년, 미래행정의 새로운 30년을 준비하기 위해 다시 나아갑니다.
불확실하고 복잡해지는 정책환경 속에서 국민 수요에 맞는 국정운영 정책과 제도 개발로 유능한 정부 구현에 이바지 하고 공공가치 실현을 위한 연구를 통해 사회갈등 해소를 위해 최선을 다하겠습니다.
나아가 행정한류 확산에 앞장서, 높아진 대한민국의 위상을 걸맞는 국제협력사업을 추진해 나가겠습니다.
국민과 함께 성장하며 다 함께 잘 사는 대한민국을 위해 미래 행정이 새롭게 달라집니다.
공공성 강화를 위한 융합적 정책연구 선도기관 한국행정연구원, 새롭게 시작합니다.
미래 정부구조 재설계
대내외 융복합 연구를 통한 미래 지향 행정연구 수행
공공가치 강화를 위한 시스템연구
공공리더십 연구 및 확산
영상자막:
The Korea Institute of Public Administration was established in 1991 under the mission of achieving national progress centered on public wellness through research on government operation and administrative reform.
Over the past three decades, we have continued to expand our scope of research into government operation assessment, regulatory reform, social integration, and government organization.
Engaging in more than 100 carefully selected research projects each year, we have been designated by various government ministries as an expert research institution and developed into a thinktank that takes initiative in crafting advanced government policies.
With our 30th anniversary in 2021, we are preparing to take another leap forward and continually thrive over the next three decades.
We will focus our resources on developing policies and institutions that pinpointedly cater to the needs of the public amid growing uncertainty and complexity to contribute to enhancing the government’s administrative competence and on executing research aimed at realizing public values to resolve social conflicts.
We will also push ahead with international cooperation projects that promote the excellence of Korea’s public administration and further raise the nation’s international standing.
We will strive to elevate public administration to new heights to advance a nation of co-growth and co-prosperity.
KIPA – a leader in convergence policy research to reinforce public wellness
We will never stand still in taking on new challenges.
Redesigning the future government structure
Conducting forward-looking administrative research based on convergence studies
Engaging in research on systems aimed at reinforcing public values
Executing and disseminating research on public leadership