"생성형 AI 오남용 막자"...AI 제작 콘텐츠 '표기의무법' 발의

조인준 기자 / 기사승인 : 2023-05-22 12:58:46
  • -
  • +
  • 인쇄
▲프리랜서 플랫폼 크몽에서 'AI 표지'를 검색한 결과, 일반 일러스트보다 저렴하다. (사진=크몽 홈페이지 캡처)

생성형 인공지능(AI) 기술이 빠른 속도로 발전하면서 저작권 문제나 창작의 기준 등 부작용이 발생하고 있는 가운데 국내에서 콘텐츠에 AI 활용 여부를 표시하자는 법안이 발의됐다.

국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당)은 AI를 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 '콘텐츠산업 진흥법 일부개정법률안'을 22일 대표발의했다.

최근 챗GPT, 미드저니 등의 생성형 AI 기술이 발전하면서 이에 대한 적절한 규제가 필요하다는 주장이 나오고 있다. 인공지능 발(發) 허위 콘텐츠로 인한 혼란을 막기 위해 제도적 개선이 시급하다는 의견도 다수 제기됐다.

실제로 최근 웹소설 시장에 AI로 생성한 표지 논란이 뜨겁다. 주로 웹소설 작가는 삽화나 표지에 프리랜서 일러스트레이터를 이용하는데, 최근 미드저니·노벨AI 등 생성형 AI가 그 자리를 대체하는 추세다. 문제는 창작자의 자리가 위협받는 것뿐만 아니라 AI가 저작권자 허가 없이 기존 저작물을 무단으로 학습용 데이터로 활용하는 점이다.

한국웹소설협회는 "AI가 참고한 이미지 출처를 모르는 데다, 다른 작품·창작자와 유사할 수 있어 문제 소지가 있다"며 "현재 유료 작품이나 공모전 등에는 AI 표지를 사용하지 못하도록 규제하고 있다"고 설명했다.

또 SNS에서는 프란치스코 교황이 명품 패딩을 입고 산책하는 모습의 합성 사진이 화제가 되거나 미국 대표 언론의 앵커가 바이든 대통령을 비난하는 영상이 공유되기도 했다. 이들 모두 AI로 만든 가짜 이미지와 영상이지만 기술이 발달할수록 정교해져 사회 혼란을 야기할 수 있다는 우려도 나온다.

이상헌 의원이 발의한 콘텐츠산업 진흥법 일부개정법률안은 텍스트, 이미지, 음악 등의 콘텐츠가 인공지능 기술을 이용해 만들어졌을 경우 해당 콘텐츠가 인공지능 기술을 이용해 제작된 콘텐츠라는 사실을 표기하도록 하는 내용이 담겨있다. 개정안이 통과되면 이용자들의 진위 여부를 알 수 있게 돼 허위 정보로 인한 사회적 혼란이 방지될 것이라는 게 의원실의 설명이다.

이상헌 의원은 "인공지능 기술 발전 속도가 지나치게 빨라지면서 오남용으로 인한 부작용이 우려되고 있다"며 "현재 유럽연합에서는 인공지능이 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있으며, 미국에서도 AI로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 법안이 발의되어 있는 상황"이라고 말했다.

이어 "우리나라도 AI 오남용을 막기 위한 관리 방안을 마련해 인공지능 시대의 규범적 틀을 확립해야 한다"고 입법 취지를 밝혔다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

나무를 '녹여서' 만든다?…기후산업박람회 눈길 끈 친환경 기술

부산 해운대구 벡스코에서 열린 '2023 기후산업국제박람회(World Climate Industry EXPO·WCE)'에 기후 위기에 대응하는 친환경 기술들이 한자리에 모였다.

카카오 'RE100' 가입...2040년까지 100% 재생에너지 전환

네이버에 이어 카카오도 글로벌 이니셔티브 'RE100'에 가입했다.카카오는 RE100 가입을 기점으로 오는 2040년까지 사용전력 100%를 재생에너지로 전환하겠

[르포] "에펠탑이 잠긴다구요?"...10대 교육의 장이 된 기후산업박람회

범정부 차원에서 처음 열리는 '기후산업국제박람회' 개막 당일인 25일 부산 벡스코 앞은 이른 아침부터 시끌벅적했다. 단체로 참가하는 듯 보이는 고등

"셰브론의 넷제로는 쓰레기"...꼼수 딱 걸린 美석유재벌

미국의 석유 대기업 셰브론(CHEVRON)의 탄소중립 계획이 엉망친창일 뿐만 아니라 '그린워싱'을 일삼는 것으로 드러났다. 2022년부터 2025년까지 셰브론의

KGC인삼공사, 월드비전 아동환경교육에 2억 기부

KGC인삼공사가 지난 24일 한국월드비전에 아동 환경교육을 위해 2억원을 전달했다고 25일 밝혔다.KGC인삼공사는 2021년도부터 매년 초등학교에 '참여형 환

범정부 주최 첫 '기후산업박람회' 개막...기후위기 대응 기술 '한자리'

기후위기 대응과 관련된 기술을 한자리에서 볼 수 있는 '2023 기후산업국제박람회'(World Climate Industry EXPO, WCE)가 25일 부산 벡스코에서 개막됐다. 오는 27

TECH

+

LIFE

+

순환경제

+

Start-up

+