"생성형 AI 오남용 막자"...AI 제작 콘텐츠 '표기의무법' 발의

조인준 기자 / 기사승인 : 2023-05-22 12:58:46
  • -
  • +
  • 인쇄
▲프리랜서 플랫폼 크몽에서 'AI 표지'를 검색한 결과, 일반 일러스트보다 저렴하다. (사진=크몽 홈페이지 캡처)

생성형 인공지능(AI) 기술이 빠른 속도로 발전하면서 저작권 문제나 창작의 기준 등 부작용이 발생하고 있는 가운데 국내에서 콘텐츠에 AI 활용 여부를 표시하자는 법안이 발의됐다.

국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당)은 AI를 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 '콘텐츠산업 진흥법 일부개정법률안'을 22일 대표발의했다.

최근 챗GPT, 미드저니 등의 생성형 AI 기술이 발전하면서 이에 대한 적절한 규제가 필요하다는 주장이 나오고 있다. 인공지능 발(發) 허위 콘텐츠로 인한 혼란을 막기 위해 제도적 개선이 시급하다는 의견도 다수 제기됐다.

실제로 최근 웹소설 시장에 AI로 생성한 표지 논란이 뜨겁다. 주로 웹소설 작가는 삽화나 표지에 프리랜서 일러스트레이터를 이용하는데, 최근 미드저니·노벨AI 등 생성형 AI가 그 자리를 대체하는 추세다. 문제는 창작자의 자리가 위협받는 것뿐만 아니라 AI가 저작권자 허가 없이 기존 저작물을 무단으로 학습용 데이터로 활용하는 점이다.

한국웹소설협회는 "AI가 참고한 이미지 출처를 모르는 데다, 다른 작품·창작자와 유사할 수 있어 문제 소지가 있다"며 "현재 유료 작품이나 공모전 등에는 AI 표지를 사용하지 못하도록 규제하고 있다"고 설명했다.

또 SNS에서는 프란치스코 교황이 명품 패딩을 입고 산책하는 모습의 합성 사진이 화제가 되거나 미국 대표 언론의 앵커가 바이든 대통령을 비난하는 영상이 공유되기도 했다. 이들 모두 AI로 만든 가짜 이미지와 영상이지만 기술이 발달할수록 정교해져 사회 혼란을 야기할 수 있다는 우려도 나온다.

이상헌 의원이 발의한 콘텐츠산업 진흥법 일부개정법률안은 텍스트, 이미지, 음악 등의 콘텐츠가 인공지능 기술을 이용해 만들어졌을 경우 해당 콘텐츠가 인공지능 기술을 이용해 제작된 콘텐츠라는 사실을 표기하도록 하는 내용이 담겨있다. 개정안이 통과되면 이용자들의 진위 여부를 알 수 있게 돼 허위 정보로 인한 사회적 혼란이 방지될 것이라는 게 의원실의 설명이다.

이상헌 의원은 "인공지능 기술 발전 속도가 지나치게 빨라지면서 오남용으로 인한 부작용이 우려되고 있다"며 "현재 유럽연합에서는 인공지능이 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있으며, 미국에서도 AI로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 법안이 발의되어 있는 상황"이라고 말했다.

이어 "우리나라도 AI 오남용을 막기 위한 관리 방안을 마련해 인공지능 시대의 규범적 틀을 확립해야 한다"고 입법 취지를 밝혔다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

현대차, 올해 청년 7200명 신규 채용...내년엔 1만명 확대 검토

현대자동차그룹이 올해 총 7200명을 신규 채용한다고 18일 밝혔다. 내년에는 청년 채용 규모를 1만명으로 확대하는 방안을 검토한다.현대차그룹의 청년

롯데카드, 해킹으로 297만명 정보 털렸다...카드번호, CVC까지 유출

롯데카드 해킹 사고 피해규모가 당초 예상했던 것보다 더 심각한 것으로 나타났다. 이에 롯데카드는 피해 고객 전원에게 전액 보상을 하겠다는 방침이

삼성전자, 5년간 6만명 신규채용...'반도체·바이오·AI' 중심

삼성전자가 성장사업 육성과 청년 일자리 창출을 위해 앞으로 5년간 6만명을 신규 채용하겠다고 18일 밝혔다. 매년 1만2000명씩 채용하겠다는 계획이다.

"상장기업 보고, 6개월로 바꾸자"...트럼프 주장에 美 또 '술렁'

미국 상장기업의 보고서가 분기에서 반기로 변경될 가능성이 커지고 있다.17일(현지시간) AP통신에 따르면, 도널드 트럼프 미국 대통령이 상장기업의

카카오, 지역 AI생태계 조성 위해 5년간 '500억원' 푼다

카카오그룹이 앞으로 5년간 500억원의 기금을 조성해 지역 인공지능(AI) 생태계 육성에 투자한다고 18일 밝혔다. 카카오그룹은 지역 AI 육성을 위한 거점

[ESG;NOW] 올해 RE100 100% 목표 LG엔솔 '절반의 성공'

국내 많은 기업들이 지속가능한 경영을 내세우면서 'ESG(환경·사회·지배구조)' 보고서 혹은 지속가능경영 보고서를 주기적으로 발간하고 있

기후/환경

+

가뭄이거나 폭우거나...온난화로 지구기후 갈수록 '극과극'

전 지구적으로 기후 불균형이 심각해지고 있다는 분석이다. 18일(현지시간) 세계기상기구(WMO)는 '글로벌 수자원 현황 2024' 보고서를 통해 수개월째 비가

"재생에너지 188조 필요한데…정책금융 투자액은 여전히 안갯속"

2030 국가온실가스감축목표(NDC)를 달성하려면 재생에너지 설비에 188조원을 투자해야 하지만 마중물 역할을 하는 정책금융 대부분은 재생에너지보다 화

지역 1인당 교통 배출량, 서울의 2배…"무상버스가 대안"

비수도권 교통 배출량이 서울의 2배에 달하면서 '무상버스'가 대안으로 떠오르고 있다.녹색전환연구소가 18일 발표한 보고서 '작은 도시의 교통 혁명,

'2035 NDC' 60% 넘어설까...환경부, 7차례 토론회 연다

2035년 국가 온실가스 감축 목표(2035 NDC)를 설정하기 위한 대국민 논의가 시작된다.환경부는 오는 19일부터 내달 14일까지 '2035 국가 온실가스 감축목표

뜨거워지는 한반도...2100년 폭염일수 9배 늘어난다

한반도 기온이 매년 상승하고 있어 2100년에 이르면 여름철 극한강우 영향지역이 37%로 확대되고 강수량도 12.6% 증가한다는 전망이다. 또 폭염일수도 지

국민 61.7% "2035년 온실가스 감축목표 60% 넘어야"

우리나라 국민의 61.7%는 2035년까지 온실가스를 60% 이상 감축해야 한다는데 동의하는 것으로 나왔다.기후솔루션이 지난달 한국리서치에 의뢰해 성인 200

에너지

+

순환경제

+

오피니언

+