"생성형 AI 오남용 막자"...AI 제작 콘텐츠 '표기의무법' 발의

조인준 기자 / 기사승인 : 2023-05-22 12:58:46
  • -
  • +
  • 인쇄
▲프리랜서 플랫폼 크몽에서 'AI 표지'를 검색한 결과, 일반 일러스트보다 저렴하다. (사진=크몽 홈페이지 캡처)

생성형 인공지능(AI) 기술이 빠른 속도로 발전하면서 저작권 문제나 창작의 기준 등 부작용이 발생하고 있는 가운데 국내에서 콘텐츠에 AI 활용 여부를 표시하자는 법안이 발의됐다.

국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당)은 AI를 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 '콘텐츠산업 진흥법 일부개정법률안'을 22일 대표발의했다.

최근 챗GPT, 미드저니 등의 생성형 AI 기술이 발전하면서 이에 대한 적절한 규제가 필요하다는 주장이 나오고 있다. 인공지능 발(發) 허위 콘텐츠로 인한 혼란을 막기 위해 제도적 개선이 시급하다는 의견도 다수 제기됐다.

실제로 최근 웹소설 시장에 AI로 생성한 표지 논란이 뜨겁다. 주로 웹소설 작가는 삽화나 표지에 프리랜서 일러스트레이터를 이용하는데, 최근 미드저니·노벨AI 등 생성형 AI가 그 자리를 대체하는 추세다. 문제는 창작자의 자리가 위협받는 것뿐만 아니라 AI가 저작권자 허가 없이 기존 저작물을 무단으로 학습용 데이터로 활용하는 점이다.

한국웹소설협회는 "AI가 참고한 이미지 출처를 모르는 데다, 다른 작품·창작자와 유사할 수 있어 문제 소지가 있다"며 "현재 유료 작품이나 공모전 등에는 AI 표지를 사용하지 못하도록 규제하고 있다"고 설명했다.

또 SNS에서는 프란치스코 교황이 명품 패딩을 입고 산책하는 모습의 합성 사진이 화제가 되거나 미국 대표 언론의 앵커가 바이든 대통령을 비난하는 영상이 공유되기도 했다. 이들 모두 AI로 만든 가짜 이미지와 영상이지만 기술이 발달할수록 정교해져 사회 혼란을 야기할 수 있다는 우려도 나온다.

이상헌 의원이 발의한 콘텐츠산업 진흥법 일부개정법률안은 텍스트, 이미지, 음악 등의 콘텐츠가 인공지능 기술을 이용해 만들어졌을 경우 해당 콘텐츠가 인공지능 기술을 이용해 제작된 콘텐츠라는 사실을 표기하도록 하는 내용이 담겨있다. 개정안이 통과되면 이용자들의 진위 여부를 알 수 있게 돼 허위 정보로 인한 사회적 혼란이 방지될 것이라는 게 의원실의 설명이다.

이상헌 의원은 "인공지능 기술 발전 속도가 지나치게 빨라지면서 오남용으로 인한 부작용이 우려되고 있다"며 "현재 유럽연합에서는 인공지능이 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있으며, 미국에서도 AI로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 법안이 발의되어 있는 상황"이라고 말했다.

이어 "우리나라도 AI 오남용을 막기 위한 관리 방안을 마련해 인공지능 시대의 규범적 틀을 확립해야 한다"고 입법 취지를 밝혔다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

우리은행 'G.우.주 프로젝트' 시행...경기도 보호아동 위해 6억 지원

우리은행이 'G.우.주 프로젝트'를 통해 보호아동을 위해 4년간 매년 1억5000만원을 지원한다.우리은행은 경기주택도시공사(GH), 한국아동청소년그룹홈협

이재명 정부의 ESG 정책과 기업의 대응전략은...KEMI, 17일 세미나

한국ESG경영개발원(KEMI)이 오는 17일 서울 여의도 FKI타워 파인홀에서 '이재명 정부의 ESG 정책과 기업의 대응 전략'을 주제로 ESG 세미나를 개최한다고 3일

방시혁 하이브 의장 서울대 문화관 재건축에 50억 기부

방시혁 하이브 의장이 모교인 서울대학교에 기부한 50억원이 서울대 문화관 재건축에 사용된다.서울대는 3일 오후 6시 서울 관악구 서울대 문화관 중강

KCC '2025 ESG 보고서' 발간...온실가스 '스코프3'까지 확장

KCC가 ESG경영 성과와 지속가능 전략을 담은 '2025 지속가능성보고서'를 발간했다고 3일 밝혔다.올해 11번째로 발간되는 이번 보고서는 지속가능경영보고

"중대재해는 기업 ESG평가의 핵심리스크...등급 차감요소로 작용"

'중대재해'가 기업의 가치와 ESG 평가에 결정적인 영향을 미칠 것이라는 분석이 나왔다.ESG 평가 및 투자자문기관 서스틴베스트가 3일 발간한 '중대재해

하나금융 '2024 지속가능경영보고서' 발간..."객관성·투명성 강화"

하나금융그룹은 2024년 ESG 활동과 성과를 담은 '2024 지속가능경영보고서'를 발간했다고 1일 밝혔다.열여덟번째로 발간한 올해 보고서에는 '함께 성장하

기후/환경

+

때이른 폭염에 '가장 더운 6월'...1년만에 평균기온 또 갈아치웠다

올 6월 우리나라 전국 평균기온이 역대 최고를 기록하면서 '역대 가장 더웠던 6월'로 기록됐다.4일 기상청이 발표한 2025년 6월 기후특성에 따르면 6월 전

'불지옥'으로 변한 유럽...독일과 그리스 산불 계속 확산

역대급 폭염이 덮친 유럽에서 유럽으로 인한 산불이 곳곳에서 발생하면서 가득이나 뜨거운 대기를 더 뜨겁게 달구고 있다. 3일(현지시간) dpa통신 등에

[주말날씨] 낮 최고 36℃ '찜통더위'...밤에도 28℃ '열대야'

이번 주말도 낮밤을 가리지 않고 찜통더위가 이어지겠다. 중부지방은 대체로 흐리고 남부지방과 제주도는 가끔 구름많겠다.전국에 폭염특보가 발효된

소리없는 살인자 '가뭄'...수천만명 극심한 기아 시달려

기후위기로 전세계 가뭄이 심각해지면서 수천만 인구가 기아로 내몰리고 있다.3일(현지시간) 미국 국립가뭄완화센터(NMDC), 유엔 사막화방지협약, 국제

그리스, 한달만에 또 '불바다'...폭염 영향으로 산불 빈발

그리스 키오스섬에서 산불이 발생한지 채 한달도 되지 않아 이번에는 크레타섬에서 대형 산불이 발생했다.2일(현지시간) BBC방송은 그리스 크레타섬 동

폭우 걱정했는데 장마 이대로 끝?..."빨리 시작하고 빨리 끝나"

엄청난 폭우를 예상했던 올해 장마가 비가 제대로 내리지도 않은 채 2주만에 끝났다. 이처럼 예상이 완전히 빗나간 기상예보는 앞으로 일상이 될 것이

에너지

+

순환경제

+

오피니언

+