"생성형 AI 오남용 막자"...AI 제작 콘텐츠 '표기의무법' 발의

조인준 기자 / 기사승인 : 2023-05-22 12:58:46
  • -
  • +
  • 인쇄
▲프리랜서 플랫폼 크몽에서 'AI 표지'를 검색한 결과, 일반 일러스트보다 저렴하다. (사진=크몽 홈페이지 캡처)

생성형 인공지능(AI) 기술이 빠른 속도로 발전하면서 저작권 문제나 창작의 기준 등 부작용이 발생하고 있는 가운데 국내에서 콘텐츠에 AI 활용 여부를 표시하자는 법안이 발의됐다.

국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당)은 AI를 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 '콘텐츠산업 진흥법 일부개정법률안'을 22일 대표발의했다.

최근 챗GPT, 미드저니 등의 생성형 AI 기술이 발전하면서 이에 대한 적절한 규제가 필요하다는 주장이 나오고 있다. 인공지능 발(發) 허위 콘텐츠로 인한 혼란을 막기 위해 제도적 개선이 시급하다는 의견도 다수 제기됐다.

실제로 최근 웹소설 시장에 AI로 생성한 표지 논란이 뜨겁다. 주로 웹소설 작가는 삽화나 표지에 프리랜서 일러스트레이터를 이용하는데, 최근 미드저니·노벨AI 등 생성형 AI가 그 자리를 대체하는 추세다. 문제는 창작자의 자리가 위협받는 것뿐만 아니라 AI가 저작권자 허가 없이 기존 저작물을 무단으로 학습용 데이터로 활용하는 점이다.

한국웹소설협회는 "AI가 참고한 이미지 출처를 모르는 데다, 다른 작품·창작자와 유사할 수 있어 문제 소지가 있다"며 "현재 유료 작품이나 공모전 등에는 AI 표지를 사용하지 못하도록 규제하고 있다"고 설명했다.

또 SNS에서는 프란치스코 교황이 명품 패딩을 입고 산책하는 모습의 합성 사진이 화제가 되거나 미국 대표 언론의 앵커가 바이든 대통령을 비난하는 영상이 공유되기도 했다. 이들 모두 AI로 만든 가짜 이미지와 영상이지만 기술이 발달할수록 정교해져 사회 혼란을 야기할 수 있다는 우려도 나온다.

이상헌 의원이 발의한 콘텐츠산업 진흥법 일부개정법률안은 텍스트, 이미지, 음악 등의 콘텐츠가 인공지능 기술을 이용해 만들어졌을 경우 해당 콘텐츠가 인공지능 기술을 이용해 제작된 콘텐츠라는 사실을 표기하도록 하는 내용이 담겨있다. 개정안이 통과되면 이용자들의 진위 여부를 알 수 있게 돼 허위 정보로 인한 사회적 혼란이 방지될 것이라는 게 의원실의 설명이다.

이상헌 의원은 "인공지능 기술 발전 속도가 지나치게 빨라지면서 오남용으로 인한 부작용이 우려되고 있다"며 "현재 유럽연합에서는 인공지능이 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있으며, 미국에서도 AI로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 법안이 발의되어 있는 상황"이라고 말했다.

이어 "우리나라도 AI 오남용을 막기 위한 관리 방안을 마련해 인공지능 시대의 규범적 틀을 확립해야 한다"고 입법 취지를 밝혔다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

허리케인 '알베르토' 멕시코 육지로 돌진…해변도시 '물바다'

멕시코만에서 형성된 열대성 폭풍이 육지로 향하면서 멕시코와 미국 텍사스주 해안 도시들이 물바다가 됐다.19일(현지시간) AP통신 등 현지 매체에 따

네이버·HK이노엔·안랩...상장사 자산규모별 'ESG경영 리더기업' 선정

네이버, HK이노엔, 안랩이 각 자산구간별 ESG경영 리더 기업으로 선정됐다.20일 ESG 평가기관 서스틴베스트는 2024년 상반기 국내 상장사 1072곳을 대상으로

환경부, 음식물쓰레기·가축분뇨로 바이오가스 생산 늘린다…온실가스 연간 100만t 감축 목표

환경부가 바이오가스 산업을 육성해 연간 2300억원의 화석연료를 대체하고, 100만톤 가량의 온실가스를 감축하겠다고 밝혔다.환경부는 20일 한덕수 국무

포스코퓨처엠 '탄소중립 전담조직' 신설...지속가능경영보고서 발간

포스코퓨처엠이 탄소중립 전담조직을 설립해 탄소중립 로드맵을 최신화하고, 제품 전과정 평가(LCA)를 공개하는 등 선도국 시장 대응에 나섰다.20일 포

엘니뇨 가고 라니냐 온다…기상청, 올여름 '돌발 태풍' 주의

올해 엘니뇨 현상이 끝나고 라니냐 현상으로 전환되면서 올여름 돌발 태풍이 발생할 수 있다는 전망이다.19일 기상청에서 열린 '여름철 위험기상 대비

음경에서 '미세플라스틱' 발견...발기부전 일으킬 수 있다

고환과 정액에 이어, 음경에서도 미세플라스틱이 검출되면서 남성 생식력 저하에 대한 우려가 커지고 있다. 전문가들은 남성의 생식력이 최근 수십 년

TECH

+

LIFE

+

순환경제

+

Start-up

+