정부가 인공지능(AI)을 이용해 만든 콘텐츠에 'AI 표시제'를 의무화하는 한편 AI로 허위정보를 만들어 유포하면 손해의 5배까지 책임지는 징벌적 손해배상제도를 도입할 계획이다.
10일 김민석 국무총리 주재로 열린 '제7회 국가정책조정회의'에서 이같은 내용을 골자로 한 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응방안'을 발표했다. 이번 방안은 지난 10월 이재명 대통령이 AI 기술을 악용한 허위·과장광고 문제를 거론하며 관계부처에 근본적 대책마련을 지시한데 따른 것이다. 강훈식 대통령실 비서실장도 지난 11월 딥페이크 허위영상 광고에 대해 즉시 송출중단 등 강경 대응마련을 지시한 바 있다.
정부가 마련한 방안은 사전방지와 제재강화, 신속차단 등 크게 세 축으로 진행된다.
사전방지 방안은 내년 1분기에 정보통신망법을 개정해 AI사업자뿐 아니라 포털과 플랫폼, 게시자도 AI로 만든 콘텐츠라는 것을 쉽게 알 수 있도록 ' AI 생성물 표시제'를 의무화할 예정이다. AI로 만든 콘텐츠가 실사와 거의 비슷하게 고도화되면서 소비자들이 사실로 믿는 것을 사전에 차단하기 위해서다. 특히 AI를 활용한 허위·과장광고를 막아 소비자 피해를 예방하자는 차원이다. 콘텐츠에 AI 생성물 표시를 제거하거나 훼손하는 것도 금지된다.
허위·과장 광고에 대한 제재도 강화한다. AI를 악용한 허위정보에 대해 징벌적 손해배상제도를 도입해 일정규모 이상의 정보 게재자가 허위임을 알면서도 타인을 해할 의도로 허위·조작 정보를 유통할 경우 실제 발생한 손해의 최대 5배까지 배상책임을 질 수 있도록 한다. 아울러 과징금 수준을 대폭 상향해 허위·과장광고 위반 행위에 대한 제재 효과도 높일 방침이다.
아울러 AI로 의사 등 가상의 전문가를 만들어 식·의약품과 화장품, 의료기기를 광고하는 행위도 금지된다. 이같은 광고가 유포될 경우에 위법성 여부를 신속하게 판단해 허위·과장광고일 경우에 빠르게 제재할 예정이다. 이를 위해 부당광고 의심사례를 모니터링하는 시스템을 식품의약품안전처와 한국소비자원에 도입할 계획이다. 허위·과장 광고가 빈발하는 분야는 24시간내 신속처리할 수 있는 '서면 심의' 대상으로 정한다.
김민석 국무총리는 "이번 대책을 통해 신기술의 부작용을 최소화하는 동시에 AI 시대에 걸맞은 시장 질서를 확립해나갈 것"이라고 말했다.
Copyright @ NEWSTREE All rights reserved.
