AI 딥페이크 영상 워터마크 의무화 추진
  • 손경호기자
AI 딥페이크 영상 워터마크 의무화 추진
  • 손경호기자
  • 승인 2024.06.25
  • 댓글 0
이 기사를 공유합니다

김승수 의원, 정보통신망법
일부 개정법률안 대표 발의
허위정보 영상물 피해 급증
“딥페이크 식별표시 의무화로
건전한 기술 활용 정착 도모”

국민의힘 김승수 국회의원(대구 북구을)이 딥페이크 영상, 음향 등 인공지능(AI) 기술을 이용하여 만든 거짓 정보에 대해 온라인 게재 시 워터마크(식별표시)를 의무화하는 내용의 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률’(이하 정보통신망법) 일부개정법률안을 대표발의 했다고 25일 밝혔다.

개정안의 주요내용으로는 △정보통신망을 통해 공개되는 딥페이크 영상(음향·화상 포함)의 워터마크 표시를 의무화하고, △이를 지키지 않을 시 1천만원 이하의 과태료를 부과하도록 하는 한편, △해당 영상을 삭제할 수 있도록 하는 조항이 담겼다.

이번 개정안은 최근 인공지능 기술의 급격한 발전과 활발한 활용에 따라, 온라인 상에서 AI 기술을 이용한 거짓의 음향·화상 또는 영상 등의 정보가 빈번하게 유통되며 어떠한 정보가 딥페이크로 인한 거짓의 정보인지 혼란을 초래하고 있을 뿐만 아니라, 당사자도 모른 채 자신의 얼굴과 음성이 성적 허위영상물, 금융사기와 같은 범죄에 악용되고 있는 것에 대한 조치로 마련됐다.

최근 ‘서울대 N번방’으로 불리는 대학교 내 딥페이크 성적 허위영상물 관련 사건이 심각한 사회문제로 대두된바 있으며, 방송통신심의위원회(방심위)의 딥페이크 성적 허위영상물 시정요구 처리 건수는, 2020년(6.25.~) 473건에서 2021년 1,913건에서 2022년 3,574건, 2023년 7,187건으로 매년 기하급수적으로 증가하고 있다.


이와 같은 추세에 국·내외에서 관련 논의가 활발히 진행되고 있다. 지난 22대 총선을 앞두고 선거운동 관련 딥페이크 영상 게시 시 가상 정보라는 사실을 표시하도록 하는 ‘공직선거법’ 개정안이 시행된 바 있으며, 유럽연합(EU)은 지난 12월 8일 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 마련했으며, 미국의 경우 지난해 7월 구글, 마이크로소프트, 오픈AI 등 주요 AI기업 7곳이 미국 정부와 워터마크 사용을 공식화하고 의회 차원의 초당적 법안 제정도 추진되고 있다.

또한, 지난 5월에는 국회 국민동의청원에 ‘AI생성 표기 의무화 법안의 통과를 촉구’에 관한 청원이 게재되며 50,953명이 서명, 2024년 5월 27일 소관위원회에 회부되었으나 제21대 국회가 임기만료됨에 따라 폐기된 바 있다.

김승수 의원은 “인공지능 기술의 발전과 함께 이를 악용하는 범죄와 피해사례가 지속적으로 증가하고 하고 있다”며 “인공지능 기술을 활용한 거짓 영상에 대한 식별표시를 의무화할 경우, 건전한 인공지능 기술 활용 문화의 정착과 피해 감소에 큰 도움될 것으로 기대한다”고 밝혔다.

 



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

최신기사
  • 경북 포항시 남구 중앙로 66-1번지 경북도민일보
  • 대표전화 : 054-283-8100
  • 팩스 : 054-283-5335
  • 청소년보호책임자 : 모용복 국장
  • 법인명 : 경북도민일보(주)
  • 제호 : 경북도민일보
  • 등록번호 : 경북 가 00003
  • 인터넷 등록번호 : 경북 아 00716
  • 등록일 : 2004-03-24
  • 발행일 : 2004-03-30
  • 발행인 : 박세환
  • 편집인 : 모용복
  • 대표이사 : 김찬수
  • 경북도민일보 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2024 경북도민일보. All rights reserved. mail to HiDominNews@hidomin.com
ND소프트