인공지능 기술 이용한 딥페이크 영상에 대한 정부의 관리, 감독 강화
피해 및 유통 실태, 관련 기술 동향 파악 및 피해 예방 기술 개발 등 예방에 초점
김현정 의원, 딥페이크를 이용한 거짓 정보, 가짜뉴스 유통과 피해 방지에 최선을 다할 것
김현정 의원(더불어민주당, 평택병)은 3일(화) 딥페이크 영상의 무분별한 제작, 유통으로 인한 피해 예방을 위한 「정보통신망법 일부 개정안」을 대표 발의했다.
딥페이크는 인공지능 기술을 이용하여 이미지를 합성하거나 가공의 영상을 만드는 기술로 교육, 의료, 영화 및 엔터테인먼트 등에 활용되는 등 산업적 잠재력이 큰 기술로 주목을 받아왔다.
하지만 이를 악용한 영상으로 인한 피해 사례가 점점 늘어나면서 딥페이크 기술을 이용하여 만든 거짓의 음향,·화상 또는 영상이 거짓 정보나 가짜뉴스의 위협을 더욱 증가시킬 것이라는 우려가 제기되고 있다.
김현정 의원이 발의한 법안은 방송통신위원회와 과학기술정보통신부가 인공지능 기술을 이용하여 만든 거짓 영상 등으로 인한 피해실태 파악, 유통 실태 파악, 관련 국내외 기술 동향 파악, 피해 예방을 위한 기술 개발과 교육·홍보 등의 시책을 수립하도록 하는 내용을 담고 있다.
김현정 의원은 “인공지능 기술을 이용한 거짓 정보와 가짜뉴스가 무분별하게 확산고 있어 제도와 정부의 적극적 대처가 시급한 상황”이라면서 “법안이 하루빨리 통과되어 거짓 뉴스, 가짜정보의 유통과 피해를 예방할 수 있도록 최선을 다하겠다”고 밝혔다.
정보통신망 이용촉진 및 정보보호 등에 관한 법률
일부개정법률안
(김현정의원 대표발의)
의 안
번 호
|
|
| 발의연월일 : 2024. 9. .
발 의 자 : 김현정 의원
찬 성 자 : 찬성의원수 인
|
|
|
|
|
|
|
딥페이크(Deep Fake)란 사람을 대상으로 한 영상에 인공지능 기술을 이용하여 타인의 얼굴이나 신체 부위의 이미지를 중첩하거나 결합하여 일반인이 합성 여부를 확인하는 것이 사실상 불가능한 가공의 영상을 만드는 기술로 영화제작에 활용되는 등 산업적 잠재력이 큰 기술로 주목받고 있음.
그런데 최근 딥페이크 영상이 유포되면서 딥페이크 기술을 이용한 인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등 정보 전반이 거짓 정보나 가짜뉴스의 위협을 더욱 증가시킬 수 있다는 우려를 낳고 있음.
이에 인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등 정보 전반의 무분별한 유통으로 인한 피해를 예방하기 위하여 방송통신위원회와 과학기술정보통신부가 인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등 정보 전반으로 인한 명예훼손 등의 피해 실태 파악, 인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등 정보 전반 유통 실태 및 관련 국내외 기술 동향 파악, 유통 방지를 위한 기술 개발의 촉진, 교육·홍보 등의 시책을 추진하도록 함으로써 건전한 정보통신망 이용환경을 조성하려는 것임.
법률 제 호
정보통신망 이용촉진 및 정보보호 등에 관한 법률
일부개정법률안
정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부를 다음과 같이 개정한다.
제5장에 제44조의11을 다음과 같이 신설한다.
제44조의11(인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등의 정보로 인한 피해 예방에 관한 시책의 마련) 과학기술정보통신부장관 및 방송통신위원회는 사람을 대상으로 하여 인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등 정보(이하 “인공지능 기술 이용 거짓 정보”라 한다)의 무분별한 유통으로 인한 피해를 예방하기 위하여 다음 각 호의 시책을 추진하여야 한다.
1. 인공지능 기술 이용 거짓 정보의 유통 실태 파악
2. 인공지능 기술 이용 거짓 정보의 유통으로 인한 명예훼손 등 피해 실태 파악
3. 인공지능 기술 이용 거짓 정보 관련 국내외 기술 동향 파악
4. 인공지능 기술 이용 거짓 정보의 무분별한 유통 방지를 위한 기술 개발의 촉진
5. 인공지능 기술 이용 거짓 정보의 무분별한 유통 방지 및 피해 예방을 위한 교육·홍보
6. 그 밖에 인공지능 기술 이용 거짓 정보의 무분별한 유통 방지 및 피해 예방에 필요한 사항
부 칙
이 법은 공포 후 3개월이 경과한 날부터 시행한다.
신·구조문대비표
현 행
| 개 정 안
|
|
|
<신 설>
| 제44조의11(인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등의 정보로 인한 피해 예방에 관한 시책의 마련) 과학기술정보통신부장관 및 방송통신위원회는 사람을 대상으로 하여 인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등 정보(이하 “인공지능 기술 이용 거짓 정보”라 한다)의 무분별한 유통으로 인한 피해를 예방하기 위하여 다음 각 호의 시책을 추진하여야 한다.
1. 인공지능 기술 이용 거짓 정보의 유통 실태 파악
2. 인공지능 기술 이용 거짓 정보의 유통으로 인한 명예훼손 등 피해 실태 파악
3. 인공지능 기술 이용 거짓 정보 관련 국내외 기술 동향 파악
4. 인공지능 기술 이용 거짓 정보의 무분별한 유통 방지를 위한 기술 개발의 촉진
5. 인공지능 기술 이용 거짓 정보의 무분별한 유통 방지 및 피해 예방을 위한 교육·홍보
6. 그 밖에 인공지능 기술 이용 거짓 정보의 무분별한 유통 방지 및 피해 예방에 필요한 사항
|
|
|
인공지능 기술 이용한 딥페이크 영상에 대한 정부의 관리, 감독 강화피해 및 유통 실태, 관련 기술 동향 파악 및 피해 예방 기술 개발 등 예방에 초점김현정 의원, 딥페이크를 이용한 거짓 정보, 가짜뉴스 유통과 피해 방지에 최선을 다할 것김현정 의원(더불어민주당, 평택병)은 3일(화) 딥페이크 영상의 무분별한 제작, 유통으로 인한 피해 예방을 위한 「정보통신망법 일부 개정안」을 대표 발의했다.딥페이크는 인공지능 기술을 이용하여 이미지를 합성하거나 가공의 영상을 만드는 기술로 교육, 의료, 영화 및 엔터테인먼트 등에 활용되는 등 산업적 잠재력이 큰 기술로 주목을 받아왔다.하지만 이를 악용한 영상으로 인한 피해 사례가 점점 늘어나면서 딥페이크 기술을 이용하여 만든 거짓의 음향,·화상 또는 영상이 거짓 정보나 가짜뉴스의 위협을 더욱 증가시킬 것이라는 우려가 제기되고 있다.김현정 의원이 발의한 법안은 방송통신위원회와 과학기술정보통신부가 인공지능 기술을 이용하여 만든 거짓 영상 등으로 인한 피해실태 파악, 유통 실태 파악, 관련 국내외 기술 동향 파악, 피해 예방을 위한 기술 개발과 교육·홍보 등의 시책을 수립하도록 하는 내용을 담고 있다.김현정 의원은 “인공지능 기술을 이용한 거짓 정보와 가짜뉴스가 무분별하게 확산고 있어 제도와 정부의 적극적 대처가 시급한 상황”이라면서 “법안이 하루빨리 통과되어 거짓 뉴스, 가짜정보의 유통과 피해를 예방할 수 있도록 최선을 다하겠다”고 밝혔다.정보통신망 이용촉진 및 정보보호 등에 관한 법률일부개정법률안(김현정의원 대표발의)의 안번 호발의연월일 : 2024. 9. .발 의 자 : 김현정 의원찬 성 자 : 찬성의원수 인제안이유 및 주요내용딥페이크(Deep Fake)란 사람을 대상으로 한 영상에 인공지능 기술을 이용하여 타인의 얼굴이나 신체 부위의 이미지를 중첩하거나 결합하여 일반인이 합성 여부를 확인하는 것이 사실상 불가능한 가공의 영상을 만드는 기술로 영화제작에 활용되는 등 산업적 잠재력이 큰 기술로 주목받고 있음.그런데 최근 딥페이크 영상이 유포되면서 딥페이크 기술을 이용한 인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등 정보 전반이 거짓 정보나 가짜뉴스의 위협을 더욱 증가시킬 수 있다는 우려를 낳고 있음.이에 인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등 정보 전반의 무분별한 유통으로 인한 피해를 예방하기 위하여 방송통신위원회와 과학기술정보통신부가 인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등 정보 전반으로 인한 명예훼손 등의 피해 실태 파악, 인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등 정보 전반 유통 실태 및 관련 국내외 기술 동향 파악, 유통 방지를 위한 기술 개발의 촉진, 교육·홍보 등의 시책을 추진하도록 함으로써 건전한 정보통신망 이용환경을 조성하려는 것임.법률 제 호정보통신망 이용촉진 및 정보보호 등에 관한 법률일부개정법률안정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부를 다음과 같이 개정한다.제5장에 제44조의11을 다음과 같이 신설한다.제44조의11(인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등의 정보로 인한 피해 예방에 관한 시책의 마련) 과학기술정보통신부장관 및 방송통신위원회는 사람을 대상으로 하여 인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등 정보(이하 “인공지능 기술 이용 거짓 정보”라 한다)의 무분별한 유통으로 인한 피해를 예방하기 위하여 다음 각 호의 시책을 추진하여야 한다.1. 인공지능 기술 이용 거짓 정보의 유통 실태 파악2. 인공지능 기술 이용 거짓 정보의 유통으로 인한 명예훼손 등 피해 실태 파악3. 인공지능 기술 이용 거짓 정보 관련 국내외 기술 동향 파악4. 인공지능 기술 이용 거짓 정보의 무분별한 유통 방지를 위한 기술 개발의 촉진5. 인공지능 기술 이용 거짓 정보의 무분별한 유통 방지 및 피해 예방을 위한 교육·홍보6. 그 밖에 인공지능 기술 이용 거짓 정보의 무분별한 유통 방지 및 피해 예방에 필요한 사항부 칙이 법은 공포 후 3개월이 경과한 날부터 시행한다.신·구조문대비표현 행개 정 안<신 설>제44조의11(인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등의 정보로 인한 피해 예방에 관한 시책의 마련) 과학기술정보통신부장관 및 방송통신위원회는 사람을 대상으로 하여 인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등 정보(이하 “인공지능 기술 이용 거짓 정보”라 한다)의 무분별한 유통으로 인한 피해를 예방하기 위하여 다음 각 호의 시책을 추진하여야 한다.1. 인공지능 기술 이용 거짓 정보의 유통 실태 파악2. 인공지능 기술 이용 거짓 정보의 유통으로 인한 명예훼손 등 피해 실태 파악3. 인공지능 기술 이용 거짓 정보 관련 국내외 기술 동향 파악4. 인공지능 기술 이용 거짓 정보의 무분별한 유통 방지를 위한 기술 개발의 촉진5. 인공지능 기술 이용 거짓 정보의 무분별한 유통 방지 및 피해 예방을 위한 교육·홍보6. 그 밖에 인공지능 기술 이용 거짓 정보의 무분별한 유통 방지 및 피해 예방에 필요한 사항