딥페이크는 인공지능 기술을 이용하여 이미지를 합성하거나 가공의 영상을 만드는 기술로 교육, 의료, 영화 및 엔터테인먼트 등에 활용되는 등 산업적 잠재력이 큰 기술로 주목을 받아왔다.

하지만 이를 악용한 영상으로 인한 피해 사례가 점점 늘어나면서 딥페이크 기술을 이용하여 만든 거짓의 음향,·화상 또는 영상이 거짓 정보나 가짜뉴스의 위협을 더욱 증가시킬 것이라는 우려가 제기되고 있다.

김현정 의원이 발의한 법안은 방송통신위원회와 과학기술정보통신부가 인공지능 기술을 이용하여 만든 거짓 영상 등으로 인한 피해실태 파악, 유통 실태 파악, 관련 국내외 기술 동향 파악, 피해 예방을 위한 기술 개발과 교육·홍보 등의 시책을 수립하도록 하는 내용을 담고 있다.

김현정 의원은 “인공지능 기술을 이용한 거짓 정보와 가짜뉴스가 무분별하게 확산고 있어 제도와 정부의 적극적 대처가 시급한 상황”이라면서 “법안이 하루빨리 통과되어 거짓 뉴스, 가짜정보의 유통과 피해를 예방할 수 있도록 최선을 다하겠다”고 밝혔다.