딥페이크 성범죄 1년 새 518% 증가, 규제 유예하자고?

국가인권위원회가 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능기본법)의 31~35조 시행을 3년간 유예하려는 개정안에 대해 “신중한 검토가 필요하다”는 의견을 표명했다.

1일 인권위에 따르면 인공지능기본법은 인공지능의 건전한 발전과 신뢰 기반 조성에 필요한 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하기 위한 목적으로 지난 1월21일 제정돼 내년 1월22일 시행 예정이다.

하지만 31조(인공지능 투명성 확보 의무), 32조(인공지능 안전성 확보 의무), 33조(고영향 인공지능의 확인), 34조(고영향 인공지능과 관련한 사업자의 책무), 35조(고영향 인공지능 영향평가) 등 규제 조항에 대해서는 2029년 1월22일로 3년간 유예하자는 취지의 개정안이 국회에 발의돼 현재 계류 중이다.

인권위는 “인공지능 기술의 발전과 확산은 국가경쟁력 제고와 삶의 질 향상에 이바지하고 있다”면서도 “동시에 인공지능이 잘못된 결론을 도출하거나 편향된 결정을 내리는 경우, 그 결과는 단순한 오류 정보를 넘어 국민의 인격권, 평등권, 사생활의 비밀과 자유 등 기본권에 직접적인 피해를 줄 수 있다”고 우려했다.

실제 인공지능 기반 영상 합성 기술이 더욱 정교해지면서 가짜 영상과 음성을 실제와 구별하기 어려운 수준에 이르렀고 해당 기술을 악용한 범죄가 급증함에 따라, 지난해 10월 기준 딥페이크 성범죄로 경찰에 신고된 건수는 전년 대비 518% 증가한 964건에 달했다고 지적했다.

인권위는 “시행을 유예하고자 하는 31~35조 조항은 단순한 기술적 규제 사항이 아니라, 인공지능의 개발, 배치, 활용 등 전 과정에서 발생할 수 있는 위험으로부터 국민을 보호하고, 인공지능 기술이 헌법적 질서 내에서 안전하고 신뢰받을 수 있게 사용될 수 있도록 하기 위한 핵심적인 입법적 조치”라고 강조했다.

인공지능사업자에 대한 규제가 과도하다는 산업계의 우려에 대해서는 “시행령과 고시 등 하위법령의 정교화, 법률 내 보완 입법, 그리고 스타트업 및 중소기업에 대한 정부의 인공지능 생태계 지원 강화 등을 통해 해소하는 것이 바람직하다”고 강조했다.