나경원, 딥시크 등 '검증 안된 외산 AI 정부기관 이용 금지법' 발의

[뉴스웍스=박광하 기자] 정부, 지자체, 공공기관 등 공공 분야에서 메이드 인 차이나 인공지능(AI)인 '딥시크'의 이용을 제한하는 법률 개정안이 제출된다.

나경원 국회 산업통상자원중소벤처기업위원회 국민의힘 의원(서울동작을)은 7일 중국에서 개발된 생성형 AI 모델 및 서비스인 '딥시크' 등 안전성이 검증되지 않은 해외 AI로 인한 국가안보 위협에 대응하고자 법률 개정안을 대표 발의한다고 7일 밝혔다.

개정안은 중앙행정기관, 지방자치단체, 공공기관에서 안전성이 검증되지 않은 해외 AI 서비스의 사용을 직접 제한하거나 금지할 수 있는 권한을 정부에 부여하는 게 주된 내용이다. 이는 최근 딥시크 사태로 드러난 정보유출 위험에 대한 선제적 대응 조치다.

국방부, 통일부, 외교부, 산업통상자원부, 교육부 등 주요 부처와 경기 부천시 등 지자체에서 이미 딥시크 사용을 차단하는 상황이다. 법안은 이러한 조치에 법적 근거를 제공하게 된다. 특히 중국의 국가정보법과 데이터보안법에 따라 중국 기업이 수집한 정보가 중국 정부에 제공될 수 있다는 우려가 커지는 상황이다.

나 의원은 "지난달 출시된 딥시크가 무료 서비스로 121만명의 국내 이용자를 확보했지만, 중국 서버에서 처리되는 정보가 어떻게 활용될지 모른다는 게 큰 문제"라며 "특히 행정기관과 공공기관의 민감한 정보가 해외로 유출될 수 있는 위험에 정부가 신속하게 대응할 수 있어야 한다"고 강조했다.

개정안은 정보통신망법, 개인정보보호법 개정을 포함하고 있다. 주요 내용으로는 해외 AI 서비스 안전성 사전 검증제 도입, 주요 데이터의 해외 이전 시 정부 심사 의무화, 해외 AI 기업의 국내 서버 설치 의무화 등이 담길 전망이다.

나 의원은 "이번 법안은 정부의 관리하에 어느정도 안정성이 검증가능한 AI 서비스와는 무관하다"며 "개인정보 보호정책이 불투명하고 데이터 처리과정에 우려가 있는 일부 해외 AI에 대한 제한적 조치"라고 설명했다.

특히 과학기술정보통신부 장관과 국가정보원장에게 안보 위험이 있는 해외 AI 서비스에 대한 사용중지 명령과 접속차단 조치 권한을 부여하며, 구체적인 제한 요건과 절차는 대통령령으로 정하도록 해 변화하는 AI 기술 환경에 유연하게 대응할 수 있도록 할 예정이다.

나 의원은 "무료로 제공되는 AI 서비스의 진짜 대가는 우리의 안보일 수 있다"면서 "미국, 일본, 대만, 이탈리아 등 주요국에서도 강력대응 규제 도입논의가 활발해지고 있는만큼, 우리도 더 이상 지체할 수 없는 상황"이라고 했다.

딥시크에 의한 구체적인 정보 유출 피해가 확인되지 않았지만, 중국 내 위치한 서버 관리 기업은 중국 공산당의 명령에 따라 저장된 정보를 제출해야 하는 의무를 부담하고 있어 국내 이용자들의 정보 유출 가능성이 의심되는 상황이다.