[이데일리 윤정훈 임유경 기자] 중국 인공지능(AI) 스타트업 딥시크가 생명과 건강을 위협할 수 있는 답변을 생성한다는 우려가 제기됐다. 또한, 이용자 데이터 유출 위험성도 커지면서 딥시크의 AI 안전성에 대한 검토가 필요하다는 목소리가 커지고 있다. 한국 정부도 딥시크 활용 확산에 대비해 잠재적 위협에 적극 대응할 방침이다.

[이데일리 김정훈 기자]

[이데일리 김일환 기자]

9일 IT 업계와 외신에 따르면, 딥시크는 생화학무기 관련 정보도 생성할 수 있는 취약점을 드러냈다. 미국 AI 스타트업 앤트로픽의 CEO 다리오 아모데이는 “딥시크 모델로 생물학 무기 정보를 생성하는 데 전혀 문제가 없었다”며 “모든 생성형 AI 모델 중 최악”이라고 평가했다.

월스트리트저널(WSJ)은 딥시크가 히틀러 옹호 발언이나 청소년의 자해를 조장하는 정보, 악성 코드가 포함된 피싱 이메일을 생성하는 등 위험성이 높다고 경고했다. 미국 보안 회사 시스코는 딥시크 R1의 안전성 테스트에서 유해한 명령어 차단 실패와 100% 탈옥 성공률을 기록했다고 밝혔다. 이는 오픈AI의 챗GPT(26%)와 구글 제미나이(64%)와 큰 차이를 보인다. 또한, 캐나다 보안기업 페루트 시큐리티 CEO는 딥시크에 사용자의 개인정보를 중국 국영통신사 차이나모바일로 전송하는 코드(백도어)가 있을 수 있다고 주장했다. 탈옥이란 소프트웨어 제한을 우회하는 행위이고, 백도어는 보안기능을 우외해 접근할 수 있는 프로그램이다.

한국 정부는 딥시크의 안전성을 검토하고 잠재적 위험을 차단할 계획이다. 개인정보보호위원회는 지난달 31일 딥시크에 공문을 보내 데이터 수집·처리 관련 분석을 시작했으며, 향후 정보 유출 위험을 점검할 예정이다. 개인정보 유출이 확인되면 국내법에 따라 처분할 방침이다. 10일 프랑스에서 열리는 ‘AI 정상회의’에서는 프랑스 CNIL, 아일랜드 DPC와 공동 대응 방안을 논의할 예정이다.

과학기술정보통신부는 사이버테러 위협에 대비해 모니터링을 강화하고 딥시크를 포함한 취약점 점검을 진행한다. 한국인터넷진흥원(KISA)은 생성형 AI 보안 수칙을 배포하고 피해 상담을 안내하며, 출처 검증과 자동화된 해킹 대응을 강조했다.

과기정통부 관계자는 “딥시크의 모델 취약성이 아직 확인되지 않았고, 해외에서도 오픈소스를 활용해 쓰기 때문에 현재로서는 중앙부처와 기업이 자율적으로 (딥시크를) 차단한 상태”라며 “2023년 챗GPT가 활성화 됐을때도 유사하게 대응했는데 중국이라는 특수성 때문에 정부나 기업이 (당시보다) 강한 조치를 취하고 있다”고 강조했다. 딥시크는 지난 7일 위챗 계정을 통해 “최근 딥시크와 관련된 일부 위조 계정과 근거 없는 정보가 대중을 오도하고 혼란을 초래하고 있다”며 사용자 권익을 보호하고 허위정보의 부정적인 영향을 줄일 것이라고 공식 입장을 발표했다.