[이데일리 김겨레 기자] “중국과 같은 적대국의 인공지능(AI)이 ‘클로드 미토스’ 수준에 도달하기까지 남은 시간이 6~12개월에 불과하다”

다리오 아모데이(오른쪽) 앤스로픽 최고경영자(CEO)가 5일(현지시간) 미국 뉴욕에서 주최한 행사에서 제이미 다이먼 JP모간 CEO와 대담을 나누고 있다. (사진=앤스로픽 행사 영상 갈무리)

다리오 아모데이 앤스로픽 최고경영자(CEO)가 5일(현지시간) 미국 뉴욕에서 열린 제이미 다이먼 JP모간 CEO와 대담에서 “미토스가 발견한 수만 건의 소프트웨어 취약점을 해결할 수 있는 시간이 많지 않다”며 이같이 경고했다. 최대 1년 안에 미국 기업과 정부 기관의 소프트웨어 보안 취약점을 해결하지 않으면 해킹 사고와 랜섬웨어로 인한 피해가 급증해 학교와 은행, 병원까지 마비될 수 있다는 것이다. 미 상무부 산하 국립표준기술연구소(NIST)도 미국과 중국의 AI 기술 격차를 8개월 정도로 평가한 바 있다.

앤스로픽의 신규 AI 모델 미토스는 주요 운영체제(OS)와 웹 브라우저에서 보안 취약점을 식별하는 데 그치지 않고, 이를 실제 공격에 활용할 수 있는 코드까지 생성할 수 있는 능력까지 갖춘 것으로 평가된다. 버그를 발견한 뒤 악용까지 걸리는 시간이 급격히 줄어들어 AI가 해킹을 자동 수행할 수 있게 된 것이다. 앤스로픽에 따르면 기존 AI 모델이 파이어폭스 브라우저에서 약 20개의 취약점을 발견한 반면 미토스는는 약 300개를 찾아냈다. 전체 소프트웨어 기준으로는 수만 건의 취약점을 발견했다. 앤스로픽은 범죄자나 적대 국가에 악용될 가능성을 우려해 미토스를 일부 기술기업과 금융사에만 제한적으로 공개하고 있으며, 미토스가 탐지한 취약점 역시 공개하지 않았다.

아모데이 CEO는 “취약점이 공개될 경우 악용될 가능성이 크다”며 “AI 모델이 진화할 수록 사이버 공격 가능성도 기하급수적으로 증가하고 있다”고 강조했다. 그는 “브레이크가 있는지 확인하지 않고 자동차 회사를 시작할 수는 없다”며 “AI 산업 경쟁력을 유지하면서도 핵심 리스크에는 안전장치를 두는 균형이 필요하다”고 부연했다.

AI 기술이 군사·민간 이중 용도로 쓰일 수 있다는 점에서 ‘중국판 미토스’에 대한 외부 검증과 투명성 우려가 높아지고 있다. 지난해 11월 이미 중국이 앤스로픽의 ‘클로드 코드’를 해킹해 AI가 스스로 대형 기술 기업과 금융기관, 화학기업, 정부 기관 등 30곳을 표적으로 삼았다는 점이 드러났다. 특히 중국의 AI는 미국 기업의 동급 모델보다 비용 측면에서 50% 이상 저렴해 더 손쉽게 대규모 해킹에 동원할 수 있다는 점도 위협 요인으로 지목된다.

[이데일리 김일환 기자]

중국이 개발한 ‘AI 해커’가 북한의 손에 넘어갈 경우 더 치명적인 피해가 예상된다. 북한은 이미 전세계 가상자산 탈취의 큰 손이다. 블록체인 보안 기업 TRM에 따르면 북한은 올해 들어서만 5억7700만달러(약 8400억원) 어치의 가상자산을 해킹해 전세계 피해액의 76%를 차지했다. 타깃을 집중 공격해 짧은 시간 안에 가상자산을 탈취하는 북한 해커들이 AI를 활용할 경우 보안이 취약한 기관을 선별하는 데 시간이 단축되고 다수의 타깃을 동시에 공격하는 것이 가능해져 대응 난이도가 올라갈 공산이 크다.

민간 AI 개발에 개입하지 않았던 도널드 트럼프 미국 행정부가 ‘미토스 쇼크’를 계기로 사전 규제에 나서기로 한 것도 중국을 비롯한 적대국에 첨단 기술이 악용되는 것을 막기 위한 조치로 풀이된다. 트럼프 행정부는 기술 기업 임원진과 정부 관계자들이 실무단을 구성해 AI 모델 출시 전 특정 보안 기준을 충족하는지를 검토하는 절차를 도입하는 방안을 논의 중이다. 마이크로소프트와 구글, xAI는 이날 미 행정부에 새로운 AI 모델 보안 테스트를 위한 초기 접근권을 제공하기로 합의했다. 미 상부무 산하 AI 표준혁신센터(CAISI)는 아직 일반에 공개되지 않은 최첨단 AI 모델을 포함해 40건 이상의 평가를 마쳤다.

다음주 예정된 미·중 정상회담에서 테이블에 AI 관련 안보 의제가 오를 가능성도 있다. 중국이 미국의 AI·반도체 수출 통제에 반발하는 가운데 미국은 고성능 AI 모델이 적대국이나 제3국으로 확산하는 문제를 새로운 국가안보 리스크로 보고 있다.