[이데일리 이지은 기자] 생성형 AI 솔루션 전문기업 제논이 기업용 AI 보안 시장 공략에 나선다. AI를 악용한 사이버 공격이 증가하는 가운데 서비스별 맞춤형 보안 솔루션을 선보인다.

제논은 기업이 생성형 AI 보안 정책을 체계적으로 관리할 수 있는 AI 가드레일 솔루션 ‘젠가드(GenGuard)’를 출시한다고 26일 밝혔다. 젠가드는 AI 서비스에 입력되는 요청과 생성된 응답을 기업의 보안 정책에 따라 판정하고 차단하는 솔루션이다.

제논의 기존 플랫폼인 ‘제노스’ 도입 여부와 관계없이 다양한 기업 환경에서 사용할 수 있다. 자체 개발한 AI 전용 모델을 적용해 서비스별 보안 요구사항에 맞춘 정책을 지원한다.

젠가드의 핵심은 복잡한 모델 재학습 없이 자연어만으로 서비스별 보안 정책을 설정할 수 있다는 점이다. 예를 들어 금융 서비스에서 ‘개별 종목 추천은 차단한다’는 정책을 입력하면 해당 기준에 따라 AI의 요청과 응답을 판정해 통제하는 방식이다. 이를 통해 기업은 업무 특성에 맞춰 AI의 허용 범위와 차단 기준을 유연하게 관리할 수 있으며, 유해 콘텐츠뿐 아니라 AI의 안전장치를 우회하는 탈옥 시도와 프롬프트 공격에도 대응할 수 있다.

국내 기업의 업무 환경에 특화된 개인정보 보호 기능도 갖췄다. 주민등록번호와 계좌번호, 카드 정보 등 정형화된 개인정보는 물론 이름과 주소처럼 일정한 형식이 없는 정보도 AI가 문맥을 분석해 탐지한다. 숫자를 변형하거나 보이지 않는 문자를 삽입하는 우회 표기까지 식별하며, 외부 AI 서비스로 전송되는 요청에 개인정보가 포함된 경우 이를 차단하거나 마스킹해 정보 유출 위험을 줄인다.

제논은 제품 출시와 함께 경량 공개 모델 ‘GenGuard 1.0 Light’와 한국어 서비스 정책 평가 데이터셋 ‘KSPG-Bench’도 공개했다. 회사 측에 따르면 GenGuard 1.0 Light는 공개 가드레일 모델 5종과의 비교 평가에서 평균 84.3점으로 1위를 기록했다. 한국어 안전성, 공격 탐지, 긴 문서 판정 항목에서도 가장 높은 성능을 보였다.

제논은 젠가드 출시를 토대로 기업용 생성형 AI 플랫폼 구축에 이어 AI 보안 솔루션으로 사업 영역을 확장할 계획이다. 특히 금융·공공 등 높은 수준의 정보 보호와 내부 통제가 요구되는 산업을 중심으로 도입을 확대하고, 다양한 산업 현장에서 축적한 기술력과 경험을 바탕으로 기업용 AI 보안 시장에서 입지를 강화한다는 방침이다.

제논 명대우 부사장은 “기업의 AI 활용이 본격화될수록 보안은 단순한 위험 관리 수단을 넘어 AI 서비스의 신뢰성과 경쟁력을 결정하는 핵심 요소가 될 것”이라며 “제논은 기업용 AI 플랫폼을 구축하며 축적한 기술력과 산업별 경험을 바탕으로 변화하는 보안 요구에 선제적으로 대응하고, 국내 기업 환경에 최적화된 AI 보안 기술로 시장을 선도해 나가겠다”고 말했다.