한국정보산업연합회 FKII

<사진설명: 사진 보이는 방향으로부터 (좌)소프트캠프의 배환국 대표, (우)에임인텔리전스의 유상윤 대표가 과천 DX타워에서 열린 전략적 업무협약식(MOU) 서명 후, 기념 촬영을 하고 있다.>

​‘AI’라는 공통분모로 사이버보안과 AI보안의 전문 기업이 만났다.

사이버 보안 전문기업 소프트캠프(대표 배환국)와 AI 보안(AI Safety) 전문 기업 에임인텔리전스(AIM Intelligence, 대표 유상윤)가 기업용 AI라는 공통 환경을 중심으로, 보안 통제 및 안전성 강화를 위한 전략적 제휴(MOU)을 체결했다. 협약식은 26일(월) 경기도 과천 소프트캠프 DX타워 본사에서 진행됐다. 

소프트캠프는 RBI(Remote Browser Isolation) 기반 보안 원격접속 서비스 SHIELD Gate(실드게이트)를 통해 AI 활용이 이뤄지는 업무 환경 자체의 보안 통제를 담당해 왔다. RBI 기술 기반으로 사용자 단말에는 데이터가 남지 않도록 설계된 것이 특징이다. 

에임인텔리전스는 생성형 AI와 대규모 언어모델(LLM)을 비롯해 이미지·비전(VLM), 음성(Audio), 멀티모달 시스템은 물론, 실제 시스템과 물리적 환경과 상호작용하는 ‘피지컬 AI(Physical AI)’ 영역까지를 대상으로 AI Guardrail 및 AI Red Teaming 기술을 연구∙개발하며, 프롬프트 인젝션과 탈옥(jailbreak), 개인정보 및 민감정보 입력 탐지 등 AI의 판단과 응답 과정에서 발생하는 보안 리스크에 대응하는 기술 경쟁력을 보유하고 있다.

특히 글로벌 AI 보안 시장에서 ‘jailbreak 대응’ 분야에 특화된 기업으로, 모델이 기업의 정책과 의도를 벗어나도록 유도하는 고도화된 공격 시나리오를 실제 환경에 가깝게 자동으로 검증·차단하는 AI Red Teaming 및 Guardrail 기술은 글로벌 최고수준의 경쟁력을 보유한 것으로 평가받고 있다.

이번 전략적 제휴의 MOU의 배경은 기업이 AI를 도입을 고려하면서 가장 큰 장애로 꼽는 것이 AI를 통한 민감 기밀의 유출이라는 점에서 이를 막기위해 사이버보안과 AI보안이 결합하여 세계적인 경쟁력을 갖는 보안솔루션을 공동 개발 및 마케팅을 하기 위함이다. 이에 따라 양사는 △AI 환경에서 발생 가능한 보안 위협에 대한 공동 비즈니스 모델 개발 △개인정보 및 민감정보 보호를 고려한 기업용 AI 사용 시나리오 공동 모색 등을 중심으로 상호 협력할 예정이며, 이미 양사 기술진의 협업이 진행되고 있어 빠른 시일내에 성과를 거둘 것으로 예상된다.

소프트캠프는 SHIELD Gate를 통해 제공되는 RBI 기반의 보안 원격접속 환경에 기업용 AI 사용이 확대되는 흐름에 맞춰, AI 입력·응답 단계에서의 안전성 확보 방안을 다각도로 검토하고 있으며, 에임인텔리전스의 AI Guardrail 기술이 AI 활용 전 과정에서의 보안 통제 모델을 함께 고민하는 데 상호 보완적인 역할을 할 수 있을 것으로 기대하고 있다. 특히, RBI는 국가 망 보안체계(N2SF) 환경에서의 필수 기술이면서도 제로 트러스트 관점에서 SaaS를 안전하게 사용할 수 있게 하며, 데이터 민감도에 따른 각 등급에 맞춘 보안 통제 차등 적용을 지원으로 보안 시장에서 각광받고 있다. 

이러한 AI 보안 이슈는 현재의 기업용 AI 활용 환경을 넘어, 향후 AI가 단순한 의사결정 도구를 넘어 실제 시스템과 환경을 제어하는 이른바 ‘피지컬 AI(Physical AI)’ 영역으로 확장될수록 더욱 중요해질 전망이다. AI의 판단과 응답이 곧바로 업무 시스템은 물론 물리적 환경의 동작으로 이어지는 구조에서는, AI의 오작동이나 조작이 정보 보안 문제를 넘어 안전과 신뢰의 문제로 직결될 수 있다. 이에 따라 AI 활용 전 과정에서의 선제적인 보안 통제와 안전성 확보는 향후 AI 기반 업무 환경 전반의 필수 요건으로 인식되고 있다.

배환국 소프트캠프 대표이사는 “기업용 AI는 업무 혁신의 핵심 도구로 자리 잡고 있지만, 동시에 새로운 보안 리스크라는 양면성이 반드시 존재”한다며, “이번 협약을 통해 국가 망 보안체계(N2SF)와 같은 환경에서 AI∙SaaS 를 안전하게 사용할 수 있도록 해 기업이 안심하고 사용할 수 있는 보안 통제 모델을 함께 모색해 나갈 계획”이라고 말했다.

유상윤 에임인텔리전스 대표이사는 “국가 망 보안체계(N2SF) 환경과 같이 높은 수준의 보안이 요구되는 영역에서는 생성형 AI를 안전하게 쓰기 위한 정교한 통제와 가드레일이 필수적”이라며, “특히 탈옥(jailbreak)과 같은 고도화된 공격에 대응할 수 있는 AI 보안 역량이 중요해지는 만큼, 이번 협약을 통해 기업과 공공기관이 AI를 보다 안심하고 활용할 수 있는 현실적인 AI 보안 적용 방안을 함께 고민해 나갈 것”이라고 말했다.<끝>.