(지디넷코리아=방은주 기자)"AI 시대의 필수 인프라 기업이 되고 싶습니다."
유상윤 에임인텔리전스(AIM Intelligence) 대표는 최근 지디넷코리아와 인터뷰에서 "레드티밍 도구 공격 성공률이 세계 최고 수준"이라며 이 같이 밝혔다. 레드티밍 도구(red teaming tools)는 보안 공격자(해커) 입장에서 기업이나 기관의 IT시스템을 가상으로 공격할때 사용하는 소프트웨어다. 방어 시스템이 탐지와 대응을 얼마나 잘하는 지 확인하는데 사용한다. 작년 7월 설립된 스타트업인 에임인텔리전스는 이달초 과기정통부와 한국인터넷진흥원(KISA)이 국내 처음으로 개최한 AI해킹 방어대회의 바다이야기합법 모의 해킹 시험을 출제한 곳이기도 하다.
설립자인 유 대표는 1997년생으로 아직 20대다. 서울대서 전기컴퓨터공학부 학사와 석사를 마쳤다. 에임인텔리전스는 글로벌 빅테크 메타(Meta)가 인정한 AI보안 스타트업이기도 하다. 메타가 자사의 오픈소스 AI모델 Llama(라마2/라마3)를 활용한 사회적·기술적 가치 창출 혁신 공모전을 작년에 오션파라다이스다운로드 열었는데, 여기에서  한국기업으론 유일하게 뽑혔다. 서울 강남 소재 에임인텔리전스 사무실에서 회사의 현재와 미래를 들어봤다. 아래는 유 대표와 일문일답.



유상윤 에임인텔리전스 대표. 1997년생으로 작년 7월 회사를 설립했다.


바다신게임 -에임인텔리전스는 어떤 기업인가
"2024년 7월 창립한 생성형 AI보안 전문기업이다. AI를 안전하게 만드는 것을 목표로 하고 있고, AI 챗봇부터 AI 에이전트, 물리적 세계와 상호작용하는 AI까지 안전하고 통제 가능한 범위 안에서 사용할 수 있게 하는 솔루션을 개발해 제공하고 있다."
-창립 배경이 궁 황금성사이트 금하다
"대학원(서울대 전기컴퓨터공학부)에서 AI 공정성과 개인정보보호를 연구하던 중 LLM 탈옥(jailbreak) 같은 보안 이슈를 발견했다. LLM 탈옥을 보고 "이거 너무 재미있다. 연구해야겠다"고 마음먹었다. 당시가 2022년이다. 이 문제를 LLM 개발사에 알렸는데 LLM 개발사들은 성능 개선에만 집중하더라. 보안에 신경을 못쓰 바다이야기게임다운로드 는 걸 보고, 이 점에 주목, 에임인텔리전스를 설립했다. 현재 구성원은 19명이다. 조만간 2명을 더 충원한다."
-서울대 주최 AI 해킹 방어 대회에서 1등을 했다고?
"그렇다. 작년초 대회가 열렸고 내가 1등을 했다. 2등한 사람은 현재 우리 회사 CTO로 일하고 있다.(웃음)"
-에임인텔리전스의 주력 제품과 서비스는?
"세 가지다. 첫째, '에임레드(AIM Red)'다. 작년 9월 출시했다. AI 해킹을 자동화한 것으로, AI 모델의 취약점을 찾아내는 레드팀 솔루션이다. 기존에는 사람이 프롬프트 엔지니어링으로 수동으로 공격했다면, 'AIM Red'는 이를 자동화한 것이다. 기존보다 훨씬 더 많은 양의 해킹 방어 테스트를 할 수 있다. 통신사를 비롯해 현재 약 10여 곳 기업에 공급했다.
둘째, '에임 가드(AIM Guard)'다. 올 2월 출시했다. 레드팀에서 찾은 문제들을 해결하는 방화벽 개념의 솔루션이다. LLM 또는 AI 시스템 앞뒤에 붙여 입력과 출력을 검사하고, AI 시스템 내부 데이터에서 민감 정보를 탐지해 차단한다. 프롬프트 공격 뿐 아니라 이미지, 오디오 등 다양한 모달리티의 공격도 탐지한다. 금융권과 통신사 등 15곳 이상에 제공했다.
셋째, 'AI 에이전트용 보안 제품'으로 내년 1월 출시할 예정이다. 차세대 AI 에이전트를 위한 보안 솔루션이다. 에이전트가 수행하는 모든 작업을 감시하고 가드레일을 제공한다."
-국내 레드티밍과 AI보안 가드 시장에서 에임인텔리전스만의 차별점과 경쟁 우위는?
첫째, 세계 최고 수준의 공격 성공률이다. 자동화한 레드팀 도구 중 실제로 공격이 성공하는 비율이 세계 최고라고 자부한다. 글로벌 기업과 PoC(시험테스트)에서 경쟁사들이 한 달 동안 9개 문제를 찾았는데 우리는 2주 만에 약 40개의 문제를 찾아냈다.
둘째, 멀티모달 지원이다. 텍스트 뿐 아니라 이미지, 오디오 등 다양한 모달리티에서의 공격을 지원한다. 이미지 안에 공격이 들어있거나, 또 이미지랑 텍스트가 합쳐져 유해하거나 악의적인 요청을 하는 경우도 우리 솔루션이 유용하다.
셋째, 경량화 및 저지연이다. '가드레일' 모델이 경량화돼 100ms(0.1초) 이하의 레이턴시(지연)로 작동한다. 글로벌 기업과 국내 대기업 솔루션들이 1~2초씩 걸려 사용성을 저해하는 것과 달리, 우리 솔루션은 레이턴시가 0.1초에 불과, 사용자 경험을 해치지 않으면서 강력한 보안을 제공한다.
넷째, 커스터마이징이다. 고객이 직접 정책을 추가하고 수정할 수 있는 기능을 제공한다. 우리와 달리 글로벌 가드레일들은 대부분 만든 제품을 그냥 그대로 사용하라고 한다. 그렇다고 우리가 커스터마이징을 SI처럼 해주는 건 아니다.
다섯째, 학술 성과도 우수하다. 올해 머신러닝 분야 세계 최상위 학회 ICML(International Conference on Machine Learning)과 자연어 처리 분야 세계 최상위 학회 ACL(Annual Meeting of the Association for Computational Linguistics) 등 글로벌 학회에 8편 이상 논문을 발표했다."
-국내 AI 보안 시장을 어떻게 보나
"국내 AI보안 시장은 아직 초기 단계지만 빠르게 성장하고 있다. 금융권, 통신사, 제조업 등 주요 대기업들이 AI 서비스 도입을 추진하면서 보안 수요가 급증하고 있다. 우리한테도 인바운드 요청이  많이 들어오고 있다."
-이런 시장에서 에임인텔리전스의 포지셔닝과 시장 점유율은?
"국내에서 AI 레드팀 자동화 솔루션을 최초로 출시(2024년 9월)했다. 현재 15곳 이상 주요 기업에 솔루션을 제공했다. 한국어 특화 기술, 빠른 대응력, 커스터마이징 서비스로 차별화하고 있다. 한국인터넷진흥원(KISA), TTA, 금융보안원, 한국신용정보원 등과 협력해 국내 AI 보안 표준화도 주도하고 있다. 국내외적으로 이 분야의 유의미한 플레이어(기업)가 15곳 안팎이다. 그런데 이 중 6곳 정도가 대형기업에 인수됐다. 글로벌톱 수준인 프러텍트AI(Protect AI)는 미국 팔로알토가 지난 7월 인수를 완료했다."
-새해(2026년) 출시할 신제품이나 서비스는?
"내년 1월에 AI 에이전트용 보안 제품을 출시한다. 단순히 질문하고 답변하는 챗봇이 아니라, 태스크를 주고 에이전트가 자율적으로 일을 처리하는 차세대 AI를 위한 보안 솔루션이다. 새해에는 기존 챗봇과 에이전트를 넘어 피지컬AI(Physical AI, 로봇 등 물리 세계와 상호작용하는 AI)까지 안전하게 만드는 통합 플랫폼으로 확장할 계획이다."



유상윤 대표가 회사 비전을 설명하고 있다.


-해외 진출 현황과 계획은?
"해외 진출은 우리 회사 주요 목표 중 하나다. 현재 글로벌 자동차기업과 PoC(시험테스트)를 진행하고 있다. 5주 전 해당 기업 본사 담당자들이 직접 한국을 방문해 일주일간 워크숍을 진행했다. 중동 시장에도 관심이 있다. 내년 7월 한국에서 ICML 행사가 열린다. 이때 우리가 역할을 할 예정이다."
-회사의 조직 문화와 복지제도는?
"스타트업은 한 명이 100명의 생산성을 낼 수 있다고 생각한다. 개인의 생산성을 극대화하기 위해 노력하고 있다. 무제한 개발도구 지원 등 여러 복지제를 시행중이다. 코딩 어시스턴트 비용도 무료로 무제한 지원한다. GPU 컴퓨팅 자원 역시 무제한으로 제공한다. 출퇴근도 유연 근무제로 자유롭다. 또 주 1회 재택근무를 한다. 미팅이 없으면 오후 출근도 가능하다. 점심과 저녁, 간식을 무료로 제공하며, 자기계발을 위한 컨퍼런스와 포럼 참석도 지원한다. 업무에 집중할 수 있는 환경 제공을 위해 고민하고 있다."
-채용계획과 원하는 인재는?
"현재 구성원이 19명이다. 내년 1월에는 21명으로 늘어난다. 내년초 시리즈A 투자 유치를 통해 조직을 더욱 확대할 계획이다. AI와 보안을 모두 잘 아는 인재를 찾고 있다. AI 모델 발전부터 보안 기술까지 폭넓은 지식을 갖춘 리서처와 개발자를 우선 채용할 계획이다. 석사·박사급 연구 인력과 스타트업 경험이 있는 개발자를 특히 환영한다."
-어떤 인증을 갖고 있나. 수상 실적은?
"설립한 지 이제 1년반 밖에 안됐지만 여러 수상 실적이 있다. 'Meta Llama Impact Innovation Award (2024년 9월)'가 대표적이다. 전 세계 11개 기업만 선정했는데 한국 기업으로 유일하게 뽑혔다. 메타 블로그에 4분 다큐멘터리로 게재돼 있다. 또 두바이에서 열린 'GITEX Global 2025 Supernova Challenge'에서 세계 2000여 스타트업 중 1위를 했다. 국제 학회서 논문 8편(ICML 1편, ACL 3편, NeurIPS 워크숍 2편, IEEE 1편)을 발표했고, KISA와 TTA, 금융보안원, 한국신용정보원 등과 AI 보안 표준화 연구를 했다. 작년초 과기정통부 레드팀 챌린지에서도 상위권을 서권했다."
-투자 유치 현황과 상장 계획은?
"작년 8월 엔젤 라운드로 2억 원을 유치했다. 이어 프리A 라운드(2025년 8월)로 16.5억 원을 유치, 누적 유치액이 18.5억 원에 달한다. 내년초 100억을 목표로 시리즈A 투자 유치를 진행중이다. 여러 VC들과 논의중이다. 장기적으로 IPO를 목표로 하고 있지만 현재는 기술 개발과 시장 점유율 확대에 집중하고 있다."
-핵심 팀 멤버와 조직 구성은?
"공동설립자(코파운더) 4명(CEO, CTO, CPO, CFO)으로 시작, 현재 19명 규모다. CEO인 나는 서울대 AI 해킹 대회 1등과 보안 분야 최고 학회서 논문을 발표했다. CTO(박하언)는 서울대 컴퓨터공학과 재학중이다. 앤트로픽(Anthropic) 버그바운티 최고상과 국가 AI CTF 최고상을 받았다. CPO(이의준)는 메타 라마 혁신상과 한국·일본 AI 해커톤 최고상을 수상했다. CFO(김하늘)는 연세대 퀀트리스크학부생 출신으로 COO도 맡고 있는데 우수 Meta AI 엑설러레이터로 선정된 바 있다."
-5~10년후 어떤 회사가?
"AI 시대의 필수 인프라 기업이다. 인터넷 시대에 수백 조 규모의 보안 회사들이 탄생했듯이, AI 시대에도 그런 회사들이 나올 것이고, 우리가 그 중 하나가 되고자 한다. 챗봇부터 자율 에이전트, 물리적 로봇까지 모든 형태의 AI를 안전하게 통제하는 통합 플랫폼 회사가 될 것이다. 전 세계 AI 시스템에 필수적으로 사용되는 AI 보안 인프라 회사로 성장, 우리 시스템이 다운되면 전 세계 AI 서비스가 영향을 받을 정도로 핵심적인 역할을 수행하는 회사가 되고 싶다."
◆ CEO 일문일답
-사훈은?
"AI는 계속 진화하고 있고, 그 속도는 점점 빨라지고 있다. 우리는 빠르게 발전하는 AI를 안전하게 통제할 수 있는 또 다른 지능을 만드는 것을 사명으로 삼고 있다. 코파운더 모두가 기술 윤리를 중요하게 생각하며, AI가 인류에게 해가 되지 않도록 하는 것을 최우선으로 삼고 있다. 끊임없이 연구하고 발전하는 연구중심 조직으로, 연구에만 그치지 않고 실제 제품으로 만들어 기업들의 문제를 해결하는 임팩트 있는 스타트업을 지향한다."
-실패 경험은? 어떻게 극복했는지?
"초기 채용 과정에서 회사를 제대로 운영해본 경험이 없다 보니, 체계나 준비가 충분하지 못한 점이 가장 큰 아쉬움으로 남는다. 이로 인해 좋은 분들을 미안하게도 놓친 경험도 있다. 이후 사람과 조직에 대한 기준과 체계를 하나씩 만들어가며, 구성원들이 최대한 불필요한 걱정 없이 일할 수 있는 환경을 만드는 데 집중하고 있다."
-종교나 건강관리, 스트레스 해소는?
"특정 종교는 없다. 개인적으로는 마음의 균형을 중요하게 생각한다. 건강 관리는 솔직히 지금까지 거의 못 하고 있는데, 고맙게도 여자친구가 내년부터 필라테스를 끌고 다니겠다고 해서 새해 다짐으로 시작할 예정이다. 스트레스 해소는 회피보다는 정면 돌파 쪽에 가깝다. 결국 부딪혀서 원인을 제거하는 수밖에 없다고 생각한다. 대신 웬만한 일은 ‘오히려 좋아, 럭키비키’ 마인드로 최대한 긍정적으로 받아들이려고 노력하고 있다."



유상윤 대표가 회사의 기업문화와 복지제도를 설명하고 있다.


-나를 바꾼 영화나 책은?
"진부하지만 영화 '소셜 네트워크'를 좋아한다. 허구가 섞여 있긴 하지만, 세상에 이토록 큰 영향을 주는 기업을 만든 사람도 결국은 저와 크게 다르지 않은 사람이라는 점이 인상 깊었다. 제가 하는 고민들이 결코 작지 않다는 생각도 들었다. 그런 기업들 역시 놓치는 영역이 있다는 걸 보면서, 저는 그 틈에서 기술 윤리와 AI 안전이라는 가치를 만들고 싶다는 확신을 갖게 됐다."
-최애 음식과 식당은
"먹는 걸 좋아한다. 최근에는 샤브샤브를 자주 먹는데, 맛있게 야채를 많이 먹을 수 있는 음식이라 특히 좋다(웃음)"
-경영과 대표는 무엇이라 생각하는지?
"지금은 스타트업 뿐 아니라, 크고 작은 모든 조직의 구조와 방식이 빠르게 변화하는 시기라고 생각한다. 그럼에도 변하지 않는 게 있다면 두 가지라고 본다. 첫째, 내가 직접 내리지 않은 결정이라 하더라도 조직에서 발생하는 모든 선택의 결과에 대한 최종 책임은 대표가 진다는 점이다. 둘째, 그렇기 때문에 대표는 끊임없이 ‘얼라인(alignment)’을 시키는 사람이라고 생각한다. 조직 내 구성원 간의 방향을, 조직과 시장의 니즈를, 그리고 조직과 비전을 계속해서 맞춰가는 역할이다. 이 두 가지는 대표나 리더의 본질적인 역할이고, 아마 AI가 대체하기 가장 어려운 영역 중 하나라고 생각한다."
-다시 태어나도 창업을?
"내일 죽는다고 해도 다시 창업을 할 것 같다. 아직 이뤘다고 말할 수 있는 게 없다고 생각하고, 창업을 통해 세상에 긍정적인 변화를 만들어보고 싶은 목표가 여전히 남아 있기 때문이다."
-언제 가장 행복한지?
"회사가 성장하고 있다는 느낌이 들 때 가장 행복하다. 좋은 사람이 합류하거나, 의미 있는 계약을 성사시키거나, 괜찮은 제품이 나올 때 등 계기는 다양하다. 개인으로서도 성장할 수 있었겠지만, 창업을 하면서는 매주 최소 한 번 이상 정말 새로운 경험을 하게 되고, 그 배움이 휘발되지 않고 저와 조직에 쌓인다는 점이 좋다. 최근 송년회를 하며 한 해를 돌아봤는데, 구성원들이 즐거워하는 모습을 보면서 저도 함께 기뻤다."
-한국의 AI보안 및 사이버산업 발전을 위한 제언을 한다면
"첫째, 더 이상 사일로(silo)가 되지 않는 협력 구조다. 좋은 움직임들이 이미 많지만, 보안이라는 특성상 찾은 취약점과 이를 해결한 굿 프랙티스를 서로 공유하기 어려워 하는 것 같다. 조직과 기업이 각자도생하기보다 함께 기준과 방식을 만들어가는 흐름이 더 강화되면 좋겠다.
둘째, 보안 테스트의 목적 재정의다. 증적 자료를 만들고 기록을 남기는 것도 중요하지만, 여기에만 집중하다 보면 보안을 마지막 단계에서 급하게 점검하는 구조가 생기기도 한다. 시스템 설계 단계부터 내·외부 보안 인력과 정책을 함께 고려하고, 실제 리스크를 이해하고 해결하는 데 목적을 두는 문화가 필요하다고 생각한다.
셋째, 규제가 아닌 경쟁력으로서의 보안 인식이다. 규제가 발전을 저해한다고만 보기보다, 보안 자체가 경쟁력이 될 수 있다고 생각한다. 소프트웨어 개발은 쉬워졌지만 보안 사고는 오히려 잦아진 시기이고, AI 기본법도 나온 상황이다. 국가 차원에서 AI 보안과 안전 분야에 집중해 인재 양성, 경험 축적, 정책적 뒷받침이 이뤄진다면, 한국이 AI 성능 경쟁을 넘어 AI 보안과 안전을 대표하는 나라로 자리 잡을 수 있다고 본다."
방은주 기자(ejbang@zdnet.co.kr)