AX로 기업 혁신 돕는 올거나이즈, 기술 고도화와 전 산업 확장 채비

- 7년 간 축적한 기술력으로 기업의 AX 혁신 도와 - 에이전트 중심 고도화로 전문가급 의사결정 지원 - 일본 시장 진출 성공 이유...접근성,현지화,인재영입,시장포착,SaaS제공 - 금융공공 넘어 전 산업으로 확장 올거나이즈(대표 이창수)가 기업의 AX(AI Transformation) 혁신을 선도하며 빠르게 성장하고 있다. 2017년 설립된 올거나이즈는 '알리(Alli)' 플랫폼을 통해 미국, 일본, 한국의 390여 기업에 AI 솔루션을 공급하고 있다. 특히 올해 4분기 일본 증시 상장을 추진하며 한 단계 더 도약을 준비 중이다. 올거나이즈는 자사를 'AX(AI Transformation) 기업'으로 정의한다. 단순한 AI 기술 제공을 넘어, 기업이 AI를 효과적으로 활용해 디지털 혁신을 달성할 수 있도록 포괄적인 지원을 제공한다는 의미다. "지식 노동자의 삶을 AI로 혁신한다"는 비전 아래, 올거나이즈는 기업들이 AI를 통해 실질적인 변화와 지속 가능한 성장을 달성할 수 있도록 지원하고 있다. 이원강 부대표는 "AI를 활용하지 않으면 성장률이 하락한다는 분석이 있다. 인구가 감소하는 상황에서 AI를 통한 생산성 향상은 선택이 아닌 필수다. 올거나이즈는 이런 시대적 요구에 맞춰 기업의 AI 혁신을 돕는 파트너로 자리매김하고 있다.”라고 말했다. 이원강 부대표와의 인터뷰를 통해 올거나이즈의 '알리 플랫폼(RAG, LLM, 앱 서비스)', 기업의 AX 도입 전략, 그리고 일본 상장 계획에 대한 구체적인 이야기를 들어보았다. ■ 7년간 쌓아온 RAG 기술력으로 기업의 생산성 혁신 ChatGPT나 Claude 같은 대규모 언어모델(LLM)의 가장 큰 한계는 학습된 데이터 범위 내에서만 답변이 가능하다는 점이다. 기업 내부의 정보를 알지 못하기 때문에, 특정 시점 이후의 정보나 기업의 내부 문서에 기반한 답변은 제공할 수 없다. 올거나이즈는 이러한 한계를 극복하기 위해 7년간 자체 RAG(Retrieval-Augmented Generation, 검색증강생성) 솔루션을 개발했다. 올거나이즈의 RAG는 기업 내부 문서를 컴퓨터가 인식 가능한 형태로 변환하고, 문서 내용을 분석한 후 LLM과 연계해 정확한 답변을 생성한다. 이 솔루션을 활용하면 사내 모든 문서를 AI가 파악하고 있어 질문에 즉시 관련 정보를 검색해 응답할 수 있다. 예를 들어 금융사 직원이 '우리 회사의 골프 보험 상품 중 월 3만원 이하인 상품을 추천해달라'고 문의하면, RAG 기술이 방대한 상품 문서에서 조건에 부합하는 정보를 추출해 최적의 답변을 제공한다. [caption id="attachment_958449" align="alignnone" width="587"] 올거나이즈의 에이전트 RAG 예시[/caption] 특히 올거나이즈의 RAG 기술은 단순한 키워드 검색을 넘어서 페이지 제목, 문서 내 맥락 정보 등을 통합적으로 분석해 검색 결과의 정확도를 높인다. 복잡한 표 형태로 구성된 문서에서도 필요한 정보를 정밀하게 추출할 수 있으며, 답변의 근거가 된 원본 문서를 하이라이트로 표시해 신뢰성을 제공한다. 실시간 피드백을 통해 RAG 모델의 성능은 지속적으로 최적화되어 사용 기간이 늘어날수록 정확도가 향상된다. 초기 도입 시 약 70% 수준의 정확도를 보이지만, 사용자 피드백이 누적되면서 불과 몇 주 만에 95%까지 정확도를 끌어올릴 수 있다. ■ 유연한 기업용 LLM 솔루션 제공 올거나이즈는 기업이 자유롭게 선택할 수 있는 유연한 LLM 솔루션을 제공한다. 기업은 자신들의 상황과 필요에 따라 GPT나 Claude 같은 외부 LLM을 선택하거나, 올거나이즈가 자체 개발한 LLM을 도입할 수 있다. 기업의 데이터 보안 정책이나 규제 환경에 따라 최적의 선택을 하면 된다. 올거나이즈가 특정 LLM만을 고집하지 않는 이유에 대해 이 부대표는 "우리의 목표는 기업이 AI를 잘 활용하게 하는 것"이라며 "고객이 외부 LLM을 선호한다면 그중 어떤 것이 해당 기업에 가장 적합한지 평가해 추천해드린다"고 말했다. 실제로 올거나이즈는 다양한 LLM의 성능을 비교 평가한 벤치마크 결과를 공개하고 있다. 올거나이즈가 자체 개발한 LLM은 Llama3를 기반으로 하며, 공개된 도메인 데이터로 1차 학습을 하고, 여기에 고객사의 데이터를 활용해 추가 학습을 진행한다. 이런 방식으로 각 기업의 특성에 최적화된 LLM을 제공하고 있다. ■ 누구나 손쉽게 앱을 만들고 활용한다 올거나이즈가 제공하는 앱 빌더와 앱 마켓은 LLM을 기업 현장에서 실용적으로 구현할 수 있게 하는 핵심 솔루션이다. 앱 빌더는 프로그래밍 지식이 없는 현업 실무자도 업무에 필요한 AI 앱을 손쉽게 직접 개발할 수 있게 지원하며, 앱 마켓은 즉시 활용 가능한 다양한 업무 특화 AI 앱을 제공한다. 앱 마켓은 일반, 법률, 인사, 고객지원, 생산성 등 6개 카테고리로 체계화되어 있다. 현재 약 100여 개의 앱이 제공되며, 문서 검색부터 계약서 분석, 상품 비교, 이메일 작성에 이르기까지 기업의 다양한 업무 영역을 지원한다. 앱 빌더는 개발 지식 없이도 AI 앱을 직접 제작할 수 있는 노코드 플랫폼이다. 이를 통해 법무팀은 계약서 검토 앱을, CS팀은 상품 추천 앱을 자체적으로 개발하여 업무 효율을 높일 수 있다. 드래그 앤 드롭 방식의 직관적 인터페이스로 필요한 기능을 쉽게 구현할 수 있으며, 업무 특성에 맞는 LLM 모델을 자유롭게 선택할 수 있는 유연성도 갖추고 있다. 이 부대표는 “올거나이즈는 이러한 앱 빌더와 앱 마켓을 통해 'AI 도구의 민주화'를 실현하고자 한다. 전문 개발자가 아니더라도 누구나 자신의 업무에 AI를 활용할 수 있게 함으로써, 기업의 전반적인 생산성 향상을 돕는 것이 목표다”라고 말했다. ■ 사내의 정보 검색에서 경영 인사이트까지 올거나이즈가 개발한 대표적인 앱이 알리 앤서(Alli Answer)다. 알리 앤서는 기업의 방대한 내부 문서를 AI가 이해하고 정확한 답변을 제공하는 것이 특징이다. 알리 앤서는 RAG 기술을 활용하여 사내 문서에 기반한 정확한 답변을 생성하고 원본 문서에 대한 인용(Citation)과 답변 출처에 대한 하이라이트 기능을 제공한다. 특히 스캔된 문서에서도 필요한 정보를 찾아낼 수 있으며 복잡한 표에서도 키워드뿐만 아니라 페이지 제목, 페이지 내 정보 등을 활용한 검색이 가능하여 정확한 답변을 찾아낸다. 최근 출시한 ‘젠비아이(Gen BI, Generative Business Intelligence)'는 기업의 데이터를 분석해 경영 인사이트를 제공하는 앱이다. 젠비아이는 기업의 데이터베이스에 연동되어 자연어로 질문하면 관련 데이터를 분석하고 시각화해주는 서비스다. 젠비아이는 특히 C레벨 경영진이 회사의 경영 인사이트를 빠르게 얻을 수 있도록 설계되었다. 복잡한 데이터 분석을 위한 전문 지식 없이도 자연어 질문만으로 데이터 기반 인사이트를 얻을 수 있어 의사결정 과정을 효율화한다. ■ 에이전트로 전문가 수준의 의사결정 도와 "LLM을 단순히 질문-답변 용도로만 쓰는 게 아니라, 사용자의 의도를 파악해 필요한 정보를 찾고 결과물까지 만들어내는 에이전트 형태로 발전하고 있다. 올거나이즈는 이러한 에이전트 전략을 통해 기업의 AI 활용을 한 단계 더 발전시키고자 한다." 이 부대표는 올거나이즈가 기존 제품들을 에이전트 중심으로 고도화하고 있다고 강조했다. 에이전트는 업무 전반을 지원하는 지능형 협업 파트너로서 직원들의 생산성을 획기적으로 높여 준다. 젠비아이의 경우에도 에이전트 기능이 적용됐다. 사용자가 "작년 월별 매출을 알려줘"라고 요청하면 기업의 데이터베이스에 연동해 정보를 가져오고, "이걸 그래프로 보여줘"라는 추가 요청에는 시각화된 그래프를 제공한다. 단순한 데이터 조회를 넘어 사용자의 의도를 파악하고 최적의 형태로 정보를 가공해 전달하는 것이다. 에이전트를 민원 요청 처리에 활용하면 기존 사례와 법령 정보를 바탕으로 적절한 답변을 제시하고, 관련 법령을 근거로 제시하며 필요시 답변의 수위를 조절하는 등 전문가 수준의 판단을 지원한다. 정보공개 요청에도 에이전트가 활용되어 정보공개법과 기존 사례를 분석해 공개 여부와 범위를 판단하고, 부분 공개가 필요한 경우 비공개 부분과 그 법적 근거까지 제안한다. 에이전트로 단순 문서 검색이나 답변 생성을 넘어선 고도화된 의사결정이 가능하다. 올거나이즈는 번역, 이력서 분석, 계약서 검토 등 다양한 업무 영역에서 에이전트가 활용될 수 있도록 준비하고 있다. ■ 일본 시장 공략과 상장 그동안 올거나이즈는 일본 시장을 적극적으로 공략해 왔다. 올거나이즈의 노력 덕분으로 특히 2022년 말부터 2023년에 걸쳐 일본에서 고객사가 급격히 증가하기 시작했다. 이에 대해 이 부대표는 “장기간에 걸친 준비와 현지 시장에 대한 철저한 이해가 바탕이 되었다. 일본은 IT 제품 도입에 있어 보수적인 시장으로 알려져 있지만, 한번 관계가 형성되면 장기적인 파트너십이 유지되는 특성을 가지고 있다”라고 말했다. 이 부대표는 일본 시장 성공 전략의 핵심 요소로 다음을 꼽았다. 첫째, 접근성. 올거나이즈 임직원 대부분이 일본어에 능통했던 점이 초기 일본 대형 고객사와의 계약 체결에 큰 도움이 되었다. 언어 장벽을 낮춤으로써 소통과 신뢰 구축이 원활하게 이루어졌다. 둘째, 현지화 전략. 일본 법인에 약 20명의 현지 직원을 고용하여 일본 시장에 특화된 마케팅과 영업 활동을 전개했다. 현지 직원들은 일본 기업 문화와 비즈니스 관행을 이해하고 있어 고객사와의 관계 구축에 큰 역할을 했다. 셋째, 현지 전문가 영입. 일본의 상당한 영향력을 가진 전문가를 영입해 그의 네트워크와 전문성을 활용했다. 넷째, 시장 니즈 포착. 일본은 모바일 시장에서의 뒤처짐으로 인해 AI 시장에서 뒤처지는 것에 대한 강한 위기감을 가지고 있었다. 이러한 시장 분위기는 AI 기술 도입을 가속화하는 요인이 되었고 올거나이즈가 이러한 시장 상황을 적극 포착했다. 다섯째, SaaS 모델 중심의 접근법. 일본 기업들은 초기 비용 부담이 적은 SaaS 모델을 선호했고, 이는 올거나이즈의 빠른 시장 진입을 가능하게 했다. 이는 한국 시장이 주로 온프레미스 솔루션을 선호하는 것과는 대조적인 특성이었다. 이러한 전략을 통해 올거나이즈는 현재 매출의 약 60%, 고객사 수의 약 60%를 일본 시장에서 창출하고 있으며, 이러한 성공을 바탕으로 본사를 일본으로 이전하고 일본 도쿄 증권거래소 상장을 준비하고 있다. 이 부대표는 "상장은 끝이 아닌 시작"이라며 "AI 시장이 더욱 커질 것으로 보고 있으며, 상장을 통해 인재 확보와 성장의 발판을 마련하겠다"고 밝혔다. ■ '한국의 팔란티어' 꿈꾸다 올거나이즈의 이러한 노력은 '한국의 팔란티어'라는 평가로 이어지고 있다. 팔란티어가 처음에는 국방 분야에 특화됐다가 점차 의료, 항만 등 다양한 산업으로 확장한 것처럼, 올거나이즈도 금융권과 공공기관에서 시작해 전 산업으로 영역을 넓혀가고 있다. 이 부대표는 “올거나이즈는 특정 산업에만 국한되지 않는 확장을 추구한다. 미국의 데이터 분석 기업 팔란티어와 같이, 각 산업의 특성을 이해하고 최적화된 AI 솔루션을 제공하는 것이 목표다”라고 포부를 밝혔다.