AI 서비스를 더 작고 빠르게 만드는 방법, 스퀴즈비츠

대화형 AI 에이전트 기술로 인식되었던 인공 지능 기술은 어느덧 IT 기업들의 시장 순위를 가름 짓는 핵심 기술 분야가 되었다. 하지만 우리에게 익숙해진 스마트홈, AI 스피커, 무인 자동차, 보안기기를 제외하고 새로운 인공 지능 기술을 실제로 활용한 사례는 아직 국내외에서 많이 찾아볼 수 없다. 미래 핵심 먹거리로 떠오르게 된 기술이나, 아직 인공지능 기술은 활용도가 낮은 이유가 무엇일까?

인공 지능은 알고리즘을 생성하고 적용하여 인간의 지능과 유사한 지능을 수행할 수 있는 것으로, 그 서비스의 성능은 알고리즘을 생성하기 위해 시스템이 학습하는 데이터가 많을수록 좋아진다. 결국, AI 서비스는 인간의 지능을 시스템이 수행할 수 있도록 설계한 것으로, 데이터양에 따라 그 질이 결정된다는 소리다. 여기서 문제가 생긴다. 방대한 데이터 분량을 다루는 방법이다. AI 모델이 정교해지고 정확해질수록 데이터를 다루는 비용과 리소스 부담이 커지게 된다. 그래서 좋은 아이디어가 있어도, 실제 상용화 되는 기술은 많지 않은 실정이다. 문제점을 해결할 방법은 없을까? 스퀴즈비츠의 김형준 대표를 만나 자세한 이야기를 들어보았다.

스퀴즈비츠 김형준 대표

◆ AI 기술의 실용화 및 구체화 위한 솔루션 개발 위해 창업

김형준 대표는 스퀴즈비츠를 AI 모델을 경량화하고 또 경량화 한만큼 가속화하는 솔루션을 제공하는 회사라고 소개했다. 즉 더 가볍고 빠른 서비스가 가능하도록 AI모델을 압축시켜 준다는 뜻이다. “이미 AI 서비스들은 훌륭한 기술 수준을 갖고 있는 경우가 많고 서비스 분야 또한 다양하다”라고 김형준 대표는 말했다. “특히 AI 스타트업의 기술은 아이디어가 신선하고 기술 완성도가 높은 경우가 많지만 서비스 운영에 드는 비용 부담의 이유로 지속적인 서비스를 제공하지 못하는 경우를 종종 보곤 했다”고 덧붙였다.

“좋은 아이디어와 서비스들이 실용화되는 것을 보고 싶었고, AI 모델을 가볍고 빠르게 만드는 최적화 기법이 솔루션이 될 수 있다고 생각해 창업을 결정했다”고 말했다.

◆ 스퀴즈비츠, 그 어떤 서비스보다 작고 빠른 모델을 만들 수 있어

스퀴즈비츠는 AI 모델을 극단적으로 압축시켜 AI 모델 성능은 그대로 유지하면서도 연산 처리 속도를 끌어올리는 기술을 갖고 있다. 근거를 물어보았다. “저희와 비슷한 서비스 모델을 보면, 보통 32비트의 데이터 포맷을 8비트 형태로 압축하여 1/4 수준으로 경량화하는 서비스를 하고 있어요. 저희는 4비트 이하의 데이터 포맷을 사용하여 1/8 수준 이하로 경량화하는 서비스를 제공합니다”라고 말했다.

스퀴즈비츠의 경량화 모델. 출처: 스퀴즈비츠 홈페이지

 

즉, 타 서비스 대비 스퀴즈비츠의 서비스는 AI 모델의 크기를 더 축소할 수 있기 때문에 연산 속도 또한 더 빠르다는 것. 김형준 대표는 “스퀴즈비츠의 최적화 서비스를 활용하시면 더 많은 작업을 같은 시간 안에 할 수 있어 클라우드 비용 등 절감효과도 기대할 수 있다”고 말했다.

◆ AI 기술 기업이라면 스퀴즈비츠는 필수 단계가 될 수 있도록

앞으로의 포부에 대해 물었다. 김형준 대표는 안 다뤄본 모델과의 협업을 하는 것이 가까운 목표라고 말하며, 이를 통해 비즈니스 케이스를 넓히고 데이터를 모을 것이라 밝혔다. 이번 SKT 트루이노베이션 프로그램 참가도 같은 맥락이라고 김형준 대표는 말했다. 그는 우선적으로는 SK 텔레콤 내 AI 솔루션의 경량화 작업을 먼저 할 것이라며, “SK 텔레콤이 가진 AI 기술과 스퀴즈비츠의 경량화 모델이 새로운 영역에서 어떤 시너지 영향을 일으킬지 기대된다”고 덧붙였다.

마지막으로 김형준 대표는 “AI 기술은 이제 막 시작하는 단계”라며 “결국 AI 기술이 발전하면 할수록 경량화는 꼭 필요한 작업입니다. AI 기술을 다루는 기업이라면 스퀴즈비츠는 필수인 시대가 더 빨리 오도록 팀원들과 노력할 것입니다”라고 말했다.

 

영상출처 : NAVER D2 Startup Factory

%d bloggers like this: