
AI 경량화 및 최적화 기술 기업 노타(대표 채명수)가 11월 5일부터 7일까지 일산 킨텍스(KINTEX)에서 열리는 ‘디지털퓨처쇼 2025’에 참가해 AI 모델 최적화 기술을 공개한다고 밝혔다.
노타는 행사에서 AI 모델 최적화 플랫폼 ‘넷츠프레소’를 기반으로 다양한 엣지 디바이스에서 대규모 AI 모델을 실행할 수 있는 체험형 부스를 운영할 예정이다.
이번 전시에서는 저전력 디바이스에서 대규모 언어모델(LLM)과 비전언어모델(VLM)을 최적화하는 LLM 최적화 서비스를 선보인다. 해당 서비스는 모델 성능을 유지하면서 빠른 추론 속도를 제공하며, GPU 없이도 엣지 환경에서 대규모 AI 모델을 실행할 수 있도록 설계됐다. 이를 통해 기업은 기존 제품에 고성능 AI 기능을 적용하면서 GPU 서버 비용과 전력 제약 문제를 완화할 수 있다.
방문객은 다양한 엣지 디바이스에서 문서를 업로드하고 질문하면, 넷츠프레소를 통해 최적화된 LLM 모델이 문서를 이해하고 답변하는 기능을 체험할 수 있다. 또한 VLM 모델 최적화 서비스의 엣지 환경 구현 경험과 무료 컨설팅 신청 기회도 제공된다.
노타 관계자는 “이번 전시는 AI 최적화 기술이 기존 기기에서 효율적으로 구현되는 방식을 관람객이 직접 체험할 수 있도록 구성했다”며, “체험을 통해 AI 경량화 및 최적화 기술의 이해를 높이고, 자사 제품 적용 가능성을 확인할 수 있을 것”이라고 말했다.
- 관련 기사 더 보기
You must be logged in to post a comment.