아크프라, 비LLM 모델 지원 추가 및 AI 운영을 간소화하는 뉴트리 1.2 출시

플렉스 엔진, 더 간편해진 리소스 관리와 함께 마이너U와 패들OCR, 선별된 머신러닝 모델 추가

싱가포르, 2026년 9월 18일 /PRNewswire/ -- 아크프라(Arcfra)가 9월 17일, 모델 지원을 확대하고 기업용 AI 플랫폼의 리소스 계획 및 운영 관리를 간소화하는 새로운 버전 뉴트리 1.2(Neutree 1.2)를 발표했다.

뉴트리 1.2는 아크프라가 개발한 추론 엔진인 플렉스 엔진(Flex Engine)을 도입했으며, 이는 마이너U(MinerU)와 패들OCR(PaddleOCR) 같은 비LLM 모델을 지원한다. vLLM과 SGLang 같은 표준 추론 엔진을 기반으로, 사용자들은 언어, 멀티모달, 임베딩, 리랭크, 문서 파싱, OCR, 머신러닝 모델을 하나의 플랫폼에서 관리한 다음, 뉴트리의 통합 모델 게이트웨이를 통해 서비스 호출을 게시하고 관리할 수 있다. 이를 통해 중복되는 플랫폼 작업이 줄어들고 모델 검증에서 실제 비즈니스 활용까지의 경로가 가속화된다.

시각적 모델 레지스트리 관리는 모델 자산의 가시성을 개선한다. 뉴트리 1.2는 공개 모델과 비공개 모델의 통합 관리를 지원하며, 각 모델의 파라미터 수, 크기, 정밀도와 함께 소스, 연결 상태, 가시성, 모델 수, 저장 용량 및 업데이트 시간을 하나의 인터페이스에서 보여준다.

자동 KV캐시 및 GPU 메모리 계산 기능은 배포 작업의 예측 가능성을 높인다. 이 플랫폼은 모델 구조를 분석하고 사용자의 콘텍스트 윈도우와 동시성 설정을 기반으로 배포에 필요한 KV캐시를 계산한 다음, 필요한 GPU 메모리를 추천해 배포 실패 위험을 줄이고 불필요한 GPU 메모리 낭비를 방지한다.

이 플랫폼은 또한 프로젝트 기반 API 키 관리 기능을 추가해 사용자들이 여러 API 키를 비즈니스 프로젝트별로 그룹화하고 프로젝트 이름과 설명을 통해 소유권을 식별할 수 있게 한다. 각 키는 작업 공간, 상태, 사용량, 속도 제한, 지원 모델, 생성 시간과 함께 검색 및 필터링 기능을 갖춰 표시된다. 이를 통해 API 키 관리는 단순한 키 목록에서 비즈니스 중심의 뷰로 전환되어, 팀 전반에서의 비즈니스 소유권을 명확하게 해준다.

표준화된 모델 딜리버리와 통합 컴퓨팅 및 모델 관리, 모델 거버넌스, 게이트웨이 관리, 종단간 관측 가능성을 통해, 뉴트리는 기업들이 모델을 배포하는 단계에서 모델, 컴퓨팅, 애플리케이션 전반에 걸친 통합 거버넌스로 나아갈 수 있도록 돕는다. 아크프라 엔터프라이즈 클라우드 플랫폼(Arcfra Enterprise Cloud Platform)과 함께, 기업들은 프로덕션급의 관리 가능한 모델 추론 인프라를 구축할 수 있다.

여러 고객들이 이미 뉴트리를 사용하기 시작했다. 한 제조업 선도기업은 기존의 아크프라 인프라를 프로덕션급 AI 기반으로 활용해 모델 딜리버리를 간소화하고 컴퓨팅 및 모델 리소스 관리를 통합했으며, 한 조선업 고객사는 컴퓨팅 관리와 모델 관리, 모델 게이트웨이를 하나의 플랫폼으로 통합해 더 빠른 모델 출시와 통합된 접근성, 시각적 관측 가능성을 실현했다.

뉴트리 1.2는 현재 깃허브(GitHub)에 오픈소스로 공개되어 있다. 뉴트리 엔터프라이즈(Neutree Enterprise)에 대한 문의는 아크프라 팀에 연락하여 진행할 수 있다.

SOURCE Arcfra