AI 핵심 요약
beta- 제이엘케이는 21일 인텔 GPU에서 JOOMED를 구동해 엔비디아 A100 서버와 대등한 의료 데이터 분석 성능을 확인했다.
- K-MMLU-Pro와 자체 데이터로 두 시스템 성능을 검증한 결과 단일 연산은 엔비디아가 앞섰으나 비용 대비 성능은 인텔이 우위를 보였다.
- 제이엘케이는 다양한 AI 반도체 선택지를 제공해 의료기관의 AI 도입 부담을 줄이고 JOOMED 기반 B2B 사업을 확대할 계획이라고 밝혔다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
의료기관 예산 맞춘 AI 인프라 제공…B2B 사업 본격화
[서울=뉴스핌] 조민교 기자 = 제이엘케이가 의료 멀티모달 거대언어모델(LLM) 플랫폼 'JOOMED(주메드)'를 인텔 GPU에서 구동한 결과, 엔비디아 A100 기반 서버와 대등한 분석 성능을 확보했다. 비용 대비 성능에서는 인텔 시스템이 우위를 보이면서 의료기관의 AI 도입 부담을 낮출 수 있는 기반도 마련했다.
21일 제이엘케이는 인텔 아크 프로 B70 GPU 2개가 탑재된 '인텔 LLM Scaler' 환경과 엔비디아 A100 80GB PCIe 기반 AI 서버에 동일한 JOOMED 모델을 적용해 의료영상과 임상 데이터 통합 분석 성능을 비교했다고 밝혔다.
검증에는 한국어 거대언어모델 평가 기준인 'K-MMLU-Pro'와 자체 의료 멀티모달 데이터 100건이 활용됐다. 모델 구조와 데이터셋, 평가지표를 동일하게 설정해 하드웨어에 따른 성능 차이를 측정했다.
두 시스템 모두 상용화 기준을 웃도는 분석 정확도를 기록했다. 단일 연산 성능은 엔비디아가 앞섰지만 총소유비용을 반영한 비용 대비 성능에서는 인텔 GPU 시스템이 더 높은 효율성을 보였다는 것이 회사 측 설명이다.
제이엘케이는 이번 검증을 토대로 의료기관과 기업 고객의 예산·인프라 환경에 맞춰 다양한 AI 반도체 선택지를 제공하고 B2B 사업을 확대할 계획이다. 회사 관계자는 "낮은 비용으로 의료 LLM을 안정적으로 운영할 수 있는 시스템을 확보했다"며 "의료기관의 서비스 도입 부담을 낮추고 JOOMED 활용 범위를 넓혀갈 것"이라고 말했다.
mkyo@newspim.com
