RTX 5090으로 어디까지 가능한가 : 3D 의료 AI 연구로 증명하다

AI 풀스택 인프라 구축과 도메인 특화 모델 기술 가이드를 전문적으로 다루는 바로AI(BARO AI) 공식 테크 블로그의 RTX5090으로 완수한 의료 AI연구 사례를 작성한 아티클 대표 배너 이미지입니다

RTX 5090으로 어디까지 가능한가 :
3D 의료 AI 연구로 증명하다

안녕하세요, 바로AI입니다.🤗

지난 8월 5일, 부산 벡스코에서 한국컴퓨터비전학술대회(KCCV) 2026이 사흘간의 일정을 마쳤습니다.
현장에서 확인한 시각 AI 기술의 발전 속도는 의료(Medical) 산업의 사례 하나를 다시 떠올리게 했습니다.

지난 6월, 충북 오송에서 열린 2026 대한의료정보학회(KOSMI) 춘계학술대회에서도 비슷한 흐름이 확인됐는데요.
3D CT나 고해상도 내시경 영상은 일반 이미지와 비교할 수 없을 만큼 무겁고 복잡하기 때문입니다.

현장 연구자들은 여기서 익숙한 전제 하나와 마주합니다.

"이런 무거운 연구를 감당하려면 고사양 GPU 서버가 필수다”

인하대학교 미디어인공지능연구실(신병석 교수팀)의 성과는 이 전제를 뒤집습니다.

’가진 인프라'가 아니라 '쓰는 방법'이 연구의 수준을 결정합니다.



👀 포세이돈 Alpha 라인업으로 완성한 세 가지 연구

신병석 교수팀은 포세이돈 Alpha 라인업(RTX4090×4, RTX5090×4)으로 이 명제를 세 가지 연구 성과로 증명했습니다.

1️⃣ GPU 메모리의 벽, 2단계 Transformer로 넘다

3D CT 장기 구역화는 볼륨 전체를 한 번에 연산하면 메모리 사용량이 순식간에 치솟습니다.
메모리가 넉넉하지 않은 임상 기기에서는 아예 구동 자체가 불가능한 경우도 있었죠.

그렇다면 메모리 제약이 없는 3D 영상 판독은 정말 불가능한 걸까요?

연구팀은 2단계 Transformer 구조로 이 문제를 풀었습니다.
1단계 Coarse Segmentation으로 장기의 대략적 위치를 빠르게 찾고, BBox 추출을 통해 관심 영역만 잘라냅니다.
2단계 Fine Segmentation은 잘라낸 영역만 놓고 고해상도로 정교하게 분할합니다.

3D CT 장기 구역화 파이프라인 다이어그램. Coarse Seg 모델과 BBox Extraction으로 대략의 위치를 찾은 뒤, Cropping을 거쳐 Fine Seg 모델이 최종 분할 결과를 만드는 흐름을 보여주는 인프라 풀스택 기업 바로에이아이(BARO AI)의 블로그 아티클 삽입 그림입니다.

3D CT 장기 구역화 파이프라인: Coarse Seg 모델이 대략의 위치를 찾으면, Cropping을 거쳐 Fine Seg 모델이 정밀하게 분할합니다.

전체 볼륨을 한 번에 연산하는 대신 관심 영역(ROI)만 골라 정밀하게 분할한 결과,
GPU 메모리 사용량을 최대 74%나 절감했습니다.
고사양 장비의 전유물로 여겨지던 고해상도 3D 영상 판독이 메모리가 제한된 임상 기기 환경에서도 충분히 구동 가능해진 것입니다.

2️⃣ 연산량이라는 또 다른 산, Stage-skipping 구조로 낮추다

3D 세그멘테이션은 볼륨 전체를 다 계산하는 방식이 기본이라 연산량(FLOPs)이 커질 수밖에 없습니다.
그 결과 고성능 GPU가 없는 에지(Edge)나 원격 의료 환경에서는 배포 자체가 어려웠습니다.

전체를 다 계산하지 않고도 정확한 3D 분할이 가능할까요?

연구팀은 DETR 기반 2D Detector로 관심 영역(ROI)부터 찾아냈습니다.
세 방향(XZ, YZ, XY) 단면을 각각 검출해 3D 좌표를 계산하는 방식입니다.
이렇게 좁힌 영역만 골라서 입력 크기에 따라 불필요한 Stage를 자동으로 건너뛰는
다단계 Hierarchical Segmentor로 최종 분할까지 마칩니다.

풀스택 인프라 기업 바로에이아이의 블로그 아티클 내에 있는 Hierarchical Segmentor 구조 다이어그램 입니다. (a) Overall Structure는 ROI만 골라 Downsample과 Upsample을 거치며 Gating Module이 Region Size를 보고 필요 없는 Stage를 건너뛰는 구조를 보여준다. (b) Detector Structure는 XZ, YZ, XY 세 방향 단면을 각각 검출해 3D 좌표를 계산하는 과정을 보여줍니다.

(a) Overall Structure: ROI만 골라 Downsample→Upsample을 거치며, Gating Module이 Region Size를 보고 필요 없는 Stage를 건너뜁니다.
(b) Detector Structure: XZ, YZ, XY 세 방향 단면을 각각 검출해 3D 좌표를 계산합니다.

다단계 검출과 생략 구조를 적용해 연산량(FLOPs)을 85% 절감했습니다.
이를 통해 고성능 GPU 없이도 에지·원격 의료 환경에 3D 분할 AI 배포가 가능해졌습니다.

3️⃣ 병원마다 다른 조명, 조명 분해로 지우다

대장내시경 영상은 병원마다, 장비마다 조명 조건이 천차만별입니다.
환경이 조금만 바뀌어도 성능이 떨어져, 매번 데이터를 다시 맞추고 모델을 재학습시켜야 했던
연구자들의 고충과 피로감이 이만저만이 아니었을 겁니다.

연구팀은 내시경 이미지를 조명 성분으로 나누는 IDM(Image Decomposition Model, 이미지 분해 모델)을 적용했습니다.
여기에 조명 조건을 새로 합성하는 GAN(생성적 적대 신경망) 기반 ITN(조명변환 모델),
최종 분할을 맡는 UNet 세그멘테이션을 결합했습니다.

폴립 분할 파이프라인 다이어그램. 왼쪽 Image Decomposition 단계에서 IDM이 내시경 영상을 반사·명암·전역 조명 성분으로 분리하고, 가운데 Global Illumination Enhancement 단계에서 ITM이 조명 조건을 새로 합성하며, 오른쪽 Segmentation 단계에서 Segmentation Network가 최종 폴립 영역을 예측한다. 하단에는 원본과 조명 변환을 거친 이미지 예시가 나열되어 있는 풀스택 인프라 기업 BARO AI의 블로그 아티클 이미지입니다.

IDM이 내시경 영상을 조명 성분별로 분리하고, ITM이 여러 조명 조건을 합성해 학습 데이터를 늘립니다. 이렇게 늘어난 데이터로 Segmentation Network가 조명이 달라져도 흔들리지 않는 폴립 분할을 학습합니다.

그 결과 조명과 장비가 달라도 안정적으로 폴립을 분할했고,
기관 간 재학습 없이 다기관 대장내시경 스크리닝에 바로 적용할 수 있었습니다.



🧐 연구실의 진짜 고민, 보안과 사후관리로 풀다

신병석 교수팀은 포세이돈을 선택한 이유로 '가성비 좋은 연산력'보다 더 근본적인 이유를 꼽았습니다.
연구실이 매일 마주하는 현실적인 운영 고충을 해결했다는 설명입니다.

1️⃣ 물리적 보안과 설치의 자유로움

의료 데이터는 민감한 개인정보라 외부 클라우드 보관이 엄격히 제한되어 서버가 물리적으로 어디에 있는지가 중요했다고 합니다.
포세이돈은 저소음 설계라 연구실 안에 바로 두고 써도 업무를 방해하지 않았고,
별도의 차음 서버실 없이도 안전한 온프레미스(사내 구축) 환경을 완성할 수 있었다고 전했습니다.

2️⃣ 고장 나면 방치? 든든한 사후관리

대학과 기관 연구실은 장비 고장 시 별도 수리 예산을 확보하기 어렵습니다.
결국 연구자가 직접 해결책을 찾거나, 고가 장비를 방치한 채 새 장비를 사는 악순환이 반복되곤 한다는 이야기입니다.
포세이돈은 장기간 고부하 연산에도 안정적으로 작동했고, 여기에 주기적 점검과 유지보수 지원까지 더해졌다고 합니다.
연구진은 서버 관리가 아니라 연구 본질에 집중 시간을 다시 쓸 수 있게 됐다고 전했습니다.

지금 연구실의 서버가 '연구의 발목'을 잡고 있지는 않으신가요?

성공적인 의료 AI 연구에 거창한 예산과 웅장한 서버실이 필수는 아닙니다.
메모리는 아끼고, 연산은 줄이고, 재학습은 없애는 세 가지 성과가 이를 증명합니다.

624e354c0629a.png

소규모·단일 실험부터 연구실 상시 사용까지 커버
빠른 실험과 개념증명(PoC)에 최적화된 합리적인 비용 구성
RTX5090 기반으로 sLLM 테스트부터 경량모델 학습까지 지원
BARO AI 특허 액체냉각(리퀴드 쿨링) 기반의 최상급 성능 유지
GPU 온도를 안정적으로 50~60℃ 사이로 유지하여 성능 저하 방지

 POSEIDDON Alpha lineup 알아보기 

 POSEIDON의 다른 라인업이 궁금하시다면?