2024.01.30
공랭 서버 운영 시 서버 관리의 어려움
- 서버 과열로 인한 냉각 비용
공랭 서버는 발열이 70도 이상으로 올라가면 서버에 문제가 생기므로, 시스템 온도를 안정화를 위한 강력한 냉방 시스템이 필요합니다.
데이터 센터의 경우, 냉방 비용이 전체 에너지 소비량의 50%를 차지하고 있습니다.
- 시끄러운 소음
기존의 공랭 서버는 고성능 동작 시 발생하는 열을 효과적으로 제어하기 위해 수십개의 팬이 사용됩니다.
그러나 이는 극심한 소음을 유발해 사무실에서 연구에 집중하기 어려운 환경이 됩니다.
- 막대한 전기 사용량
AI 개발에는 막대한 전력이 필요합니다. GPT-3 의 학습에 사용되는 전력이 120가구가 1년 간 사용하는 전력(1.287GWh)과 맞먹을 정도입니다.
앞으로 AI 가 상용화되면서 더욱 많은 시간과 전력 비용이 소요될 것입니다.
AI 연구의 장기적인 효율을 고려할 때, 공랭 서버는 최선의 선택이 아닐 수 있습니다.
연구 효율 극대화, 수냉각 서버로.
이제는 공랭이 아닌 수냉으로 연구를 시작 할 때입니다.
- 전력 소비량 30% 감소
기존 공랭 서버 대비 냉각 효율이 좋아져 서버의 열을 식히는 데에 전력을 낭비하지 않고 효율적으로 사용할 수 있습니다.
- 서버 수명 연장
GPU·CPU 는 70도 이상 발열시 성능이 저하되며 고장 확률이 높아집니다. 그러나 수냉은 시스템 온도를 평균 60도로 유지해 서버 수명을 획기적으로 연장 시킵니다.
- 어디서나 조용하게 사용
수십 개의 팬을 가동해 열을 식히는 공랭식 서버와 달리, 수냉식 서버는 냉각수를 통해 열을 식혀 소음이 거의 없고, 공기청정기보다 더 조용하게 가동됩니다.
연간 약 800만원의 냉각 비용을 절감하는 방법💸
수냉각 서버 사용 시, 별도의 냉각 시설이 필요하지 않아 연구 운영비를 절감할 수 있습니다.
| 공랭 서버 (4GPUs 10대) | 수냉 서버 (4GPUs 10대) |
|---|
전력 효율 | 7.0kW (30kW / 8.1kW x 1.9kW ) | 0kWh |
연간 전기 사용량 | 61,320kWh/yr (7.0kWh x 24hr x 365yr/hr) | 0kWh/yr |
연간 전기 요금 | 7,910,280원/yr (61,320kWh/yr x 129원/kWh) | 0원/yr |
※ 대략적인 산출 금액이며, 실제 금액과 차이가 있을 수 있습니다. 필요 냉각 용량 30kW(10대씩 각 3kW)으로 365일 가동되었다고 가정합니다.
S사의 최신 에어컨 기준이며, 정격 냉방능력 8.1kW, 정격 냉방 소비전력 1.9kW입니다. 전기요금은 129원/kWh (23년 11월 기준)입니다.
성능 최대로 발휘하는 쾌적한 수냉식 서버
특허 받은 효율적인 냉각 설계로, GPU 를 100% 발휘해도 최대 49°C 로 안정적인 온도를 유지하고 있습니다.
전력 소비와 연구 효율의 저하 우려를 동시에 줄이고, 이젠 편안한 환경에서 연구에 집중해보세요.
www.baroai.com/Poseidon
#바로AI #바로에이아이 #baroai #ai서버 #스타트업 #AI회사 #IT회사 #IT #NVIDIA #엔비디아 #NVIDIA #인공지능 #CPU #GPU #Poseidon #포세이돈 #workstation #워크스테이션 #server #GPU서버 #서버 #서버실구축 #aiworkstation #AI #연구 #예산 #국가과제 #데이터 #인프라 #연구실 #사무실 #대학교 #A100 #H100 #A6000 #Ada6000 #RTX4090
2024.01.30
공랭 서버 운영 시 서버 관리의 어려움
공랭 서버는 발열이 70도 이상으로 올라가면 서버에 문제가 생기므로, 시스템 온도를 안정화를 위한 강력한 냉방 시스템이 필요합니다.
데이터 센터의 경우, 냉방 비용이 전체 에너지 소비량의 50%를 차지하고 있습니다.
기존의 공랭 서버는 고성능 동작 시 발생하는 열을 효과적으로 제어하기 위해 수십개의 팬이 사용됩니다.
그러나 이는 극심한 소음을 유발해 사무실에서 연구에 집중하기 어려운 환경이 됩니다.
AI 개발에는 막대한 전력이 필요합니다. GPT-3 의 학습에 사용되는 전력이 120가구가 1년 간 사용하는 전력(1.287GWh)과 맞먹을 정도입니다.
앞으로 AI 가 상용화되면서 더욱 많은 시간과 전력 비용이 소요될 것입니다.
AI 연구의 장기적인 효율을 고려할 때, 공랭 서버는 최선의 선택이 아닐 수 있습니다.
연구 효율 극대화, 수냉각 서버로.
이제는 공랭이 아닌 수냉으로 연구를 시작 할 때입니다.
기존 공랭 서버 대비 냉각 효율이 좋아져 서버의 열을 식히는 데에 전력을 낭비하지 않고 효율적으로 사용할 수 있습니다.
GPU·CPU 는 70도 이상 발열시 성능이 저하되며 고장 확률이 높아집니다. 그러나 수냉은 시스템 온도를 평균 60도로 유지해 서버 수명을 획기적으로 연장 시킵니다.
수십 개의 팬을 가동해 열을 식히는 공랭식 서버와 달리, 수냉식 서버는 냉각수를 통해 열을 식혀 소음이 거의 없고, 공기청정기보다 더 조용하게 가동됩니다.
연간 약 800만원의 냉각 비용을 절감하는 방법💸
수냉각 서버 사용 시, 별도의 냉각 시설이 필요하지 않아 연구 운영비를 절감할 수 있습니다.
※ 대략적인 산출 금액이며, 실제 금액과 차이가 있을 수 있습니다. 필요 냉각 용량 30kW(10대씩 각 3kW)으로 365일 가동되었다고 가정합니다.
S사의 최신 에어컨 기준이며, 정격 냉방능력 8.1kW, 정격 냉방 소비전력 1.9kW입니다. 전기요금은 129원/kWh (23년 11월 기준)입니다.
성능 최대로 발휘하는 쾌적한 수냉식 서버
특허 받은 효율적인 냉각 설계로, GPU 를 100% 발휘해도 최대 49°C 로 안정적인 온도를 유지하고 있습니다.
전력 소비와 연구 효율의 저하 우려를 동시에 줄이고, 이젠 편안한 환경에서 연구에 집중해보세요.
www.baroai.com/Poseidon
#바로AI #바로에이아이 #baroai #ai서버 #스타트업 #AI회사 #IT회사 #IT #NVIDIA #엔비디아 #NVIDIA #인공지능 #CPU #GPU #Poseidon #포세이돈 #workstation #워크스테이션 #server #GPU서버 #서버 #서버실구축 #aiworkstation #AI #연구 #예산 #국가과제 #데이터 #인프라 #연구실 #사무실 #대학교 #A100 #H100 #A6000 #Ada6000 #RTX4090