ko

로컬 AI용 GPU 구매 가이드

로컬 AI용 그래픽카드를 VRAM, 대역폭, 백엔드, 전력, GiB당 가격으로 비교하세요. 실측값은 조건이 같을 때만 비교합니다.

이 계산기는 모델 기반의 참고용 추정치를 제공하며 금융, 세무 또는 법률 자문이 아닙니다. 면책 조항에서 자세히 보기
  • 나이지리아
  • 네덜란드
  • 대만
  • 대한민국
  • 독일
  • 러시아
  • 말레이시아
  • 멕시코
  • 미국
  • 방글라데시
  • 베트남
  • 불가리아
  • 브라질
  • 스웨덴
  • 스페인
  • 영국
  • 우크라이나
  • 유로존
  • 이집트
  • 이탈리아
  • 인도
  • 인도네시아
  • 일본
  • 중국
  • 케냐
  • 태국
  • 튀르키예
  • 파키스탄
  • 포르투갈
  • 폴란드
  • 프랑스
GPU 후보 CSV: 이름; VRAM; 대역폭 GB/s; 백엔드; 전력 W; 가격; 통화; 배송비; 출처
실측값 CSV: GPU 이름; 토큰/s; 종류 tg/pp; 모델; 양자화; 컨텍스트; 백엔드; 출처
소프트웨어에 필요한 백엔드
  • 특정 백엔드 없음
  • CUDA
  • ROCm
  • Vulkan
  • Metal
  • SYCL
워크로드: 모델 전체 파라미터(10억)
워크로드: 가중치당 비트(양자화, 예: 4.5)
워크로드: 컨텍스트(토큰)
워크로드: KV 캐시가 있는 층(모델 카드)
워크로드: KV 헤드(모델 카드)
워크로드: 헤드당 차원(모델 카드)
워크로드: KV 요소당 비트
  • 16 (FP16/BF16)
  • 8
  • 4
GPU당 실행 버퍼와 여유분(GiB, 가정)
GB로 적힌 VRAM을 GiB로 읽기(일반적인 표기)
통화(통화 없는 줄과 전기 요금)
  • ¤
  • USD
  • EUR
  • GBP
  • JPY
  • CHF
  • CAD
  • AUD
  • CNY
  • INR
  • KRW
  • BRL
  • MXN
  • SEK
  • PLN
  • TRY
  • SGD
CSV의 소수점 기호
  • 자동 감지
  • 쉼표(12,50)
  • 마침표(12.50)
kWh당 전기 요금(비우면 전기 요금 없음)
하루 부하 시간
시장 또는 판매자 국가(자유 입력)
가격 기준 시점, 예: 날짜(자유 입력)

결과

아직 유효한 후보가 없습니다
VRAM 적재 여부(✓ 들어감 · ✗ 안 들어감 · ? 미확인)
워크로드 불완전: 파라미터 수와 가중치당 비트를 입력하세요
필요한 메모리 합계
워크로드 불완전: 파라미터 수와 가중치당 비트를 입력하세요
계산: 가중치 + KV 캐시 + 버퍼
특정 백엔드가 필요하지 않음
후보별 필요한 백엔드
0
유효한 후보
가격이 있는 후보 없음
VRAM GiB당 최저 가격(통화별)
가격이 있는 후보 없음
통화 비교
0
가격 없는 후보
비교 가능한 측정 없음
측정 그룹(순위는 그룹 안에서만)
0
순위 없는 측정(조건 불완전)
0
측정 없는 후보(알 수 없음으로 유지)
미지정
연간 전기 요금 계산
없음
잘못된 후보 줄
없음
잘못된 측정 줄
붙여 넣은 CSV 없음
감지된 CSV 구분 기호
내 값과 출처만 사용, 내장 GPU 표 없음
기술 데이터 출처
미지정
시장
미지정
가격 기준일
✓ 들어감 또는 출처 있음 · ~ 출처 없는 입력 · ✗ 안 들어감 또는 미지원 · ? 알 수 없음 · ≠ 측정 조건 불완전, 순위 없음 · ≥ 배송비 미상, 최솟값
표의 기호
line;name;vram_gib;fit;bandwidth_gb_s;backends;power_w;price_total;currency;shipping_unknown;price_per_gib;rank_in_currency;source line;gpu;tokens_per_s;metric;model;quant;context;backend;group;rank_in_group;source
복사용 CSV 보고서(세미콜론, 소수점)

GPU 후보 비교

GPU 후보 비교
줄GPUVRAM적재대역폭(데이터시트)백엔드필요한 백엔드전력(데이터시트)연간 전기총가격VRAM GiB당 가격(통화별 순위)GB/s당 가격측정(실측, 그룹 순위/개수)출처
제 파일이 업로드되나요?

아니요. 모든 처리가 브라우저에서 이루어지며, 파일이 기기를 떠나지 않습니다. 이것을 검증하는 방법

업로드 없음100% 로컬 처리
내용은 내 손안에제3자 접근 불가
독일에서 호스팅글로벌 콘텐츠 전송
외부 검증 완료TLS A+ · 헤더 A+

로컬 AI에서는 먼저 GPU(그래픽 처리 장치)의 그래픽 메모리(VRAM, 비디오 메모리)가 중요합니다. 모델은 가중치, KV 캐시(어텐션의 키와 값을 담는 공간), 실행 버퍼와 함께 들어가야 합니다. 점검은 로컬 언어 모델 도구와 같은 계산을 씁니다. 80억 파라미터를 4.5비트로 두면 가중치는 4.19 GiB이고, KV 헤드 8개·헤드 차원 128의 32개 층에 FP16 컨텍스트 8192토큰이면 KV 캐시는 1.00 GiB, 버퍼 1 GiB를 더하면 모두 6.19 GiB입니다. 빠진 부분이 있으면 필요량은 「≥」와 함께 표시되고, 알려진 부분만으로도 들어가지 않을 때에만 카드가 작다고 판정합니다.

데이터시트 값과 실측값은 따로 다룹니다. VRAM, GB/s 단위 메모리 대역폭, W 단위 전력은 이론값입니다. 초당 토큰 수(tok/s)는 직접 입력한 실측값에서만 가져오며, 측정 종류(tg = 텍스트 생성, pp = 프롬프트 처리), 모델, 양자화, 컨텍스트, 백엔드를 함께 적습니다. 순위는 조건이 완전히 같은 그룹 안에서만 매깁니다. 같은 모델, Q4_K_M, 8192토큰, Vulkan으로 잰 40 tok/s와 55 tok/s는 G1이 되고, CUDA로 잰 값은 별도 그룹에 들어갑니다. 대역폭으로 속도를 추정하는 일은 없습니다.

가격은 계산 가능한 지표에만 영향을 줍니다. 통화별 순위가 붙은 VRAM GiB당 가격, GB/s당 가격, 그리고 순위가 있는 실측값의 tok/s당 가격입니다. 예: 16 GB가 450 EUR이면 GiB당 28.13 EUR, 24 GB가 900 EUR이면 GiB당 37.50 EUR입니다. 통화는 섞지 않으며, 배송비를 모르면 값은 최솟값이 됩니다. CUDA, ROCm, Vulkan, Metal, SYCL 같은 백엔드는 AI 소프트웨어가 GPU를 쓰는 프로그래밍 인터페이스입니다. 출처가 있는 정보는 근거 있음, 출처가 없으면 미확인이며, 적지 않은 백엔드는 알 수 없음으로 남습니다.

무료이며 계정이 필요 없습니다. 원하는 만큼 계산할 수 있고, 입력한 내용은 기기에 남습니다.

기술 사양

기술 사양
입력 형식폼 입력 (파일 없음)
처리 방식브라우저에서 로컬 처리 (JavaScript)
파일 업로드없음

3단계로

  1. GPU 후보를 VRAM, 대역폭, 백엔드, 전력, 가격, 출처와 함께 CSV로 붙여넣습니다.
  2. 워크로드를 입력합니다. 파라미터 수, 가중치당 비트, 컨텍스트, 모델 카드 값, 버퍼, 필요한 백엔드입니다.
  3. 직접 잰 값이나 근거 있는 실측값을 종류, 모델, 양자화, 컨텍스트, 백엔드와 함께 추가합니다.
  4. 표에서 적재 여부, 백엔드 현황, GiB당 가격, 측정 그룹을 비교하고 보고서를 CSV로 복사합니다.

제한: 이 가이드는 제품을 알지 못하며 구매 추천이나 보증을 하지 않습니다. 입력한 값으로만 계산합니다. tok/s 예측, 병목 비율, 종합 점수는 없습니다. 적재 점검은 시스템 메모리로 오프로드하지 않는 GPU 한 장 기준이며, 드라이버, 냉각, 소음, 크기, 파워서플라이는 확인하지 않습니다. 가격은 입력 시점 기준이며 환율은 쓰지 않습니다.

자주 묻는 질문

왜 대역폭으로 초당 토큰 수를 추정하지 않나요?

실제 속도는 모델, 양자화, 컨텍스트, 백엔드, 드라이버, 소프트웨어에 따라 달라지기 때문입니다. 데이터시트로 만든 예측은 정확해 보여도 지어낸 값입니다. 그래서 표에는 조건과 함께 잰 값만 보여 주고, 실측이 없으면 「?」를 표시합니다.

왜 일부 실측값에는 순위가 없나요?

순위는 종류, 모델, 양자화, 컨텍스트, 백엔드가 모두 같은 실측값끼리만 매깁니다. 이 중 하나라도 비어 있으면 표에 순위 대신 「≠」가 나오고 그 값은 순위 없음으로 셉니다. 조건이 다르면 다른 그룹에 들어갑니다.

표의 ✓, ~, ✗, ?는 무슨 뜻인가요?

적재에서 ✓는 계산상 들어감, ✗는 안 들어감, ?는 미확인입니다. 백엔드에서 ✓는 출처상 지원, ~는 출처 없는 입력, ✗는 미지원으로 입력(-CUDA처럼 빼기 기호를 붙인 항목), ?는 알 수 없음입니다. 적지 않은 백엔드를 「미지원」으로 보지는 않습니다.

왜 VRAM 「16 GB」를 16 GiB로 계산하나요?

그래픽 메모리는 2진 단위로 구성되지만 시스템 메모리처럼 보통 「GB」로 표기합니다. 그래서 스위치는 이런 값을 GiB(2³⁰바이트)로 읽습니다. 출처가 정말 10진 기가바이트를 뜻한다면 끄세요. 그러면 표에 GiB로 환산한 값이 나옵니다.

‘로컬 AI용 GPU 구매 가이드’ 도구는 무료로, 계정 없이 쓸 수 있나요?

네. 무료이고 계정도 필요 없습니다. 원하는 만큼 계산할 수 있으며, 입력한 내용은 기기에 남습니다.

관련 도구

LLM VRAM 계산기 · RAM과 SSD의 GB당 가격 · 로컬 AI 대 클라우드 · PC 업그레이드·파워 서플라이 플래너 · 전기 요금 계산기