LLM VRAM 計算機
檢查本機語言模型能否放進你的 VRAM 和記憶體:權重、KV 快取、緩衝區與卸載分開列出,並同時以 GB 和 GiB 顯示,全程在本機計算,無需上傳。
- 土耳其
- 中國
- 巴西
- 巴基斯坦
- 日本
- 台灣
- 印尼
- 印度
- 西班牙
- 奈及利亞
- 孟加拉
- 法國
- 波蘭
- 肯亞
- 俄羅斯
- 保加利亞
- 美國
- 英國
- 埃及
- 泰國
- 烏克蘭
- 馬來西亞
- 荷蘭
- 越南
- 瑞典
- 義大利
- 葡萄牙
- 德國
- 歐元區
- 墨西哥
- 韓國
計算結果
記憶體使用率(上限,%)
同一模型的其他量化
| 每個權重的位元數 | 權重 | 合計(上限) | 剩餘記憶體 |
|---|---|---|---|
| 16 bit | 14.00 GB | 17.76 GB | -9.71 GB |
| 8 bit | 7.00 GB | 10.06 GB | -2.01 GB |
| 6 bit | 5.25 GB | 8.14 GB | -0.08 GB |
| 5 bit | 4.38 GB | 7.17 GB | 0.88 GB |
| 4 bit | 3.50 GB | 6.21 GB | 1.84 GB |
| 3 bit | 2.63 GB | 5.25 GB | 2.80 GB |
| 2 bit | 1.75 GB | 4.29 GB | 3.77 GB |
我的檔案會被上傳嗎?
不會。一切都在你的瀏覽器中執行,你的檔案永遠不會離開你的裝置。這一點如何查證