GMKtec EVO-X5 Pro, 데스크톱 AI 슈퍼컴퓨터에서 상업용 노드로 확장
GMKtec이 EVO-X5 Pro를 기업용 로컬 AI 노드로 확장해 소개했어요. 192GB 통합 메모리와 오프라인 320B 모델 지원의 의미, 실제 도입 전에 확인할 조건을 정리합니다.
2026년 10월 10일
로컬 AI
2026
llama.cpp 서버 운영, OpenAI 호환 API·병렬 요청·Flash Attention을 나누는 법
llama.cpp 서버를 로컬 API로 운영할 때 OpenAI 호환 엔드포인트, 병렬 처리, Flash Attention, CORS와 도구 권한을 분리해 점검하는 중급 가이드입니다.
2026년 10월 02일
애플 맥 미니 M6·맥 스튜디오 M5 출시…로컬 AI 작업 기준이 달라졌다
애플이 M6 맥 미니와 M5 Max·M5 Ultra 맥 스튜디오를 출시했어요. 가격, 메모리 구성, 로컬 AI 작업에서 눈여겨볼 차이와 아직 확인할 부분을 정리합니다.
2026년 09월 26일
Ollama GPU 메모리 점검, 컨텍스트·병렬 처리·KV 캐시를 조정하는 법
Ollama에서 모델이 GPU에 얼마나 올라갔는지 확인하고 컨텍스트 길이, 병렬 요청, KV 캐시를 메모리 조건에 맞게 조정하는 방법을 설명합니다.
2026년 09월 20일
vLLM Prefix Caching과 Tensor Parallelism, 긴 프롬프트와 다중 GPU를 함께 조정하는 법
vLLM Prefix Caching과 Tensor Parallelism을 같은 가속 옵션으로 보지 않고, 반복 prefix·KV 캐시·컨텍스트 길이·GPU 통신을 분리해 측정하고 선택하는 기준을 정리합니다.
2026년 09월 17일
듀얼 RTX PRO 6000을 넣은 리눅스 워크스테이션, Thelio Mira AI 출시
System76 Thelio Mira AI의 시작가와 듀얼 RTX PRO 6000 최대 구성을 분리해 읽습니다. 192GB GPU 메모리가 필요한 작업인지, 멀티 GPU 소프트웨어와 한국 구매 비용을 어떻게 확인할지 정리했습니다.
2026년 09월 10일
llama.cpp 컨텍스트 길이와 KV 캐시, GPU 오프로딩만으로 해결되지 않는 메모리 문제
llama.cpp에서 모델 파일 크기만으로 메모리를 계산하면 안 되는 이유를 설명하고, 컨텍스트·KV 캐시·동시 슬롯·GPU 오프로딩을 조정하는 순서를 정리했습니다.
2026년 09월 06일
로컬 LLM이란? Ollama·LM Studio·llama.cpp 선택법과 메모리 계산
로컬 LLM을 시작할 때 Ollama·LM Studio·llama.cpp의 차이, 양자화와 메모리 계산, 실제 장비에서 검증하는 순서를 비교합니다.
2026년 09월 06일
Mac mini M6 정밀 분석｜사양·성능·AI·가격·구매 기준
Mac mini M6의 한국 출시 일정·공식 사양·가격·포트·AI 활용 조건을 정리하고, M6 기본형과 24GB 구성·M5 Pro를 나누는 구매 기준을 제시했습니다.
2026년 09월 06일
NVIDIA PAIR, 집에 있는 여러 PC를 로컬 AI 작업에 연결한다
NVIDIA PAIR가 여러 PC의 로컬 AI 요청을 어떻게 분배하는지, 모델 배치·네트워크·보안·성능 판단 기준을 정리했습니다.
2026년 09월 05일