메모리 관리

1

Transformers 대형 모델 로딩, device_map·dtype·offload를 함께 고르는 법

Transformers에서 대형 모델을 올릴 때 GPU 메모리만 보지 않고 dtype, device_map, CPU·디스크 offload의 비용을 나누어 판단하는 방법을 정리해요.

2026년 10월 06일

Linux에서 메모리가 부족할 때 zswap·zram·일반 swapfile을 같은 기능처럼 켜지 않고, 압박·압축·디스크 페이징을 나누어 진단하는 중급 운영 가이드예요.

2026년 09월 30일

Linux 서비스가 메모리를 계속 늘릴 때 cgroup v2의 memory.high·memory.max·memory.events를 이용해 압박과 OOM을 나누어 진단하는 중급 운영 순서입니다.

2026년 09월 28일