Transformers KV 캐시 선택법, Dynamic·Static·Offloaded를 추론 조건에 맞추는 법
Hugging Face Transformers에서 KV 캐시가 메모리와 지연시간에 미치는 영향을 이해하고 Dynamic, Static, Offloaded, Quantized 캐시를 선택하는 기준을 정리했어요.
2026년 10월 07일
AI · LLM
2026
AI 페스타 2026, 10월 6~8일 코엑스서 개최…에이전트·피지컬 AI
AI 페스타 2026은 10월 6~8일 코엑스 C홀에서 개최됐습니다. 공식 프로그램과 현장 보도의 범위, 전시 시연과 실제 도입 성과를 구분해 정리합니다.
2026년 10월 07일
Claude 프로젝트 사용법, 자료와 지침을 한곳에 모으는 초보자 순서
Claude 프로젝트를 만들고 자료·프로젝트 지침을 넣는 순서, 프로젝트 메모리와 공유 범위에서 주의할 점을 정리했어요.
2026년 10월 07일
Mistral Large 4 공개, 1조 파라미터 오픈웨이트 모델의 약속과 확인할 부분
Mistral이 Mistral Large 4 공개 프리뷰를 시작했어요. 총 파라미터·활성 파라미터 표기가 발표문과 모델 문서에서 달라지는 이유와, 월말 가중치 공개 전 확인할 항목을 정리합니다.
2026년 10월 07일
Transformers 대형 모델 로딩, device_map·dtype·offload를 함께 고르는 법
Transformers에서 대형 모델을 올릴 때 GPU 메모리만 보지 않고 dtype, device_map, CPU·디스크 offload의 비용을 나누어 판단하는 방법을 정리해요.
2026년 10월 06일
ChatGPT 프로젝트 사용법, 대화·파일·지침을 한곳에 묶는 초보자 순서
ChatGPT 프로젝트에 대화·파일·지침을 모으는 방법과 개인정보 처리, 기존 대화 이동, 공유 권한을 점검하는 순서를 안내합니다.
2026년 10월 06일
NVIDIA가 소개한 유방암 AI…검사부터 치료 반응 예측까지 어디에 쓰이나
NVIDIA가 10월 5일 유방암 진료에 AI를 적용하는 스타트업 사례를 소개했어요. 자동 초음파, 유방 밀도 평가, 치료 반응 예측의 범위와 아직 남은 검증 과제를 정리합니다.
2026년 10월 06일
vLLM OpenAI 호환 서버 운영, API 키·모델 이름·프록시 경계를 나누는 법
vLLM을 OpenAI 호환 API로 운영할 때 모델 이름과 요청 경로를 고정하고, API 키의 보호 범위와 역방향 프록시 경계를 분리해 점검하는 중급자 가이드예요.
2026년 10월 05일
아르텍스 흔적 4개 발견…AI 자율 침투도구가 금융 보안에 던진 경고
국내 금융권 공격 인프라에서 AI 자율 침투 테스트 도구 아르텍스 관련 흔적이 발견됐어요. 실제 공격에 사용됐다는 공식 확인과 보안 도구의 노출 정황을 구분해 읽어야 하는 이유를 정리했어요.
2026년 10월 05일
ChatGPT 임시 채팅 사용법, 기록·메모리·보관 범위를 나누는 초보자 가이드
ChatGPT 임시 채팅의 기록·메모리 사용, 외부 GPT·앱 연동 범위와 보관 여부를 구분해 어떤 질문에 적합한지 정리합니다.
2026년 10월 05일