LLM은 어디까지 진화할까? 대화 상대에서 일하는 동료까지

처음의 AI는 질문에 답하는 자동완성에 가까웠습니다. 지금의 AI는 사진을 보고, 코드를 쓰고, 도구를 호출하고, 긴 문서를 정리합니다. 다음 단계가 되면 사람은 AI에게 “문장 하나 써줘”가 아니라 “이번 달 자료를 모아 초안까지 만들어줘”라고 말하게 될 가능성이 큽니다. 다만 그 미래는 이미 완성된 약속이 아니라, 여러 기술이 아직 조립 중인 공사 현장에 가깝습니다.

1막: AI가 문장을 예측하기 시작하다

2017년 논문 Attention Is All You Need은 Transformer 구조를 소개했습니다. 이 구조는 문장 안의 단어 관계를 한꺼번에 살피는 attention을 중심에 두었고, 이후 대규모 언어 모델 발전의 중요한 기반이 됐습니다.[7]

초기의 사용감은 “그럴듯한 문장을 빨리 완성한다”에 가까웠습니다. 그런데 모델과 학습 데이터, 컴퓨팅 자원이 커지면서 요약·번역·질문 답변·코딩처럼 여러 작업을 한 모델이 처리하기 시작했습니다. 여기서 중요한 변화는 AI가 한 가지 기능의 앱이 아니라 여러 일을 맡는 인터페이스가 됐다는 점입니다.

2막: 글자만 읽던 AI가 눈과 귀를 얻다

최근 모델은 텍스트만 다루지 않고 이미지·음성·영상 같은 입력을 함께 처리하는 방향으로 발전했습니다. Google의 Gemini API 문서도 텍스트 외 입력과 도구·구조화된 출력 같은 개발 기능을 다룹니다.[13] 사용자는 이제 “이 사진의 문제를 설명해줘”, “회의 녹음에서 할 일을 뽑아줘”처럼 말할 수 있습니다.

하지만 감각이 늘었다고 해서 이해가 사람과 같아진 것은 아닙니다. 사진 속 숫자를 잘못 읽거나, 음성의 맥락을 놓치거나, 최신 사실을 틀릴 수 있습니다. 입력 종류가 많아질수록 검증할 대상도 많아집니다.

3막: 답변 기계에서 작업 수행자로

LLM의 다음 변화는 답변을 생성하는 데서 멈추지 않고 도구를 사용하는 것입니다. 캘린더 조회, 파일 검색, 코드 실행, 데이터베이스 호출처럼 외부 시스템과 연결하면 AI는 “설명하는 사람”에서 “작업을 진행하는 사람”으로 바뀝니다.

Anthropic이 공개한 Model Context Protocol은 AI 애플리케이션과 외부 도구·데이터를 연결하기 위한 표준을 제안합니다.[14] 이런 흐름이 자리 잡으면 서비스마다 제각각인 연결 방식을 조금씩 줄일 수 있습니다. 물론 권한을 잘못 주면 AI가 잘못된 파일을 읽거나 엉뚱한 작업을 실행할 수 있으므로, 편리함과 통제 장치를 함께 설계해야 합니다.

앞으로 재미있을 변화 네 가지

① AI가 한 명이 아니라 작은 팀처럼 움직인다

한 모델이 조사·작성·검수·실행을 차례로 맡거나, 역할이 다른 여러 모델이 서로 결과를 확인하는 방식이 늘어날 수 있습니다. 사람은 모든 문장을 지시하기보다 목표와 제한 조건을 정하고 결과를 승인하는 쪽으로 이동할 가능성이 큽니다. 이 부분은 기술 흐름에서 예상되는 방향이지, 모든 업무가 자동화된다는 뜻은 아닙니다.

② 큰 모델과 작은 모델이 나눠 일한다

모든 질문을 가장 큰 모델에 보낼 필요는 없습니다. 휴대폰이나 노트북의 작은 모델이 알람·요약·간단한 분류를 처리하고, 어려운 문제만 서버의 큰 모델로 보내는 구조가 현실적인 방향입니다. 로컬 모델 실행기는 이런 온디바이스·개인 컴퓨팅 흐름의 실험장이 될 수 있습니다.

③ 말보다 행동 기록이 중요해진다

AI가 실제로 파일을 고치고 코드를 실행한다면 “무슨 답을 했나”보다 “무슨 행동을 했나”를 기록해야 합니다. 앞으로는 실행 전 승인, 권한 범위, 변경 내역, 되돌리기 기능이 모델 성능만큼 중요해질 것입니다.

④ AI가 더 싸고 더 흔해진다

Stanford AI Index 2025는 모델 개발과 성능 경쟁이 여러 국가로 확산되고, 모델 사용 비용과 효율성의 변화가 빠르게 진행되고 있음을 보여줍니다.[10][15] 이용자는 특정 회사의 거대한 모델 하나만 쓰는 것이 아니라, 작업과 비용에 따라 여러 모델을 골라 쓰게 될 가능성이 큽니다.

그런데 AI는 왜 아직 자주 틀릴까?

LLM은 문장의 다음 토큰을 잘 예측하는 시스템이지, 모든 답을 사실 데이터베이스에서 꺼내 오는 시스템은 아닙니다. 그래서 말투가 자신 있어도 근거가 약할 수 있습니다. 긴 문맥을 읽는 능력과 추론 능력이 좋아져도 최신 정보, 출처, 이해관계, 책임 문제는 별도로 확인해야 합니다.

결론: 미래의 AI는 마법사보다 인턴에 가깝다

LLM의 미래를 가장 현실적으로 그리면 모든 일을 대신하는 초능력자보다는, 꽤 빠르지만 가끔 엉뚱한 실수를 하는 인턴에 가깝습니다. 자료를 모으고 초안을 만들고 반복 작업을 줄이는 데는 강합니다. 하지만 최종 판단, 돈이 걸린 결정, 사람의 안전과 권리가 걸린 문제는 여전히 사람이 확인해야 합니다.

재미있는 점은 AI의 미래가 거대한 데이터센터 안에서만 결정되지 않는다는 것입니다. 내 노트북에서 작은 모델을 실행해 보고, 어떤 파일에 접근을 허용할지 정하고, 답변을 직접 검증하는 사람도 그 미래의 사용법을 함께 만들고 있습니다.