LLM이란 무엇인가? — "대형 언어 모델"을 누구나 이해할 수 있게

AI 기사를 보다 보면 "LLM"이라는 단어가 계속 나온다. GPT도 LLM이고, 클로드도 LLM이고, 제미나이도 LLM이다. 그런데 설명은 거의 안 해준다. 이 글에서 LLM이 뭔지, 왜 이게 중요한지를 가능한 한 쉽게 풀어봤다.

LLM = Large Language Model, 대형 언어 모델

LLM은 Large Language Model의 약자다. 단어 하나하나를 풀어보면 이해가 훨씬 쉽다.

Large(대형) — 어마어마하게 많은 데이터를 학습했다는 뜻이다. "대형"이 붙은 이유가 있다.

Language(언어) — 텍스트, 즉 언어를 다룬다. 숫자나 이미지가 아니라 말과 글이 주재료다.

Model(모델) — 학습을 통해 만들어진 AI 시스템 자체를 뜻한다.

세 단어를 합치면 "방대한 텍스트 데이터로 학습한 언어 처리 AI 시스템"이 된다.

어떻게 만들어지는 건가요?

만드는 과정을 단순하게 설명하면 이렇다. 인터넷에 있는 글, 책, 논문, 뉴스, 커뮤니티 게시물 등 엄청난 양의 텍스트를 컴퓨터에 먹인다. 그다음 "어떤 단어 뒤에 어떤 단어가 오는 게 자연스러운가"를 반복해서 학습시킨다.

예를 들어 "오늘 날씨가 너무" 다음에 무슨 말이 오는가를 수십억 개의 문장에서 학습하면, "덥다", "춥다", "좋다", "맑다" 같은 단어들이 뒤따를 가능성이 높다는 걸 모델이 파악하게 된다. 이 학습을 엄청나게 복잡한 수준에서 반복하면 문장 맥락을 이해하고 자연스러운 답변을 생성할 수 있는 모델이 만들어진다.

왜 "대형"이냐고요?

초기 언어 모델은 수백만 개의 파라미터(변수)로 학습됐다. 지금의 대형 언어 모델은 수천억, 심지어 수조 개의 파라미터를 갖는다. 이 규모의 차이가 실제 성능 차이로 직결된다. 파라미터가 많을수록 더 복잡한 언어 패턴을 기억하고, 더 섬세한 문맥을 이해할 수 있다.

GPT-4가 이전 버전보다 훨씬 자연스럽게 느껴지는 이유가 모델 크기와 학습 방식의 발전에 있다.

중요한 한계 — 환각 현상

LLM은 학습한 데이터의 패턴을 기반으로 답을 생성한다. 그래서 실제로 존재하지 않는 사람, 논문, 사건을 마치 있는 것처럼 말하는 경우가 생긴다. 이를 "환각(Hallucination)"이라고 부른다.

AI가 자신 있게 말한다고 해서 사실이라는 보장이 없다. 중요한 정보는 항상 별도로 확인하는 습관이 필요하다. 이건 LLM을 쓸 때 알고 있어야 할 가장 중요한 주의사항이다.