앞 글에서 토큰(Token)에 대해 알아보았습니다.
👉 문장을 잘게 나눈 단위
👉 LLM이 생각하는 기본 재료
그렇다면 이제 이런 질문이 자연스럽게 이어집니다.
👉 “이 AI는 도대체 무엇을 기준으로 답을 만드는 걸까?”
이번 글에서는 그 핵심인 **파라미터(Parameter)**를 이야기로 풀어보겠습니다.
📌 한 명의 ‘경험 많은 조수’를 떠올려보자
다시 처음 이야기로 돌아가 보겠습니다.
우리 앞에 한 명의 조수가 있습니다.
이 조수는:
- 수많은 글을 읽었고
- 다양한 표현을 알고 있으며
- 상황에 맞는 말을 할 수 있습니다
그 이유는 무엇일까요?
👉 바로 “경험” 때문입니다.
LLM에게 이 경험에 해당하는 것이
바로 파라미터입니다.
📌 파라미터란 무엇인가?
어렵게 들릴 수 있지만, 아주 쉽게 말하면:
👉 AI가 학습하면서 만들어낸 수많은 값
입니다.
조금 더 쉽게 표현하면:
👉 “어떤 상황에서 어떤 말을 선택할지 결정하는 기준”
📌 실제로는 어떤 역할을 할까?
LLM은 문장을 만들 때
이 파라미터를 참고합니다.
예를 들어:
“오늘 날씨가 정말 ___”
이 빈칸에 어떤 단어를 넣을지
파라미터를 기반으로 판단합니다.
- 좋다
- 덥다
- 쌀쌀하다
👉 어떤 선택이 더 자연스러운지 결정하는 기준이 바로 파라미터입니다.
📌 왜 ‘많을수록 좋다’고 할까?
뉴스에서 이런 말을 본 적 있을 겁니다.
👉 “수천억 개 파라미터 모델”
이 말의 의미는 단순합니다.
👉 그만큼 더 많은 패턴을 학습했다는 뜻
파라미터가 많으면:
- 더 다양한 표현 가능
- 더 자연스러운 문장 생성
- 더 복잡한 질문 처리
👉 즉, 더 똑똑해질 가능성이 높아집니다.
📌 하지만 많다고 무조건 좋은 건 아니다
여기서 중요한 포인트가 있습니다.
👉 파라미터가 많다고 무조건 좋은 것은 아닙니다.
이유는:
- 계산량 증가
- 속도 저하
- 비용 증가
👉 그래서 “적절한 균형”이 중요합니다.
📌 파라미터는 어떻게 만들어질까?
파라미터는 처음부터 존재하지 않습니다.
LLM이 학습하면서
조금씩 만들어집니다.
과정은 이렇게 진행됩니다.
- 예측을 한다
- 틀린다
- 값을 조정한다
- 다시 예측한다
👉 이 과정을 수없이 반복하면서
파라미터가 점점 정교해집니다.
📌 쉽게 이해하는 비유
파라미터를 이렇게 생각해보세요.
👉 “뇌 속의 연결된 기억”
- 경험이 많을수록 판단이 정확해짐
- 다양한 상황에 대응 가능
👉 LLM도 같은 구조입니다.
📌 토큰 vs 파라미터 (헷갈리는 개념 정리)
많이 헷갈리는 부분이라 정리해드립니다.
- 토큰 → 입력 단위 (재료)
- 파라미터 → 판단 기준 (두뇌)
👉 완전히 다른 역할입니다.
📌 오늘 이야기의 핵심
👉 파라미터는
**“LLM이 어떤 답을 선택할지 결정하는 기준”**입니다.
📌 마무리
이제 우리는 LLM의 핵심 구조를 거의 이해했습니다.
- 토큰 → 재료
- 파라미터 → 판단 기준
이 두 가지가 함께 작동하면서
AI의 답변이 만들어집니다.
다음 글에서는
👉 **LLM과 기존 AI는 무엇이 다른지 (핵심 차이 이야기)**를 이어서 설명해드리겠습니다.
0 댓글
자유롭게 질문해주세요.
단, 광고성 댓글 및 비방은 사전 통보 없이 삭제됩니다.