AI and Machine Learning Foundations (AI·ML 기초와 학습의 경계)

"AI·ML·DL은 어떤 포함 관계이고, 모델이 '학습한다'는 것은 무엇을 정하는 일인가? 학습하지 않는 규칙 기반 AI, 모델을 고치는 파인튜닝, 입력만 바꾸는 프롬프트는 그 경계의 어디에 있는가?" 이 페이지는 그 질문에 답한다. Agent 설계에서 말하는 "model"이 데이터로 학습한 함수라는 점을 먼저 세우고, 모델의 파라미터를 바꾸는 학습 시점과 이미 만들어진 모델에 입력만 주는 추론 시점이 어디서 갈리는지를 다룬다. 이 경계 위에서 Prompt Engineering은 입력을 설계하는 쪽, Toolformer는 파인튜닝으로 모델 자체를 바꾸는 쪽에 놓인다. 손실 함수의 구체적 형태, 파라미터를 조정하는 최적화 방법, 과적합과 데이터 분할은 이 페이지가 기대는 source의 범위 밖이다.

AI·ML·DL의 포함 관계

• AI는 컴퓨터 시스템이 스스로 특정 작업이나 행동을 수행할 수 있는 능력이다. 주어진 환경과 데이터를 인지·학습·추론해 목표를 달성하도록 예측하고, 행동을 고르고, 계획하는 시스템으로 정의된다.^[1]
• ML은 명시적 명령 없이 알고리즘과 통계 모델로 학습하는 능력이며, AI 범주 안에서 데이터로부터 학습해 목적을 달성하는 접근 방법론이다. 원문은 생성형 AI, 언어 모델, 이미지 분류 모델, 추천 시스템을 ML의 예로 든다.^[1:1]
• 다른 노트는 같은 ML을 경험을 통해 개선되고, 명시적 프로그래밍 없이 기계가 학습하는 것으로 설명한다.^[2]
• DL은 ML 범주 안에서 신경망(Neural Network) 함수를 쓰는 학습 방법론이며, 뇌 구조에서 영감을 받은 인공 신경망 알고리즘을 쓴다.^[1:2][2:1]
• 원문은 DL이 스스로 적절한 특성에 집중할 수 있고 차원 문제를 부분적으로 해결한다고 적으며, CNN(합성곱), RNN(순환), LSTM(장단기 메모리)을 예로 든다.^[2:2] 어떤 차원 문제를 가리키는지는 원문에 설명이 없다.^[3]
• 모든 AI가 ML은 아니다. 원문은 ML이 아닌 AI 시스템의 예로 규칙 기반 시스템과 휴리스틱 기반 (최적화) 알고리즘을 든다.^[1:3]

flowchart TB
    subgraph AI["AI: 인지·학습·추론으로 목표를 달성하는 시스템"]
        subgraph ML["ML: 데이터에서 규칙을 학습"]
            DL["DL: 신경망 함수로 학습
예: CNN, RNN, LSTM"]
        end
        NML["AI − ML: ML이 아닌 AI
규칙 기반 시스템, 휴리스틱 기반 최적화 알고리즘"]
    end

• 위 그림은 원문의 정의와 예를 이 Wiki가 포함 관계로 다시 그린 것이다. 정리하면 DL ⊂ ML ⊂ AI이고, AI 안에는 ML이 아닌 영역이 남는다.
• AI 기초 노트는 AI를 "AI = ML + TD + HITL"이라는 공식으로 소개한다.^[4] 이 공식을 모든 AI의 정의로 읽으면 ML이 아닌 AI가 있다는 위 정의와 충돌한다. 그래서 이 공식은 ML 기반 AI 시스템을 이루는 요소(학습 방법, 훈련 데이터, 사람의 개입)를 외우기 위한 것으로 한정해 읽는 편이 맞다고 보인다. TD와 HITL의 뜻은 아래 "HITL이 가리키는 두 시점" 절에서 다룬다.

학습은 데이터·가설 공간·손실 함수로 정해진다

• ML은 규칙을 직접 코딩하지 않고 데이터에서 규칙을 학습한다. 그래서 데이터(Feature, Label)의 분포와 관계가 학습 결과를 결정한다.^[5]

Feature와 Label

참 함수와 측정오차

• 1D 피쳐 기반 학습은 Feature가 하나일 때 머신러닝이 학습하는 가장 단순한 형태다. 원문은 30명의 교육 연수(Feature)와 소득(Label) 쌍으로 된 데이터셋 $D$를 쓴다.^[6:2]

• 2D 예시는 근속 연수를 Feature로 더한다.^[6:3]

• 이를 일반화하면 관측 데이터는 $Y=f^{\ast }(X)+ϵ$으로 모델링된다. $Y$는 예측하려는 라벨(반응·목표) 변수이고, $X\in {\mathbb{R}}^p$는 $p$개의 피쳐로 된 벡터다.^[6:4]
• $f^{\ast }$는 Feature와 Label 사이의 실제 평균 관계이며 직접 관측할 수 없다. 관측할 수 있는 것은 오차가 섞인 데이터 점뿐이다(데이터 = 참 함수 + 오차).^[6:5]
• 측정오차 $ϵ$은 측정 기기의 한계나 환경적 요인 등으로 생긴다. 원문은 $ϵ$이 피쳐 $X$와 독립이고 기댓값이 $\mathbb{E}[ϵ]=0$이라고 가정한다.^[6:6]
• 이 페이지는 $f^{\ast }$를 관측할 수 없는 참 함수로, $f$를 학습으로 고른 모델로 구분해 쓴다. 원문 한 곳은 $f^{\ast }$를 "모델"로 부르는데, 그 표기 차이는 출처 각주에 적었다.^[6:7]

가설 공간과 모델

• 데이터를 설명하는 함수 후보는 여러 개이고, 그중 어떤 함수가 가장 잘 맞는지는 학습으로 찾아야 한다.^[7]
• 학습은 "입력(Feature) → 출력(Label)" 관계를 찾는 과정이다. 평균 관계를 하나의 함수로 표현하지만, 그 관계를 표현할 수 있는 함수는 무수히 많다.^[7:1]
• 가설 공간(Hypothesis Space)은 관계를 표현할 수 있는 모든 후보 함수의 모음이며, 피쳐 공간과 라벨 공간 위에서 정의된 함수들의 집합 $\mathcal{F}$다. 원문은 선형함수 가설공간과 비선형함수 가설공간을 예로 든다.^[7:2]
• 모델(Model)은 가설 공간 $\mathcal{F}$에 속한 특정 함수 $f$다.^[7:3]

학습 과정

• 원문의 학습 정의는 주어진 데이터에서 정답을 가장 잘 맞출 수 있도록 모델의 규칙을 조금씩 조정해 가는 과정이며, 흐름은 데이터 $D$ → 가설 공간 $\mathcal{F}$ → 선택된 모델 $f$다.^[8]
• 학습에는 세 가지가 필요하다.^[8:1]

• 학습은 다음 다섯 단계로 진행된다.^[8:2]

1. 가설 공간에서 하나의 함수를 선택한다.
2. 그 함수로 데이터의 모든 예시를 예측한다.
3. 손실 함수로 틀린 정도를 계산한다.
4. 더 적게 틀리도록 함수의 파라미터를 조정한다.
5. 이를 반복해 최적의 모델을 완성한다.

• 4단계의 "파라미터 조정"이 아래 "학습 시점과 추론 시점" 절에서 모델을 바꾸는 방식과 바꾸지 않는 방식을 가르는 기준이 된다고 볼 수 있다.

왜 f를 학습하는가

• 예측: 잘 학습된 $f$가 있으면 새로운 입력 $X=x$에서 반응·목표 $Y$를 예측할 수 있다.^[9]
• 중요 특성 파악: 피쳐 $X$ 중 어떤 특성이 $Y$를 설명하는 데 중요하고 어떤 것이 덜 중요(무관)한지 파악할 수 있다. 원문은 소득 예측에서 근속 연수와 교육 연수는 큰 영향을 주지만 혼인 여부는 거의 영향이 없을 것이라는 예를 든다.^[9:1]
• 해석 가능성: $f$의 복잡도에 따라 각 구성 요소 $X_i$가 $Y$에 어떻게 영향을 미치는지(증가·감소 방향, 민감도 등) 이해할 수 있다.^[9:2]

학습 신호에 따른 네 유형

• 위 표는 원문의 학습 알고리즘 4종을 그대로 옮긴 것이다.^[10]
• 위 학습 정의("정답을 가장 잘 맞출 수 있도록")와 Label 중심의 설명은 지도 학습을 기준으로 한 것으로 보인다. 비지도 학습과 강화 학습에서는 Label 대신 라벨 없는 데이터 자체나 보상이 학습의 기준이 된다고 읽어야 하며, 그 기준이 손실로 어떻게 표현되는지는 원문이 다루지 않는다.

학습하지 않는 AI, 규칙 기반 모델

• 규칙 기반 모델(Rule-based Model)은 인간의 판단을 기계에 직접 프로그래밍하는 모델이며, 모든 상황을 IF-THEN 조건문으로 표현한다.^[11]
• 앞 절에서 원문이 ML이 아닌 AI의 예로 든 규칙 기반 시스템^[1:4]이 이런 모델이라고 볼 수 있다. 데이터에서 규칙을 학습하는 ML과 달리 사람이 규칙을 직접 적는다는 점이 둘을 가르는 경계라고 보인다.

규칙 엔진과 규칙 집합

• 원문은 규칙 기반 모델의 구현 방식을 위 두 구성 요소로 설명한다.^[11:1]

장점과 한계

• 장점은 세 가지다. 지식을 IF-THEN 형태로 자연스럽게 표현하고, 구조가 통일되어 있으며, 지식과 프로세스를 분리해 재활용할 수 있다.^[12]
• 한계도 세 가지다. 규칙 수가 많아지면 논리적 관계가 불명확해지고, 수동 유지보수가 번거로우며, 학습할 수 없어 규칙 밖의 질문이 들어오면 오류가 난다.^[12:1]
• 마지막 한계가 ML과의 경계를 드러낸다고 볼 수 있다. 학습된 $f$는 새로운 입력에서도 목표값을 예측하는 데 쓰이지만,^[9:3] 규칙 기반 모델은 적어 둔 규칙 밖으로 나가지 못한다.

지식 기반 모델과 전문가 시스템

• 지식 기반 모델은 특정 분야의 전문 지식과 문제 해결 규칙을 DB에 저장하고, 그 지식을 지식 베이스(Knowledge Base)로 따로 분리해 둔다.^[13][14]
• 전문가 시스템(Expert System)은 전문가의 지식을 컴퓨터에 저장해 일반 대중도 전문가 수준의 판단을 받을 수 있게 한 시스템이다. 원문은 그 조건으로 전문 지식 기반 추론과 전문가 수준의 문제 해결 능력을 든다.^[13:1]

챗봇 유형과 코드·모델 분업

• 원문은 챗봇을 위 세 유형으로 나눈다.^[15]
• 원문은 이 표를 규칙 기반 모델 절 안에 두지만, AI 기반 챗봇은 학습하는 방식이므로 규칙 기반 모델이 아니다. 이 표는 규칙과 학습이 한 챗봇 안에서 어떻게 나뉘는지를 보여 주는 비교로 읽는 편이 맞다고 보인다.
• 결합형 챗봇의 분업은 Typed Decision Model이 계산·권한·부작용은 코드에, 좁은 의미 판단은 결정 모델에 맡기는 분업과 같은 축 위에 있다고 볼 수 있다. 위 한계(규칙이 많아질수록 불명확해지는 관계, 규칙 밖 입력의 오류)는 그 분업에서 "규칙으로 유지할 수 없는 모호한 의미 분류"를 코드에 맡기지 않는 이유로 읽을 수 있다.
• 결합형 챗봇에서 어떤 질문을 규칙으로, 어떤 질문을 AI로 보낼지를 누가 정하는지는 원문에 없다. 그 분기를 코드가 미리 정한다면 AI workflow vs agent의 분류 챗봇 경계 사례처럼 workflow 쪽에 가깝다고 볼 수 있다.

학습 시점과 추론 시점

• 파인튜닝(Fine-tuning)은 사전 훈련된 모델을 특정 작업에 맞추어 추가로 학습하는 것이다. 사전 훈련된 모델을 가져와 특정 분야의 소규모 데이터로 학습시켜 자기만의 전문 AI 모델을 만드는 과정이다.^[16]
• 원문은 파인튜닝을 하는 이유로 세 가지를 든다.^[16:1]
  • 비용과 시간: 모델을 처음부터 학습시키면 많은 비용과 시간이 들지만, 이미 완성된 모델을 기반으로 하면 적은 비용과 시간으로 높은 성능을 유도할 수 있다.
  • 전문성: 범용 AI 모델은 많은 것을 알지만 특정 분야에서는 깊이가 부족할 수 있고, 파인튜닝으로 특정 목적에 맞는 전문가로 만들 수 있다.
  • 말투와 스타일: AI가 특정 캐릭터의 말투로 일관성 있게 대답하도록 만들 수 있다.
• 원문은 모델을 목적에 맞추는 세 방식을 다음과 같이 비교한다.^[17]

flowchart LR
    subgraph TRAIN["학습 시점: 파라미터를 조정한다"]
        DATA["수십억 개의 데이터"] -->|처음부터 학습| BASE["이미 만들어진 모델"]
        BASE -->|특정 분야 소규모 데이터로 추가 학습| FT["파인튜닝된 전문 모델"]
    end
    subgraph INFER["추론 시점: 파라미터는 그대로"]
        PROMPT["프롬프트: 지시어와 맥락"] --> CALL["모델 호출"]
    end
    BASE --> CALL
    FT --> CALL

• 위 그림은 원문 비교표와 앞 절의 학습 과정을 이 Wiki가 시점 기준으로 다시 그린 것이다.
• 앞 절의 "파라미터 조정"을 기준으로 보면, 처음부터 학습과 파인튜닝은 둘 다 학습 과정을 수행하고 출발점(맨 처음인지, 이미 만들어진 모델인지)만 다르다고 정리할 수 있다. 프롬프트 엔지니어링은 파라미터를 바꾸지 않고 추론 시점의 입력만 바꾼다. 원문 표의 "AI 모델 변경" 행(O, O, X)이 이 경계를 가리킨다고 볼 수 있다.
• 원문 표의 프롬프트 비용 "거의 없음"은 모델을 학습시키는 비용을 기준으로 읽는 편이 맞다고 보인다. Prompt Engineering이 다루듯 좋은 prompt에는 역할과 맥락, 구체적 지시, 예시, 평가 기준의 설계가 필요하므로, 설계와 개선에 드는 노력까지 없다는 뜻은 아니라고 해석할 수 있다.
• Toolformer는 이 경계에서 가중치를 바꾸는 파인튜닝 쪽의 사례다. Toolformer page는 프롬프팅(in-context) 기반 추론 루프인 ReAct와 파인튜닝 기반인 Toolformer를 이 축으로 대비한다.
• AI Agent Architecture의 세 학습 기법 중 추론 전에 모델 자체를 바꾸는 것은 Fine-Tuning Based Learning뿐이고, In-Context Learning과 Retrieval-Based In-Context Learning은 추론 시점에 프롬프트를 구성하는 방식이라고 볼 수 있다.
• 원문은 파인튜닝에 필요한 데이터 양, 실패 유형, 평가 방법, 기법 종류를 다루지 않는다. 사전학습과 사후학습(instruction tuning, RLHF)의 구분도 이 페이지의 source 범위 밖이다.

HITL이 가리키는 두 시점

• AI 기초 노트의 공식에서 TD(Training Data)는 ML 알고리즘을 훈련시키기 위한 데이터다. HITL(Human-In-The-Loop)은 하이퍼파라미터 튜닝처럼 학습 과정에 인간이 개입하는 것을 뜻한다.^[4:1]
• Agent 문맥의 human-in-the-loop는 다른 시점을 가리킨다. Agent Memory and Persistence가 다루는 human-in-the-loop는 실행 중인 agent를 suspend하고 사람의 승인이나 입력을 기다렸다가 같은 thread에서 resume하는 것이다.
• 이름은 같아도 사람이 개입하는 시점이 학습 시점과 실행 시점으로 다르다고 볼 수 있다. 그래서 "HITL이 있다"는 말을 읽을 때는 사람이 모델의 학습 과정에 개입하는지, 학습이 끝난 모델을 쓰는 실행 흐름을 멈추고 개입하는지를 먼저 구분해야 한다고 보인다.

관련

• Toolformer: 파인튜닝으로 tool 호출 시점을 가중치에 새긴 예로, "학습 시점과 추론 시점" 절에서 모델을 바꾸는 쪽의 구체적인 사례다.
• Prompt Engineering: 모델을 그대로 두고 입력을 설계하는 쪽이며, 원문 비교표의 프롬프트 비용은 그 page의 설계 요소와 함께 읽어야 한다.
• AI Agent Architecture: 백서의 세 학습 기법(in-context, retrieval-based, fine-tuning)을 이 페이지의 학습 시점과 추론 시점으로 나눠 읽을 수 있다.
• Typed Decision Model: 규칙 기반 모델의 한계가 코드·결정 모델·LLM 분업에서 모호한 의미 분류를 코드에 남기지 않는 이유와 이어진다.
• AI workflow vs agent: 결합형 챗봇의 규칙·AI 분업은 그 page의 분류 챗봇 경계 사례와 같은 질문, 즉 분기를 누가 정하는지를 공유한다.
• Agent Memory and Persistence: HITL이라는 같은 이름이 학습 시점의 사람 개입과 실행 시점의 suspend·resume으로 다르게 쓰인다.
• AI Agent: 그 page의 Model vs Agent 비교에서 model의 지식 범위가 훈련 데이터 안으로 제한된다는 말은, model이 데이터로 학습해 정해진 함수라는 이 페이지의 설명으로 풀어 읽을 수 있다.

테스트 질문

• 규칙 기반 챗봇은 ML인가? AI와 ML의 포함 관계로 설명하라.
• 모델을 학습시키려면 어떤 세 가지가 정해져 있어야 하는가?
• 파인튜닝과 프롬프트 엔지니어링 중 모델 자체를 바꾸는 쪽은 무엇이고, 그 차이는 학습 과정의 어느 단계에서 갈리는가?
• 규칙 기반 모델이 규칙 밖의 질문에서 오류를 내는 이유는 무엇인가?

출처