[Module 3] Machine Learning 개론: Introduction to ML

Part 1. Introduction to Machine Learning

What is Machine Learning?

A branch of artificial intelligence, concerned with the design and development of algorithms that allow computers to evolve behaviors based on empirical data.

→ 인공지능의 한 분야이며, 기계학습의 목표는 점점 개선되는 알고리즘을 설계하는 것!

 

*Deep learning: machine learning에 속하며, 계층이 많은(deep) 신경망(model)을 쓰는 분야를 말한다.

 

Tom Mitchell's definition

A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E

  -  T : classification, regression, detection, ...

  -  P : error rate, accuracy, likelihood, margin, ... (성능지표)

  -  E : data

 → 잘 정의된 인공지능 알고리즘이라면, 위 세가지가 완벽히 정의되어 있어야 한다.

 

작업 T에 대해서, 경험 Data E를 기반으로, 특정한 Performance Measure 혹은 Performance Metric P 를 개선하는 과정을 말한다.

 

 

[Traditional programming과 machine learning의 차이점]

 

Generalization

일반화는 기계학습의 가장 큰 목표이다.

Definition of Generalization

   -  A form of abstraction where common properties of specific instances are formulated as general concepts or claims.

   -  It extracts the essence of a concept based on its analysis of similarities from many discrete objects.

 

Object of learning

   - Not to learn an exact representation of the training data itself.

   -  To build a statistical model of the process that generates the data.

→ 즉, training data 로부터 어떤 패턴을 배워서 training data에서 보지 못한 새로운 data를 처리할 때도 잘 처리할 수 있도록 하는 것이 목표! (만약 모델이 training data를 완벽하게 이해했다면 이 모델은 새로운 데이터를 생성할 수도 있다 / generative AI)

 

 

No Free Lunch Theorem for ML

No machine learning algorithm is universally any better than any other.

어떤 ML algorithm도 다른 것보다 항상 좋다고 할 수 없다. 하나의 성능 좋은 알고리즘이 언제나 좋은 성능을 내지는 않기 때문이다.

 

 

Types of Learning

Supervised learning

이런 input이 들어오면, 이런 output이 나와야 한다고 알려주는 방법 → 즉, 정답을 알려준다.

*Task: classification('y' is categorical), regression('y' is continuous)

 

Unsupervised learning

학습데이터가 x로만 구성되어있다. 즉, 정답 y 가 없다. (Desired Output을 알고리즘에게 명시해 주지 않은 것)

Find a hidden structure

*Task: Clustering, anomaly detection(특이치 찾아내는 과정), density estimation(분포를 찾아내는 과정), ...

 

Semi-supervised learning

supervised learning과 unsupervised learning의 중간에 위치하고 있다.

Some of training data includes desired outputs (y)

  -  One of the bottlenecks of learning is the labeling of examples.

  -  Often done manually and time consuming.

  -  We can label only a small number of examples and make use of a large number of unlabeled examples to learn.

→  시간이 많이 걸리니까, 몇몇 example은 사람이 labeling하고 그 외 데이터는 labeling 하지 않은 채로 모델에 넣어준다.

 

LU learning: Learning with a small set of Labeled examples and a large set of Unlabeled examples (몇몇 데이터들은 레이블을 주고 그 이외의 데이터는 레이블을 안 주는 경우)

PU learning: Learning with Positive and Unlabeled examples (no labeled negative examples, 특정 class에 대한 데이터만 주어지는 경우)

 

Why Semi-supervised learning Helpful?

  -  similar data points have similar labels

  -  unlabeled data can help identify the boundary more accurately. (좀 더 정확한 decision boundary를 얻을 수 있음)

 

Reinforcement learning

A feedback loop between the learning system and its environment (환경과 계속 interaction 한다.)

  -  Does not experience a fixed dataset

  -  No supervisor, but only rewards

  -  Feedback could be delayed, not instantaneous

  -  Agent's actions affect the subsequent data it receives

 

환경이 새로운 state transition을 통해서 새로운 state를 주고 reward를 주게 된다.

reward는 어떠한 state에서 action을 했을 때 그것이 얼마나 좋은 action이었는지를 환경이 평가해 주는 것의 개념이다.