전이 학습 이란? 가장 쉬운 설명 3가지

전이 학습은 우리가 학습을 어떻게 하는지부터 생각하면 접근하기 쉬울 수 있다.

전이 학습 이란? 인공지능을 공부하다 보면 자연스럽게 '전이 학습'이 어떤 내용인지 접하게 됩니다. 하지만, Feature, Low-level 등 내용이 어려워서 일반인 혹은 인공지능 초보자들이 접하기에는 조금 어려울 수 있습니다. 오늘 포스팅에서는 전이 학습을 핵심 사항만 간단하게 설명해 드리고자 합니다. 전이 학습 이란 무엇인가, 전이 학습을 사용해야 하는 이유 그리고 전이 학습의 단점 3가지를 예시를 통해 알아보고자 합니다.

• 전이 학습 이란?
• 전이 학습을 사용해야 하는 이유는?
• 전이 학습의 단점 3가지

1. 전이 학습 이란?

전이(轉移)란 '사물이 한 상태에서 다른 상태로 변화함'이라는 의미로 사용이 됩니다.(고려대 한국어 대사전 참조) 인공 지능의 학습법에 대해 공부하면서 지도 학습, 비지도 학습 및 강화 학습 등 다양한 학습의 형태를 배우시게 될 것입니다. 그중에서 전이 학습이란 '한 분야에서 습득한 지식이나 경험을 이용해서 다른 분야를 학습하는 것'입니다. 

 

직관적인 이유로는 우리가 사용하는 '모국어'가 대표적인 예시입니다. 우리는 어렸을 때, 한국어를 배우고 습득합니다. 그 후에는 한국어를 통해서 수학도 배우고, 영어 단어도 암기를 합니다. 한국어를 배운 다음에 그 지식을 바탕으로 기타 다른 지식을 습득합니다.

 

한 단계 더 나아가 딥 러닝 분야에서의 전이 학습은 '이미지 분류를 하는 데 사용했던 네트워크를 다른 데이터 셋 혹은 문제의 해결에 사용하는 학습 방법'이라고 정의하고 있습니다. 다른 네트워크에서 쌓은 지식을 바탕으로 새로운 문제를 해결하는 것이지요.

---

<심화 학습>

머신 러닝 딥러닝 차이점 4가지

전이 학습, 딥 러닝 초보자도 이해하는 4가지

---

2. 전이 학습을 사용하는 이유

전이 학습을 사용하는 이유는 간단하다. 바로 딥 러닝의 비효율 때문이다.

딥 러닝은 치명적인 단점을 가지고 있습니다. 인공 지능이 처리할 수 있는 데이터가 늘어날수록 그 정확도가 상승하는데, 그 정확도를 상승시킬 때, 시간과 비용이 비효율적으로 소모되기 때문입니다.(물론, 처리 데이터가 늘어난다고 해서 정확도가 무조건 상승하는 것은 아닙니다.) 

 

따라서, 어떠한 지식을 인공 지능에게 학습시킨 후에 유사하거나 새로운 지식들의 문제 해결에 응용이 가능하다면, 획기 적으로 문제 해결 속도나 비용을 개선시킬 수 있기 때문입니다.

3. 전이 학습의 단점

전이 학습이 장점만 있는 것이 아니다.

1. 작업의 특이성

원본에서 학습한 지식과 학문이 문제 해결 대상에 맞지 않는 특이한 경우에는 인공지능은 이를 해결할 수 없습니다. 마치, 영어를 배운다고 해서 라틴어를 해결할 수 없는 것과 같은 이유입니다.

2. 데이터 분포의 차이

전이 학습은 데이터의 분포와 문제의 데이터 분포가 유사가 비슷하다고 가정하는데, 이에 대한 차이가 있다면 문제 해결이 어려울 수 있습니다.

3. 모델의 복잡도가 증가

전이 학습은 딥러닝 부분에서 데이터 양이 증가함에 따라서 시간, 비용의 비효율적성을 극복하고자 마련된 방법임에도 불구하고 데이터를 학습시키고 응용하는 과정에서 모델이 더 복잡해질 수 있습니다. 즉, 모든 작업을 해결하기 위해서 계속해서 학습 데이터를 입력하다 보면 시간, 비용이 더 소모됩니다. 오히려 작업량이 증가하는 형태를 볼 수 있습니다.