준지도 학습: 정의 및 작동 방식

기계 학습 영역에서 준지도 학습은 레이블이 있는 데이터와 레이블이 없는 데이터를 모두 활용하여 보다 강력하고 효율적인 모델을 교육함으로써 감독 방법과 비지도 방법 간의 격차를 해소하는 영리한 하이브리드 접근 방식으로 나타납니다.

목차

• 준지도 학습이란 무엇입니까?
• 준지도 학습과 지도 학습 및 비지도 학습
• 준지도 학습의 작동 방식
• 준지도 학습의 유형
• 준지도 학습의 응용
• 준지도 학습의 장점
• 준지도 학습의 단점

준지도 학습이란 무엇입니까?

준지도 학습은 레이블이 지정된 데이터와 레이블이 지정되지 않은 데이터의 조합을 사용하여 모델을 교육하는 일종의 기계 학습(ML)입니다. 준지도 방식은 입력이 올바른 출력과 명시적으로 쌍을 이루는 소량의 레이블이 지정된 데이터와 일반적으로 더 풍부한 레이블이 없는 대규모 데이터 풀로부터 모델이 지침을 받는다는 것을 의미합니다. 이러한 모델은 일반적으로 소량의 레이블이 지정된 데이터에서 초기 통찰력을 찾은 다음 레이블이 지정되지 않은 더 큰 데이터 풀을 사용하여 이해도와 정확성을 더욱 개선합니다.

머신 러닝은 하드 코딩된 지침에 의존하지 않고 데이터와 통계 방법을 사용하여 인간의 추론을 모방하는 모델을 구축하는 인공 지능(AI)의 하위 집합입니다. 감독 및 비지도 접근 방식의 요소를 활용하는 준지도 방식은 사람이 라벨링하는 데 부담스러운 투자를 하지 않고도 예측 품질을 향상시킬 수 있는 독특하고 강력한 방법입니다.

준지도 학습과 지도 학습 및 비지도 학습

지도 학습은 레이블이 있는 데이터에만 의존하고 비지도 학습은 레이블이 전혀 없는 데이터를 사용하는 반면, 준지도 학습은 이 두 가지를 혼합합니다.

지도 학습

지도 학습은 레이블이 지정된 데이터를 사용하여 특정 작업에 대한 모델을 교육합니다. 두 가지 주요 유형은 다음과 같습니다.

• 분류: 항목이 속한 클래스 또는 그룹을 결정합니다.이는 바이너리 선택, 여러 옵션 중 선택 또는 여러 그룹의 구성원일 수 있습니다.

• 회귀: 기존 데이터에서 가장 적합한 선을 기반으로 결과를 예측합니다. 일반적으로 날씨나 재무 성과 예측과 같은 예측에 사용됩니다.

비지도 학습

비지도 학습은 세 가지 기본 기술을 통해 레이블이 지정되지 않은 데이터의 패턴과 구조를 식별합니다.

• 클러스터링: 비슷한 값을 갖는 포인트 그룹을 정의합니다.이는 배타적(정확히 하나의 클러스터에 있는 각 데이터 포인트), 중첩(하나 이상의 클러스터에 대한 멤버십 정도) 또는 계층적(다중 클러스터 계층)일 수 있습니다.
• 연관성: 함께 자주 구매하는 제품과 같이 함께 발생할 가능성이 더 높은 항목을 찾습니다.
• 차원성 감소: 데이터를 더 적은 수의 변수로 압축하여 데이터 세트를 단순화함으로써 처리 시간을 줄이고 모델의 일반화 능력을 향상시킵니다.

준지도 학습

준지도 학습은 레이블이 지정된 데이터와 레이블이 지정되지 않은 데이터를 모두 활용하여 모델 성능을 향상시킵니다. 이 접근 방식은 데이터에 레이블을 지정하는 데 비용이 많이 들거나 시간이 많이 걸리는 경우에 특히 유용합니다.

이러한 유형의 기계 학습은 레이블이 지정된 데이터의 양이 적고 레이블이 지정되지 않은 데이터의 양이 많을 때 이상적입니다. 준지도 모델은 레이블이 없는 포인트가 레이블이 있는 포인트와 밀접하게 일치하는지 식별함으로써 보다 미묘한 분류 경계 또는 회귀 모델을 생성하여 정확도와 성능을 향상시킬 수 있습니다.

준지도 학습의 작동 방식

준지도 학습 프로세스에는 지도 학습 방법과 비지도 학습 방법의 요소를 결합하는 여러 단계가 포함됩니다.

1. 데이터 수집 및 라벨링: 라벨이 붙은 데이터의 작은 부분과 라벨이 지정되지 않은 데이터의 큰 부분을 포함하는 데이터 세트를 수집합니다.두 데이터 세트 모두 열 또는 속성이라고도 하는 동일한 기능을 가져야 합니다.
2. 전처리 및 특징 추출: 모델에 가능한 최상의 학습 기반을 제공하기 위해 데이터를 정리하고 전처리합니다. 즉석에서 품질을 확인하고, 중복 항목을 제거하고, 불필요한 기능을 삭제합니다.추출이라는 프로세스에서 중요한 특성을 데이터의 변화를 반영하는 의미 있는 범위(예: 생년월일을 연령으로 변환)로 변환하는 새로운 특성을 만드는 것을 고려해 보세요.
3. 초기 지도 학습: 레이블이 지정된 데이터를 사용하여 모델을 학습합니다.이 초기 단계는 모델이 입력과 출력 간의 관계를 이해하는 데 도움이 됩니다.
4. 비지도 학습: 레이블이 지정되지 않은 데이터에 비지도 학습 기술을 적용하여 패턴, 클러스터 또는 구조를 식별합니다.
5. 모델 개선: 라벨이 지정된 데이터와 라벨이 지정되지 않은 데이터의 통찰력을 결합하여 모델을 개선합니다.이 단계에는 정확성을 높이기 위해 반복적인 훈련과 조정이 포함되는 경우가 많습니다.
6. 평가 및 조정: 정확성, 정밀도, 재현율, F1 점수와 같은 표준 지도 학습 지표를 사용하여 모델 성능을 평가합니다.명시적 지침(초매개변수라고도 함)을 조정하고 최적의 성능이 달성될 때까지 재평가하여 모델을 미세 조정합니다.
7. 배포 및 모니터링: 실제 사용을 위해 모델을 배포하고 성능을 지속적으로 모니터링하며 필요에 따라 새 데이터로 업데이트합니다.

준지도 학습의 유형

준지도 학습은 여러 기술을 사용하여 구현될 수 있으며, 각 기술은 레이블이 지정된 데이터와 레이블이 지정되지 않은 데이터를 활용하여 학습 프로세스를 개선합니다. 다음은 하위 유형 및 주요 개념과 함께 주요 유형입니다.

자가 훈련

자가 학습 또는 자가 라벨링이라고도 알려진 자가 훈련은 가장 간단한 접근 방식입니다. 이 기술에서는 레이블이 지정된 데이터에 대해 초기에 훈련된 모델이 레이블이 지정되지 않은 데이터의 레이블을 예측하고 해당 신뢰도를 기록합니다. 모델은 가장 확실한 예측을 추가 레이블이 지정된 데이터로 적용하여 반복적으로 자체 재학습합니다. 이렇게 생성된 레이블을의사 레이블이라고 합니다. 이 과정은 모델의 성능이 충분히 안정화되거나 향상될 때까지 계속됩니다.

• 초기 훈련: 모델은 작은 레이블이 지정된 데이터 세트에서 훈련됩니다.
• 라벨 예측: 훈련된 모델은 라벨이 지정되지 않은 데이터에 대한 라벨을 예측합니다.
• 신뢰도 임계값: 특정 신뢰도 수준 이상의 예측만 선택됩니다.
• 재훈련: 선택된 의사 레이블이 지정된 데이터가 훈련 세트에 추가되고 모델이 재훈련됩니다.

이 방법은 간단하지만 강력하며, 특히 모델이 초기에 정확한 예측을 할 수 있는 경우 더욱 그렇습니다. 그러나 초기 예측이 잘못된 경우 자체 오류가 강화되는 경향이 있습니다. 클러스터링을 사용하면 의사 레이블이 데이터 내 자연 그룹화와 일치하는지 확인할 수 있습니다.

공동 훈련

일반적으로 분류 문제에 사용되는 공동 훈련에는 데이터의 서로 다른 보기 또는 하위 집합에 대해 두 개 이상의 모델을 훈련하는 것이 포함됩니다. 레이블이 지정되지 않은 데이터에 대한 각 모델의 가장 확실한 예측은 다른 모델의 훈련 세트를 확대합니다. 이 기술은 여러 모델의 다양성을 활용하여 학습을 향상시킵니다.

• 두 가지 보기 접근 방식: 데이터 세트는 서로 다른 특징을 포함하는 원본 데이터의 하위 집합인 두 가지 별개의 보기로 나뉩니다.두 개의 새 뷰는 각각 동일한 레이블을 가지지만 이상적으로는 두 뷰가 조건부로 독립적입니다. 즉, 한 테이블의 값을 알더라도 다른 테이블에 대한 정보는 제공되지 않습니다.
• 모델 훈련: 두 모델은 레이블이 지정된 데이터를 사용하여 각 뷰에 대해 별도로 훈련됩니다.
• 상호 라벨링: 각 모델은 라벨이 지정되지 않은 데이터에 대한 라벨을 예측하고, 가장 좋은 예측(특정 신뢰도 임계값을 초과하는 모든 예측 또는 단순히 목록 상단에 있는 고정 숫자)을 사용하여 다른 모델을 재교육합니다.

공동 훈련은 데이터가 동일한 환자와 쌍을 이루는 의료 이미지 및 임상 데이터와 같은 보완적인 정보를 제공하는 여러 보기에 적합할 때 특히 유용합니다. 이 예에서 한 모델은 이미지를 기반으로 질병 발생률을 예측하고, 다른 모델은 의료 기록의 데이터를 기반으로 예측합니다.

이 접근 방식은 두 모델이 서로를 수정할 수 있으므로 잘못된 예측을 강화할 위험을 줄이는 데 도움이 됩니다.

생성 모델

생성 모델은 결합 확률 분포라고 알려진 입력 및 출력 쌍이 동시에 발생할 가능성을 학습합니다. 이 접근 방식을 사용하면 이미 본 것과 유사한 새로운 데이터를 생성할 수 있습니다. 이러한 모델은 레이블이 지정된 데이터와 레이블이 지정되지 않은 데이터를 사용하여 기본 데이터 분포를 캡처하고 학습 프로세스를 개선합니다. 이름에서 짐작할 수 있듯이 텍스트, 이미지 등을 생성할 수 있는 생성 AI의 기반이다.

• 생성적 적대 네트워크(GAN): GAN은 생성자와 판별자의 두 가지 모델로 구성됩니다.생성기는 합성 데이터 포인트를 생성하고, 판별기는 이러한 합성 데이터 포인트와 실제 데이터를 구별하려고 시도합니다. 훈련을 하면 생성기는 현실적인 데이터를 생성하는 능력이 향상되고, 판별기는 가짜 데이터를 더 잘 식별할 수 있습니다. 이러한 적대적인 프로세스는 계속되며 각 모델은 다른 모델을 능가하기 위해 노력합니다. GAN은 두 가지 방법으로 준지도 학습에 적용될 수 있습니다.
  • 수정된 판별자: 단순히 데이터를 "가짜" 또는 "진짜"로 분류하는 대신 판별자는 데이터를 여러 클래스와 가짜 클래스로 분류하도록 훈련됩니다.이를 통해 판별자는 분류와 판별을 모두 수행할 수 있습니다.
  • 레이블이 지정되지 않은 데이터 사용: 판별자는 입력이 본 레이블이 지정된 데이터와 일치하는지 또는 생성기의 가짜 데이터 포인트인지 판단합니다.이러한 추가 과제는 판별자가 레이블이 있는 데이터와의 유사성을 통해 레이블이 없는 데이터를 인식하도록 강제하여 이를 유사하게 만드는 특성을 학습하는 데 도움을 줍니다.
• VAE(Variational Autoencoders): VAE는 데이터를 원본 데이터와 최대한 가까운 표현으로 디코딩할 수 있는 더 간단하고 추상적인 표현으로 인코딩하는 방법을 알아냅니다.VAE는 레이블이 지정된 데이터와 레이블이 지정되지 않은 데이터를 모두 사용하여 전체 데이터 세트의 필수 기능을 캡처하는 단일 추상화를 생성하여 새로운 데이터에 대한 성능을 향상시킵니다.

생성 모델은 특히 언어 번역이나 이미지 인식과 같이 풍부하지만 복잡한 레이블이 지정되지 않은 데이터를 사용하는 준지도 학습을 위한 강력한 도구입니다. 물론 GAN이나 VAE가 무엇을 목표로 해야 할지 알 수 있도록 몇 가지 레이블이 필요합니다.

그래프 기반 방법

그래프 기반 방법은 데이터 포인트를 그래프의 노드로 표현하며, 이들 간의 관계에 대한 유용한 정보를 이해하고 추출하기 위한 다양한 접근 방식을 사용합니다. 준지도 학습에 적용되는 다양한 그래프 기반 방법 중 일부는 다음과 같습니다.

• 라벨 전파: 가장자리라고 알려진 숫자 값이 인근 노드 간의 유사성을 나타내는 비교적 간단한 접근 방식입니다.모델의 첫 번째 실행에서 레이블이 지정된 점에 대한 가장 강한 가장자리가 있는 레이블이 없는 점은 해당 점의 레이블을 차용합니다. 더 많은 포인트에 레이블이 지정되면 모든 포인트에 레이블이 지정될 때까지 프로세스가 반복됩니다.
• 그래프 신경망(GNN): 주의 및 컨볼루션과 같은 신경망 훈련 기술을 사용하여 특히 소셜 네트워크 및 유전자 분석과 같은 매우 복잡한 상황에서 레이블이 지정된 데이터 포인트의 학습을 레이블이 지정되지 않은 데이터 포인트에 적용합니다.
• 그래프 자동 인코더: VAE와 유사하며 레이블이 지정된 데이터와 레이블이 지정되지 않은 데이터를 캡처하는 단일 추상 표현을 만듭니다. 이 접근 방식은 그래프에 캡처되지 않은 잠재적인 연결인 누락된 링크를 찾는 데 자주 사용됩니다.

그래프 기반 방법은 소셜 네트워크, 생물학적 네트워크, 추천 시스템과 같이 자연스럽게 네트워크를 형성하거나 본질적인 관계를 갖는 복잡한 데이터에 특히 효과적입니다.

준지도 학습의 응용

준지도 학습의 다양한 응용 분야 중 일부는 다음과 같습니다.

• 텍스트 분류: 수백만 개의 제품 리뷰 또는 수십억 개의 이메일과 같이 사용 가능한 데이터 세트가 매우 큰 경우 그 중 일부에만 라벨을 지정하면 됩니다.준지도 방식은 나머지 데이터를 사용하여 모델을 개선합니다.
• 의료 영상 분석: 의료 전문가의 시간은 비싸고 항상 정확하지는 않습니다.레이블이 지정되지 않은 많은 이미지로 MRI 또는 ​​X선과 같은 이미지 분석을 보완하면 정확도와 동일하거나 심지어 이를 능가하는 모델이 생성될 수 있습니다.
• 음성 인식: 수동으로 음성을 복사하는 것은 지루하고 힘든 과정입니다. 특히 다양한 방언과 억양을 포착하려는 경우 더욱 그렇습니다.레이블이 지정된 음성 데이터와 레이블이 지정되지 않은 방대한 양의 오디오를 결합하면 말하는 내용을 정확하게 식별하는 모델의 능력이 향상됩니다.
• 사기 탐지: 먼저, 라벨이 붙은 소규모 거래 세트에 대해 모델을 훈련하여 알려진 사기와 적법한 사례를 식별합니다.그런 다음 레이블이 지정되지 않은 더 큰 거래 세트를 추가하여 모델을 의심스러운 패턴과 이상 현상에 노출시켜 금융 시스템에서 새롭거나 진화하는 사기 활동을 식별하는 능력을 향상시킵니다.
• 고객 세분화: 준지도 학습은 작은 레이블이 지정된 데이터 세트를 사용하여 특정 패턴 및 인구 통계를 기반으로 초기 세그먼트를 정의한 다음 레이블이 지정되지 않은 더 큰 데이터 풀을 추가하여 이러한 범주를 구체화하고 확장함으로써 정확성을 향상시킬 수 있습니다.

준지도 학습의 장점

• 비용 효율성: 준지도 학습은 광범위한 레이블이 지정된 데이터의 필요성을 줄여 레이블 지정 비용과 노력은 물론 인적 오류와 편견의 영향도 줄입니다.
• 향상된 예측: 레이블이 지정된 데이터와 레이블이 지정되지 않은 데이터를 결합하면 모델이 학습할 수 있는 더 많은 데이터를 제공하므로 순수 지도 학습에 비해 예측 품질이 더 좋은 경우가 많습니다.
• 확장성: 준지도 학습은 최소한의 레이블이 지정된 데이터로 대규모 데이터 세트를 처리하기 때문에 잠재적으로 수십억 건의 사기 거래와 같이 철저한 레이블 지정이 비현실적인 실제 애플리케이션에 적합합니다.
• 유연성: 지도 학습과 비지도 학습의 장점을 결합하면 이 접근 방식을 다양한 작업과 영역에 적용할 수 있습니다.

준지도 학습의 단점

• 복잡성: 레이블이 있는 데이터와 레이블이 없는 데이터를 통합하려면 데이터 범위 정규화, 누락된 값 대치, 차원 축소와 같은 정교한 전처리 기술이 필요한 경우가 많습니다.
• 가정 의존성: 준지도 방법은 동일한 라벨을 받을 수 있는 동일한 클러스터의 데이터 포인트와 같이 데이터 분포에 대한 가정에 의존하는 경우가 많으며 이는 항상 사실이 아닐 수 있습니다.
• 노이즈 가능성: 레이블이 지정되지 않은 데이터는 이상치 감지 및 레이블이 지정된 데이터에 대한 유효성 검사와 같은 기술을 사용하여 적절하게 처리하지 않으면 노이즈와 부정확성을 초래할 수 있습니다.
• 평가하기 더 어려움: 레이블이 지정된 데이터가 많지 않으면 표준 지도 학습 평가 접근 방식에서 유용한 정보를 많이 얻을 수 없습니다.