미세 조정

미세 조정의 작동 방식

이 프로세스는 이미지넷과 같은 광범위한 데이터 세트에서 이미 가중치가 최적화되어 있는 모델(예: 비전용 이미지넷 또는 대규모 언어 모델(LLM)용 대규모 텍스트 코퍼스)로 시작됩니다. 이 사전 학습된 모델은 이미지의 가장자리와 텍스처 또는 텍스트의 문법과 의미와 같은 일반적인 특징을 이미 이해하고 있습니다. 그런 다음 미세 조정을 통해 대상 애플리케이션에 맞는 사용자 지정 데이터 세트에서 일반적으로 더 낮은 학습 속도를 사용하여 학습 프로세스를 계속 진행합니다. 이렇게 하면 모델의 매개변수가 새로운 작업의 특정 뉘앙스에 특화되도록 조정됩니다. PyTorch 및 TensorFlow와 같은 프레임워크는 미세 조정 워크플로우를 구현하기 위한 광범위한 도구를 제공합니다.

실제 애플리케이션

미세 조정은 컴퓨터 비전(CV) 과 자연어 처리(NLP) 전반에 걸쳐 널리 사용됩니다.

• 의료 이미지 분석: COCO 데이터 세트에서 일반적인 물체 감지를 위해 사전 학습된 Ultralytics YOLO11과 같은 모델은 종양을 정확하게 감지하기 위해 특수한 MRI 스캔 모음에 맞게 미세 조정할 수 있습니다. 이러한 커스터마이징은 의료 솔루션에서 신뢰할 수 있는 AI를 구축하는 데 매우 중요합니다.
• 맞춤형 챗봇: 기업은 내부 문서와 고객 지원 로그에서 BERT와 같은 강력한 LLM을 미세 조정할 수 있습니다. 그 결과 모델은 회사 제품에 대한 전문가가 되어 웹사이트를 위한 매우 효과적이고 상황 인식적인 챗봇을 구현할 수 있습니다. 이러한 모델은 Hugging Face와 같은 플랫폼에서 많이 사용할 수 있습니다.

미세 조정과 관련 개념

미세 조정은 다른 모델 적응 기법과 차별화하는 것이 중요합니다:

• 처음부터 훈련하기: 여기에는 무작위 가중치로 신경망을 초기화하고 데이터 세트에 대해 훈련하는 것이 포함됩니다. 방대한 양의 데이터와 연산 능력(예: GPU)이 필요하며 일반적으로 사전 학습된 모델을 미세 조정하는 것보다 효율성이 떨어집니다.
• 매개변수 효율적 미세 조정(PEFT): PEFT는 보다 리소스 효율적인 미세 조정의 진화를 나타내는 방법의 모음입니다. LoRA와 같은 PEFT 기법은 모델의 모든 가중치를 업데이트하는 대신 원래 모델을 동결하고 소수의 새로운 파라미터만 학습시킵니다. 이렇게 하면 메모리와 스토리지 요구 사항이 크게 줄어들어 Meta AI나 Google과 같은 조직의 초대형 모델을 보다 쉽게 적용할 수 있습니다.
• 프롬프트 튜닝: 모든 원래 모델 가중치가 고정되는 특정 PEFT 방식입니다. 모델 자체를 조정하는 대신 입력에 추가되는 특별한 '소프트 프롬프트'(학습 가능한 임베딩)를 학습하여 특정 작업에 대한 모델의 출력을 안내합니다.
• 검색 증강 생성(RAG): 이 기술은 훈련을 통해 모델의 가중치를 변경하는 대신 추론 시 외부 지식을 제공함으로써 모델 출력을 향상시킵니다. RAG는 데이터베이스에서 관련 정보를 검색하여 프롬프트에 추가함으로써 보다 정확하고 최신의 응답을 생성합니다.

울트라 애널리틱스를 통한 미세 조정

Ultralytics는 맞춤형 애플리케이션을 위해 최첨단 YOLO 모델을 미세 조정하는 프로세스를 간소화합니다. 사용자는 사전 학습된 가중치를 쉽게 로드하고 이미지 분류, 감지 또는 세분화와 같은 작업을 위해 자체 데이터 세트에 대한 학습을 시작할 수 있습니다. Ultralytics HUB 플랫폼은 이 워크플로를 더욱 간소화하여 데이터 세트, 훈련 모델, 최종 배포를 관리할 수 있는 통합 솔루션을 제공합니다. 최상의 성능을 얻기 위해 미세 조정은 종종 신중한 하이퍼파라미터 조정과 결합됩니다.