프롬프트 엔지니어링

프롬프트 엔지니어링의 작동 방식

효과적인 프롬프트 엔지니어링은 종종 반복적인 프로세스입니다. 작업 요구 사항을 분석하고 대상 AI 모델의 기능과 한계를 이해하는 것으로 시작됩니다. 그런 다음 엔지니어는 초기 프롬프트를 설계하고, 이를 테스트하고, 결과를 평가하고, 그 결과에 따라 프롬프트를 개선합니다. 이러한 개선 작업에는 보다 구체적인 지침 추가, 예제 제공(소수 학습), 원하는 출력 형식(예: JSON) 정의, 제약 조건 설정 또는 어조 조정 등이 포함될 수 있습니다. 주요 기술은 종종 자연어 처리(NLP) 의 원리를 활용하며, 유명한 "주의만 있으면 됩니다" 문서에 설명된 Transformer 모델과 같이 훈련 데이터 및 아키텍처의 영향을 받는 문구가 모델의 동작에 어떤 영향을 미치는지 신중하게 고려해야 합니다.

주요 프롬프트 기법

프롬프트 엔지니어링에는 일반적으로 몇 가지 전략이 사용됩니다:

• 제로 샷 프롬프트: 프롬프트 자체에서 사전 예제를 제공하지 않고 모델에게 직접 작업을 수행하도록 요청하는 방식입니다. 이는 훈련 중에 얻은 모델의 기존 지식에 의존합니다. 제로 샷 학습을 참조하세요.
• 몇 샷 프롬프트: 프롬프트에 직접 소수의 예제(입력-출력 쌍)를 포함하여 모델에게 원하는 작업과 형식을 안내합니다.
• 생각의 연쇄(CoT) 프롬프트: 최종 답변을 제공하기 전에 추론 과정을 세분화하도록 유도하여 모델이 '단계별로 생각'하도록 장려하면 복잡한 작업의 성능을 향상시킬 수 있습니다.
• 역할 프롬프트: 모델에 특정 페르소나 또는 역할(예: "전문 Python 개발자 역할")을 채택하여 응답 스타일과 콘텐츠를 맞춤화하도록 지시합니다.
• 출력 구조 지정하기: 번호가 매겨진 목록, 표 또는 특정 언어로 형식화된 코드를 요청하는 등 원하는 출력 형식을 명확하게 정의합니다. OpenAI 프롬프트 엔지니어링 가이드와 같은 리소스에서 모범 사례를 확인할 수 있습니다.

실제 애플리케이션

신속한 엔지니어링은 많은 AI 애플리케이션의 성공적인 배포를 위한 기본 요소입니다:

1. 고객 서비스 자동화: 챗봇과 가상 비서가 고객 문의를 정확하게 처리하고, 특정 브랜드 보이스를 유지하며, 복잡한 문제를 적절하게 에스컬레이션할 수 있도록 프롬프트를 디자인하는 것입니다. 기업들은 이러한 기술을 사용하여 고객 경험을 개선하며, Zendesk AI와 같은 플랫폼에서 볼 수 있습니다.
2. 콘텐츠 생성 및 요약: 생성형 AI 도구(예: Cohere에서 개발한 도구 또는 Anthropic)을 사용하여 마케팅 카피를 생성하고, 이메일을 작성하고, 긴 문서를 요약하거나(텍스트 요약), GitHub Copilot과 같은 도구를 사용하여 코드 스니펫을 생성할 수도 있습니다.

다른 애플리케이션으로는 시맨틱 검색 엔진 강화, 대화형 교육 도구 구동, 자연어 인터페이스를 통한 정교한 데이터 분석 등이 있습니다.

프롬프트 엔지니어링과 관련 개념 비교

프롬프트 엔지니어링을 관련 용어와 구별하는 것이 유용합니다:

• 프롬프트 강화: 사용자의 초기 프롬프트가 LLM에 도달하기 전에 추가 컨텍스트(예: RAG를 사용하는 지식창고)를 통해 자동으로 보강하는 데 중점을 둡니다. 프롬프트 엔지니어링은 핵심 지침을 수동으로 제작하는 것입니다.
• 프롬프트 튜닝: 텍스트 프롬프트를 만드는 대신 학습 가능한 임베딩 (소프트 프롬프트)을 모델 입력에 추가하고 최적화하는 매개변수 효율적인 미세 조정(PEFT) 기법입니다.
• 미세 조정: 특정 데이터 세트에 대한 추가 학습을 통해 실제 모델 가중치를 업데이트하고, 입력 프롬프트가 아닌 모델 자체를 조정하는 작업을 포함합니다.

이러한 기법은 서로 다르지만 상호 보완적인 역할을 할 수 있습니다. 예를 들어, 잘 설계된 기본 프롬프트는 미세 조정된 모델에 의해 처리되기 전에 검색된 데이터로 자동으로 보강될 수 있습니다. LangChain과 같은 프레임워크는 이러한 다양한 접근 방식을 통합하는 경우가 많습니다.

컴퓨터 비전과의 관련성

전통적으로 컴퓨터 비전(CV) 에서는 NLP에 비해 덜 주목받았지만, 멀티모달 모델과 프롬프트 가능한 비전 시스템의 등장으로 프롬프트 엔지니어링의 중요성이 점점 더 커지고 있습니다. CLIP, YOLO 또는 YOLOE와 같은 모델은 텍스트 설명을 기반으로 물체 감지 또는 이미지 분할과 같은 작업을 수행할 수 있습니다. 효과적인 텍스트 프롬프트(예: "모든 '빨간색 자동차'를 감지하되 '트럭'은 무시")를 만드는 것은 이러한 비전 언어 모델을 안내하는 데 매우 중요한 프롬프트 엔지니어링의 한 형태입니다. Ultralytics HUB와 같은 플랫폼은 다음과 같은 다양한 모델과의 상호 작용을 지원합니다. Ultralytics YOLO 모델과 같은 YOLOv8 및 YOLO11와 같이 인터페이스를 통해 작업을 정의하는 경우, 특히 모델이 더 많은 대화형 기능을 갖추게 되면 신속한 엔지니어링 원칙의 이점을 누릴 수 있습니다.