서버리스 컴퓨팅

서버리스 아키텍처 이해

서버리스 설정에서 애플리케이션은 특정 이벤트에 의해 트리거되는 독립적인 함수 모음으로 구성되는 경우가 많습니다. 이 모델을 일반적으로 서비스형 기능(FaaS)이라고 합니다. 이벤트에는 HTTP 요청(예: API 호출), 데이터베이스 변경, 클라우드 스토리지로의 파일 업로드 또는 대기열 시스템의 메시지가 포함될 수 있습니다. 이벤트가 발생하면 클라우드 제공업체는 해당 기능을 실행하는 데 필요한 컴퓨팅 리소스를 자동으로 할당합니다. 실행이 완료되면 이러한 리소스는 축소되며, 대기 중인 요청이 없는 경우 0으로 축소되기도 합니다. 이러한 이벤트 중심의 자동 확장 방식은 서버가 지속적으로 실행되어 유휴 리소스가 발생하고 운영 비용이 높아지는 기존 아키텍처와는 크게 다릅니다. 이는 많은 AI 사용 사례의 다양한 요구사항에 잘 부합합니다.

AI 및 ML의 이점

서버리스 컴퓨팅은 계산 요구사항이 가변적인 경우가 많은 AI 및 ML 워크로드에 강력한 이점을 제공합니다:

• 자동 확장성: 예측할 수 없는 부하를 원활하게 처리합니다. 예를 들어, 예측을 제공하는 추론 엔진은 요청이 갑자기 급증할 수 있습니다. 서버리스 플랫폼은 수동 개입 없이도 수요에 맞춰 함수 인스턴스를 자동으로 확장 또는 축소하여 일관된 성능을 보장합니다. 이는 실시간 추론이 필요한 애플리케이션에 매우 중요합니다.
• 비용 효율성: 사용량 기준으로 운영됩니다. 일반적으로 밀리초 단위까지 함수에 사용된 실제 컴퓨팅 시간만큼만 요금이 청구됩니다. 따라서 유휴 서버 용량과 관련된 비용이 발생하지 않으므로 주기적인 모델 학습이나 빈번하지 않은 데이터 처리 작업과 같은 작업에 경제적으로 사용할 수 있습니다. 규모의 경제의 이점을 살펴보세요.
• 더 빠른 개발 주기: 인프라 관리가 간소화됩니다. 개발자는 데이터 전처리, 특징 추출 또는 예측 로직 실행과 같은 특정 작업을 위한 코드 작성에만 집중할 수 있습니다. 따라서 개발 및 배포 속도가 빨라져 다양한 모델이나 하이퍼파라미터 튜닝 전략으로 더 빠르게 실험할 수Ultralytics 가이드).
• 간소화된 운영: 운영 오버헤드 감소. 운영 체제 패치, 서버 용량 관리, 고가용성 보장 등의 작업은 클라우드 제공업체에서 처리하므로 핵심 ML 작업에 리소스를 확보할 수 있습니다. 머신 러닝 운영(MLOps)에 대해 자세히 알아보세요.

AI/ML의 실제 애플리케이션

서버리스 아키텍처는 다양한 AI/ML 작업에 적합합니다:

1. 이미지 및 비디오 분석: 사용자가 업로드한 이미지에서 객체 감지를 수행하는 애플리케이션을 예로 들어보겠습니다. Ultralytics YOLO 모델을 사용합니다. 클라우드 스토리지(예: Amazon S3 또는 Google 클라우드 스토리지)에 업로드 이벤트가 발생하면 서버리스 함수가 트리거됩니다. 이 함수는 이미지를 로드하고, 감지를 위해 YOLO 모델을 실행하고, 잠재적으로 이미지 분할을 수행하고, 결과(예: 경계 상자, 클래스 레이블)를 데이터베이스에 저장하거나 API를 통해 반환합니다. 이 시스템은 사전 프로비저닝된 서버 없이도 업로드 수에 따라 자동으로 확장됩니다. 이 패턴은 콘텐츠 조정에서 의료 이미지 분석에 이르기까지 다양한 애플리케이션에 유용합니다. 더 많은 예는 Ultralytics 솔루션을 참조하세요.
2. 챗봇 백엔드: 대규모 언어 모델(LLM) 로 구동되는 많은 챗봇은 서버리스 기능을 사용하여 수신되는 사용자 메시지를 처리합니다. 각 메시지는 텍스트를 처리하는 함수를 트리거하고, LLM API(예: GPT-4)와 상호 작용하며, 필요한 작업(예: 벡터 검색을 통한 데이터베이스 조회)을 수행한 후 응답을 보냅니다. 요청당 과금 모델은 사용 패턴이 변동하는 챗봇에 이상적입니다. 자연어 처리(NLP) 개념을 살펴보세요.

서버리스 대 관련 개념

서버리스 컴퓨팅과 관련 기술을 구분하는 것이 중요합니다:

• 클라우드 컴퓨팅과 서버리스: 클라우드 컴퓨팅은 인터넷을 통해 컴퓨팅 서비스를 광범위하게 제공하는 것입니다. 서버리스는 클라우드 컴퓨팅의 특정 실행 모델로, 자동 리소스 관리와 이벤트 중심 기능(FaaS)을 강조하여 서버 관리를 완전히 추상화합니다. 서비스형 인프라(IaaS)와 같은 다른 클라우드 모델에서는 여전히 사용자가 가상 머신을 관리해야 합니다.
• 컨테이너화 대 서버리스: Docker와 같은 컨테이너화 도구는 애플리케이션과 그 종속성을 패키지화합니다. Kubernetes와 같은 오케스트레이션 플랫폼은 이러한 컨테이너의 배포, 확장, 관리를 자동화합니다. Kubernetes는 베어메탈이나 가상 머신을 관리하는 것에 비해 운영 부담을 줄여주지만, 기본 클러스터 인프라는 여전히 관리해야 합니다. 서버리스 플랫폼은 이 계층을 완전히 추상화하여 함수 코드만 관리합니다. Ultralytics 함께 Docker를 사용하는 방법을 알아보세요.
• 엣지 컴퓨팅과 서버리스: 엣지 컴퓨팅은 지연 시간과 대역폭 사용량을 줄이기 위해 데이터 소스 근처의 장치('엣지')에서 로컬로 데이터를 처리합니다. 서버리스 컴퓨팅은 일반적으로 중앙 집중식 클라우드 데이터 센터에서 기능을 실행합니다. 엣지 AI 디바이스(예: NVIDIA 젯슨에서 실행되는 디바이스)가 초기 처리 또는 필터링을 수행한 다음 클라우드에서 서버리스 기능을 트리거하여 더 복잡한 분석 또는 집계를 수행할 수 있습니다. 엣지 처리와 클라우드 처리를 결합하는 AI 기반 보안 카메라에 대해 읽어보세요.

대표적인 서버리스 플랫폼으로는 AWS Lambda, Google Cloud Functions, Azure Functions가 있습니다. 이러한 서비스는 서버리스 AI/ML 애플리케이션을 효과적으로 구축하고 실행하는 데 필요한 인프라를 제공하며, 종종 스토리지, 데이터베이스 및 메시징을 위한 다른 클라우드 서비스와 통합됩니다. Ultralytics HUB와 같은 플랫폼은 서버리스 설정을 포함한 다양한 아키텍처 내에서 모델의 배포 및 관리를 더욱 간소화할 수 있습니다(HUB 문서 살펴보기).