System architecture
모델, API, 데이터 흐름, 인증, 관측 지점을 하나의 운영 구조로 설계합니다.
ML systems engineering
Reliable ML systems for Real-World environments.
모델을 만드는 일과 모델을 운영하는 일 사이에는 많은 품질 문제가 숨어 있습니다. MRML은 데이터, 모델, API, 인프라, 관측, 배포 판단을 현실의 조건 안에서 함께 봅니다.
Position
실제 서비스에서는 모델, 데이터, API, 인프라, 네트워크, 권한, 배포 절차가 함께 맞물려야 합니다.
클라우드, 온프렘, 내부망, VPN이 섞인 환경에서는 시스템 경계와 연결 방식이 성능만큼 중요해집니다.
Practice
모델, API, 데이터 흐름, 인증, 관측 지점을 하나의 운영 구조로 설계합니다.
클라우드, 온프렘, 내부망, VPN, registry 경계를 고려해 모델이 실제로 배포될 수 있는 구조를 만듭니다.
로그, 메트릭, 장애 대응, rollback, runbook을 운영 흐름 안에 연결합니다.
Program
MLOps로 배우는 데이터와 모델 품질관리
AI 서비스가 데이터, 모델, API, 운영 환경 안에서 어떻게 연결되고 관리되는지 실습 중심으로 다룹니다.
Open AIQA Learn