Kubernetes는 MSA 같은 워크로드 뿐만 아니라, LLM과 같은 대규모 인공 지능(AI) 및 머신 러닝(ML) 워크로드의 전체 라이프사이클을 지원하는 데 이상적인 플랫폼입니다. 2022년, Red Hat의 컨테이너 워크로드 현황에 대한 보고서에 따르면 응답자의 76%가 데이터베이스 또는 데이터 캐시 시스템을 구축했으며, 65%가 인공 지능 및 머신 러닝 워크로드에 쿠버네티스를 사용했습니다. 웹 서버가 59%, 로깅 및 모니터링 솔루션이 58%, 데이터 수집/분석이 56%로 그 뒤를 이었습니다. Kubernetes는 언어 모델을 구축, 학습 및 배포하는 데 있어 지배적인 플랫폼으로 부상하여 AI 환경을 혁신하고 있습니다. Kubernetes에서 AI/ML 워크로드를 호스팅하면 확장성, 유연성, 네트..

정적 프로비저닝과 동적 프로비저닝의 차이 PersistentVolume(PV)은 컨테이너용 스토리지가 프로비저닝되고 사용되는 방식을 추상화할 수 있는 Kubernetes의 하위 시스템입니다. 스토리지 프로비저닝 및 사용을 위한 Kubernetes의 관련 구성은 StorageClass, PersistentVolume 및 PersistentVolumeClaim(PVC)입니다. Korea Kubernetes User Group 오픈 톡방에 lugi님이 설명해주신 내용이 있어서 공유드립니다. 비유를 들어 설명드리자면 PV는 건물입니다. 뭐 원룸이라고 하면 건물 전체라고 하지요. 방이 수십개 있을 겁니다. 그리고 나는 pod입니다. PVC는 일종의 계약서에요. 101호 방을 내가 쓰겠다고 계약서를 들고 가면 이제..

What is an Operator? Operator는 2016년 CoreOS 블로그 게시물에 공개된 디자인 패턴입니다. 목표는 운영 지식을 소프트웨어에 적용하는 것입니다. 이전에는 Ansible이나 쉘 스크립트, 운영자 개인의 능력으로 관리했습니다. 이는 Kubernetes 클러스터 밖에 있고 통합하기 어려웠습니다. CoreOS에서는 Operator로 이 문제를 해결했습니다. Operator는 Kubernetes 클러스터 내 소프트웨어에서 실행하는 공통되고 반복되는 Day-1, Day-2 같은 활동을 Kubernetes의 컨셉과 API를 사용해서 구현하고 자동화합니다. 이를 Kuberentes Native Application이라고 합니다. Operator를 사용하면 Pods, Deployments, ..