create value with tech, not tool

안녕하세요. AI 시대에 개발자가 알아야 할 인프라 구성 배포 with 클로드 코드 책을 읽고 학습한 내용을 정리했습니다. 이전 실습을 통해 관측 가능성을 구축하면서 클러스터 안에서 무슨 일이 일어나는지 한 화면에서 볼 수 있게 되었습니다. 프로메테우스는 메트릭을 수집하고 Loki는 로그를 쌓고 Alertmanager는 이상이 생기면 알려줍니다. 아직 개선할 부분이 남았습니다. 배포할 때마다 잠깐씩 서비스가 끊깁니다. 3장에서 구현한 Rolling Update는 Pod를 하나씩 교체하는 방식이라 '완전 중단'이라고 할만큼 오래 끊기지는 않습니다. 다만 운이 나쁜 사용자가 교체되는 그 순간 요청을 보내면 connection refused를 보게 됩니다. 더 중요한 문제가 있습니다. 새 버전에 문제가 있을..

안녕하세요. AI 시대에 개발자가 알아야 할 인프라 구성 배포 with 클로드 코드 책을 읽고 학습한 내용을 정리했습니다. 이전 실습을 통해 클로드 코드를 통해 Notiflex API 서버를 GKE에 배포했습니다. 서비스는 잘 돌아가고 있지만 기능을 추가하거나 버그를 고칠 때마다 '이거 배포해도 괜찮겠지?'라는 의문이 생깁니다. 지금 클러스터에 뭐가 배포되어 있는지 정확히 모릅니다. 이번 실습을 통해 Push 기반 배포의 한계를 이해하고, ArgoCD로 GitOps를 도입합니다. GitHub Actions CI를 구성하고, CI와 ArgoCD를 연결하여 코드 Push부터 배포까지 자동화합니다. 3장. [SMB] 첫 번째 배포 파이프라인스토리: 배포할 때마다 긴장된다 → GitOps + CI 자동화 3.1..

안녕하세요. AI 시대에 개발자가 알아야 할 인프라 구성 배포 with 클로드 코드 책을 읽고 학습한 내용을 정리했습니다. 1장. [도입] AI 시대, 개발자의 인프라개발자가 인프라를 다루게 된 시대적 배경, 쿠버네티스가 좋은 출발점인 이유, GitOps에서 GitAIOps로의 전환, 그리고 이 책의 가드레일 시스템을 소개합니다.1.1 개발자에게 인프라가 다가온 시대클라우드와 컨테이너가 보편화되면서 개발자가 직접 인프라를 다루는 일이 늘어나고 있습니다. 이런 변화에는 아래와 같은 배경이 있습니다.- DevOps 문화 확산- 클라우드 네이티브 전환- 풀스택 범위 확장1.2 쿠버네티스, 클라우드 인프라의 공통 언어개발자가 인프라를 배우려면 어디서 시작해야할까요? k8s가 좋은 출발점입니다. - 특정 클라우드..

안녕하세요, AI 엔지니어링을 학습하기 위해 인프런 AI 엔지니어링 완독챌린지에 참여하며 주차별 이해한 내용을 기록합니다. 5주차 독후감9장과 10장을 통해 AI 모델을 실제 사용자에게 가치 있게 전달하는 과정의 복잡성과 중요성을 이해하게 되었습니다. 단순히 모델을 학습시키는 것을 넘어, 추론 최적화를 통해 모델의 지연 시간과 처리량이라는 사용자 경험의 핵심 요소를 개선하는 기술들은 현실적인 AI 서비스 운영의 필수 요소라는 것을 알게되었습니다. 특히 양자화, 프루닝 같은 모델 최적화 기법들은 제한된 자원에서 최대 효율을 끌어내는 AI 엔지니어의 핵심 역량임을 알게되었습니다. 10장에서 다룬 AI 엔지니어링 아키텍처는 안정적이고 고도화된 서비스 구축을 위해 필수적이라 생각하게되었고 마침 AI 아키텍처에 ..

안녕하세요, AI 엔지니어링을 학습하기 위해 인프런 AI 엔지니어링 완독챌린지에 참여하며 주차별 이해한 내용을 기록합니다. 4주차 독후감7장 '파인튜닝'과 8장 '데이터셋 엔지니어링'은 AI 모델을 실제 서비스에 적용하는 데 있어 가장 실질적이고 중요한 핵심 기술을 다루고 있습니다. 특히, 파인튜닝 섹션에서 대규모 모델의 학습에서 발생하는 메모리 병목 현상을 해결하기 위한 양자화와 PEFT(LoRA) 같은 최신 기법들을 구체적으로 다룬 점이 인상 깊었습니다. 이는 단순히 이론을 넘어 현업 AI 엔지니어가 직면하는 하드웨어 제약과 그 해결책을 제시하며 실용적인 깊이를 더했습니다.또한, 8장 데이터셋 엔지니어링은 "모델은 데이터에 의해 결정된다"는 명제를 다시 한번 강조하며, 데이터 큐레이션의 중요성부터 중..

안녕하세요, CICD 학습을 위해 CloudNetaStudy 스터디 모임을 통해 진행한 내용을 정리하였습니다. 8주차 : [Hashicorp Vault, Vault on K8S, Vault Secrets Operator] 에 대해 중점적으로 학습합니다. 1. Vault 단독 설치 및 기본 설정 (K8S 인증 포함)개념 설명이 단계는 K8S 클러스터 내에 HashiCorp Vault를 독립 실행형(Standalone) 모드로 배포하고, 보안을 위해 필수적인 초기화(Initialization) 및 봉인 해제(Unseal) 과정을 수행합니다. 가장 중요한 것은 K8S의 서비스 계정(Service Account)을 활용하여 애플리케이션이 Vault에 안전하게 인증하고 필요한 시크릿을 읽을 수 있도록 Kube..