create value with tech, not tool

안녕하세요, devops를 이해하기 위해 학습한 내용에 대한 정리글입니다.그전에 Gemini에게 Agent AI가 나오면서 앞으로 devops 전망에 대해 물어봤습니다. ✦ 결론부터 말하면, DevOps 엔지니어의 역할은 사라지는 것이 아니라 'AI 조련사', '자동화 시스템 설계자' 와 같이 더 높은 수준의 전략가로 변화할 것입니다. DevOps의 각 단계가 AI 에이전트를 통해 어떻게 변하는지 살펴보면 다음과 같습니다. 1. 기획 및 설계 (Plan & Design) * 현재: 사람이 요구사항을 분석하고 아키텍처를 설계합니다. * AI 에이전트 도입 후: AI가 요구사항 문서를 분석해 최적의 기술 스택, 아키텍처 패턴, 예상 리소스 등을 추천합니다. 잠재적인 병목 현상이나 보안 취약점을 ..

안녕하세요, 최근 Azure의 Application gateway와 Private Endpoint를 활용해 Open AI 서비스를 연동한 내용을 간단히 설명합니다. [요구사항]외부 SaaS 서비스에서 도메인을 통해 Azure의 Open AI 서비스를 안정적으로 사용 [테스트 구성] 1. Network 구성- Network Subscription과 서비스(DEV/STG/PRD)용 Subscription을 분리하여 Peering으로 연결 구성- Open AI의 특정 모델의 경우 East US 2 리전에 출시되어 East US 리전에 vNet을 구성하여 Global Peering으로 구성- Network Subscription과 서비스(DEV/STG/PRD)용 Subscription 간에는 Private ..

안녕하세요. Elastic Search에서 진행한 Generative AI search 워크샵을 참관 후 이해한 내용을 간략히 정리했습니다. LLM의 문제점- 대규모 데이터 이관 시 할루시네이션 발생- Search에서 할루시네이션이 발생되지 않고, LLM에서 발생됨vector search 1. dense vector search : 최근접/이웃 활용 2. sparse vector search : elastic search의 key-value - 이전에 view했던 페이지 이력 확인해서 검색에 활용vector 많이 쓰면 메모리 많이 사용, 많은 데이터가 RAM에 있고 데이터 search를 위해서는 CPU에 부하 발생됨 -> 8개 또는 4개로 양자화하는 기술 도입됨-> Better Binary Quant..

안녕하세요, AWS 기반 CICD 환경 구축 스터디 내용을 기록했습니다. AWS는 개발자가 애플리케이션을 쉽게 빌드, 테스트, 배포할 수 있도록 다양한 DevOps 서비스를 제공합니다. 그 중에서도 CodePipeline, CodeBuild, CodeDeploy는 CI/CD(지속적 통합/지속적 배포) 파이프라인을 구축하는 데 핵심적인 역할을 하는 서비스들입니다. CICD 란?• CI + CD• Continuous Integration + Continuous Delivery• 지속적 통합 + 지속적 배포• 지속적 통합: 개발자가 코드를 변경할 때마다 자동으로 코드를 통합, 빌드, 테스트하는 과정• 지속적 배포: 통합 & 테스트가 완료된 코드를 자동으로 배포환경에 배포하는 과정 1. AWS CodePipe..

보호되어 있는 글입니다.

안녕하세요. AWS EKS Workshop Study (=AEWS) 3기 모임에서 스터디한 내용을 정리했습니다. 해당 글에서는 Amzaon EKS Mode/Nodes 에 대해 자세히 알아보겠습니다.  Fargate사전학습K8S Scheduler : 참고[ [CNKCD2024] 쿠버네티스 스케줄러는 노드를 어떻게 선택하는가? (임찬식) - Youtube]-> 파드 생성 시 : 인증/인가 → Admission → ETCD ⇒ 스케줄러 동작 (노드 선택) ⇒ 이후 pod 에 nodename에 업데이트됨  # k8s 배포kind create cluster --name myk8s --image kindest/node:v1.32.2 --config -  kubectl get podkubectl get pod tes..