create value with tech, not tool

안녕하세요, AI 엔지니어링을 학습하기 위해 인프런 AI 엔지니어링 완독챌린지에 참여하며 주차별 이해한 내용을 기록합니다. 4주차 독후감7장 '파인튜닝'과 8장 '데이터셋 엔지니어링'은 AI 모델을 실제 서비스에 적용하는 데 있어 가장 실질적이고 중요한 핵심 기술을 다루고 있습니다. 특히, 파인튜닝 섹션에서 대규모 모델의 학습에서 발생하는 메모리 병목 현상을 해결하기 위한 양자화와 PEFT(LoRA) 같은 최신 기법들을 구체적으로 다룬 점이 인상 깊었습니다. 이는 단순히 이론을 넘어 현업 AI 엔지니어가 직면하는 하드웨어 제약과 그 해결책을 제시하며 실용적인 깊이를 더했습니다.또한, 8장 데이터셋 엔지니어링은 "모델은 데이터에 의해 결정된다"는 명제를 다시 한번 강조하며, 데이터 큐레이션의 중요성부터 중..

안녕하세요, AI 엔지니어링을 학습하기 위해 인프런 AI 엔지니어링 완독챌린지에 참여하며 주차별 이해한 내용을 기록합니다. 3주차 독후감3주차에는 LLM 활용의 핵심인 프롬프트 엔지니어링과 지식 확장 기법인 RAG(검색 증강 생성), 그리고 AI 에이전트의 기본 구조를 깊이 있게 학습했습니다.프롬프트 엔지니어링은 명확한 지침, CoT, Few-Shot 학습 등 모범 사례를 통해 모델 성능을 최적화하는 기술이며, 방어적 엔지니어링은 프롬프트 주입과 같은 공격으로부터 시스템을 보호하는 필수적인 방어책임을 이해했습니다.나아가 RAG는 외부 지식을 검색하여 LLM의 환각 문제를 해결하는 강력한 아키텍처이며, 에이전트는 LLM을 두뇌로 삼아 도구를 활용하고 계획을 수립하며 메모리를 통해 학습하는 자율적인 시스템의..

안녕하세요, AI 엔지니어링을 학습하기 위해 인프런 AI 엔지니어링 완독챌린지에 참여하며 주차별 이해한 내용을 기록합니다. 2주차 독후감이번 학습을 통해 AI 엔지니어링의 핵심인 평가 방법론을 깊이 이해할 수 있었습니다. 파운데이션 모델의 퍼플렉시티와 교차 엔트로피 같은 기본 지표부터 모델 출력을 참조 데이터와 비교하는 BLEU/ROUGE 지표까지 폭넓게 익혔습니다.특히, 인간 평가의 한계를 극복하기 위한 AI 평가자(LLM Evaluator)의 도입과 그 한계를 명확히 인식한 점이 인상 깊었습니다. 또한, 실제 AI 시스템을 배포하기 위해 도메인 특화 능력, 생성 능력, 비용, 지연 시간 등을 종합적으로 고려하는 평가 파이프라인 설계의 중요성을 깨달았습니다.AI 시스템을 성공적으로 구축하기 위해서는 단..

안녕하세요, AI 엔지니어링을 학습하기 위해 인프런 AI 엔지니어링 완독챌린지에 참여하며 주차별 이해한 내용을 기록합니다. 1주차 독후감인프런 AI 엔지니어링 챌린지 1주차 학습을 통해 파운데이션 모델(FM)의 근간부터 애플리케이션 개발 방법론까지 폭넓게 이해할 수 있었습니다.FM의 발전은 지도 학습의 한계를 넘어선 자기 지도 학습 기반의 LLM에서 시작하여 다양한 모달리티를 포괄하는 FM으로 확장되었고 이는 AI 엔지니어링이라는 새로운 패러다임(기존 모델 활용)을 낳았습니다. 기획 단계에서는 비즈니스 영향을 최우선 지표로 삼아야 하며 프롬프트 엔지니어링과 파인튜닝을 통한 모델 조정이 중요함을 인지했습니다.특히, 트랜스포머 아키텍처와 어텐션 메커니즘의 상세한 설명을 통해 모델 작동 원리를 이해할 수 있었..

안녕하세요, AWS AI Agent를 활용한 EKS 애플리케이션 및 인프라 트러블슈팅 워크샵을 통해 이해한 내용을 정리했습니다. Troubleshoot EKS Application and Infrastructure Problems Using AI AgentThis workshop is designed to develop comprehensive observability agent for EKS environments. Participants will first configure Prometheus, Loki and Tempo with ADOT to collect telemetry data from EKS cluster. Then, they will use Strands Agents to set up a..