[vector DB]Elastic Search
안녕하세요. Elastic Search에서 진행한 Generative AI search 워크샵을 참관 후 이해한 내용을 간략히 정리했습니다. LLM의 문제점- 대규모 데이터 이관 시 할루시네이션 발생- Search에서 할루시네이션이 발생되지 않고, LLM에서 발생됨vector search 1. dense vector search : 최근접/이웃 활용 2. sparse vector search : elastic search의 key-value - 이전에 view했던 페이지 이력 확인해서 검색에 활용vector 많이 쓰면 메모리 많이 사용, 많은 데이터가 RAM에 있고 데이터 search를 위해서는 CPU에 부하 발생됨 -> 8개 또는 4개로 양자화하는 기술 도입됨-> Better Binary Quant..
IT/Data
2025. 9. 21. 11:51
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
TAG
- 혼공파
- terraform
- ai 엔지니어링
- handson
- 도서
- 혼공챌린지
- cloud
- k8s calico
- NFT
- autoscaling
- operator
- S3
- 파이썬
- 혼공단
- GKE
- GCP
- security
- CICD
- VPN
- cni
- PYTHON
- AI Engineering
- EKS
- AWS
- k8s
- NW
- IaC
- AI
- SDWAN
- k8s cni
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | |||||
| 3 | 4 | 5 | 6 | 7 | 8 | 9 |
| 10 | 11 | 12 | 13 | 14 | 15 | 16 |
| 17 | 18 | 19 | 20 | 21 | 22 | 23 |
| 24 | 25 | 26 | 27 | 28 | 29 | 30 |
| 31 |
글 보관함