AI 시대의 데이터베이스
비개발자를 위한 AI 시대 데이터베이스 이야기. 벡터 검색, RAG, 할루시네이션의 의미와 AI 시대에 왜 Garbage In, Garbage Out이 증폭되는지, 좋은 데이터의 조건을 정리합니다.
벡터 검색, RAG, 그리고 좋은 데이터의 시대
"비개발자가 알아야 할 데이터베이스 이야기" 12부작의 마지막 편입니다. AI 시대에 데이터베이스가 어떻게 달라지는지, 그리고 왜 "좋은 데이터"가 그 어느 때보다 중요해졌는지 다룹니다.
직원이 사내 AI에게 "육아휴직 신청은 어떻게 하나요?"라고 묻는다. AI는 회사 규정, 인사 안내서, 자주 묻는 질문을 찾아 답한다. 이때 중요한 것은 AI가 말을 자연스럽게 만드는 능력만이 아니다. 올바른 자료를 찾아 필요한 부분을 전달하는 데이터 기반이다.
그리고 여기서 이 시리즈 전체가 하나의 원으로 닫힌다. 1편의 "왜 데이터를 잘 관리해야 하는가", 6편의 "Garbage In, Garbage Out"이 AI 시대에 더 큰 목소리로 돌아오기 때문이다.
AI 시대, GIGO는 증폭된다
6편에서 "나쁜 데이터를 넣으면 나쁜 결과가 나온다"는 GIGO 원칙을 봤다. AI 시대에 이 원칙은 사라지는 게 아니라 증폭된다. 세 가지 이유가 있다.
1. 속도의 증폭 사람이 틀린 데이터를 보고서에 옮기는 데는 시간이 걸리고, 그 과정에서 누군가 "이 숫자 이상한데?"라고 걸러낼 기회가 있다. AI는 오염된 데이터를 초 단위로, 수천 개의 답변에 퍼뜨린다. 오류가 확산되는 속도가 인간의 검토 속도를 앞지른다.
2. 그럴듯함의 증폭 엑셀의 틀린 숫자는 의심스러운 표정으로 보인다. 그러나 AI는 틀린 내용도 매끄럽고 자신감 있는 문장으로 전달한다. 생성형 AI가 근거 없는 답을 그럴듯하게 지어내는 현상을 '할루시네이션(환각)'이라고 부르는데, 나쁜 데이터 위의 AI는 할루시네이션이 아니어도 틀린다 — 데이터가 틀렸으니까. 그리고 그 틀림은 유창한 문장 덕분에 더 믿기 쉽다.
3. 학습의 고착 분석 시스템은 데이터를 고치면 결과가 바로 바뀐다. 그러나 나쁜 데이터로 학습된 AI 모델은 데이터를 고친다고 바로 나아지지 않는다. 편향되고 오염된 패턴이 모델 안에 굳어진다. "나중에 데이터 정리하고 AI 도입하자"가 아니라 "데이터 정리 없이 도입한 AI가 나쁜 데이터를 체질로 갖게 된다"에 가깝다.
AI가 답하는 세 가지 데이터 문제
생성형 AI는 그럴듯한 문장을 만들 수 있지만, 회사의 최신 환불 정책이나 특정 고객의 실제 주문 상태를 저절로 알지는 못한다. AI 프로젝트가 모델 선택에만 집중하고 다음 질문을 놓치는 경우가 있다.
- 어떤 자료를 답변 근거로 사용할 것인가?
- 최신 자료와 폐기된 자료를 어떻게 구분할 것인가?
- 누가 문서의 정확성을 책임지는가?
- 질문한 사람이 볼 권한이 있는 자료만 검색되는가?
- 답의 근거와 원문을 사용자에게 보여 줄 수 있는가?
이는 새로운 질문처럼 보이지만 사실 데이터 품질(6편), 거버넌스(7편), 보안(9편)의 연장선이다. AI 시대의 새 과제가 아니라, 기존 원칙의 중요성이 커진 것이다.
벡터는 의미를 비교하기 위한 숫자 표현이다
AI 시스템은 문장이나 이미지를 **임베딩(embedding)**이라는 숫자 묶음으로 바꿀 수 있다. 의미가 비슷한 자료는 숫자 공간에서도 가까운 위치에 놓이도록 만든다. 벡터 검색은 이 거리를 비교해 관련 자료를 찾는다.
사용자가 "돈을 돌려받고 싶다"라고 물어도 '환불 절차' 문서를 찾을 수 있다. 정확히 같은 단어를 입력해야 하는 전통적 검색의 한계를 보완한다.
그러나 의미상 가깝다는 것이 사실상 옳거나 사용 권한이 있다는 뜻은 아니다. 관련성, 정확성, 최신성, 권한은 각각 따로 확인해야 한다.
RAG는 AI가 답하기 전에 자료를 찾아보게 한다
**검색 증강 생성(retrieval-augmented generation, RAG)**은 질문과 관련된 자료를 먼저 찾고, 그 내용을 언어 모델에 제공해 답을 만들게 하는 방식이다.
- 사용자가 질문한다
- 시스템이 관련 자료를 검색한다
- 찾은 자료와 질문을 AI에 함께 보낸다
- AI가 자료를 바탕으로 답을 만든다
- 가능하면 출처를 함께 보여 준다
RAG는 사내 자료를 활용하고 근거를 제시하는 데 도움이 되지만, 틀린 답을 완전히 없애지는 못한다. 검색이 잘못될 수도 있고, 올바른 자료를 찾고도 모델이 다르게 해석할 수 있다. 그리고 무엇보다 — 검색되는 자료 자체가 오래됐거나 틀렸다면, RAG는 그 오류를 충실하게 증폭시킨다. 중요한 결정에는 원문 확인과 사람의 검토가 필요하다.
벡터 데이터베이스가 기존 데이터베이스를 대신할까?
대부분의 서비스에서는 그렇지 않다. 주문 금액, 재고 수량, 사용자 권한처럼 정확한 값과 관계가 중요한 정보는 관계형 데이터베이스 등에 두고, 문서의 의미 검색에는 벡터 기능을 더하는 혼합 구조가 흔하다.
| 질문 | 적합한 접근 |
|---|---|
| 주문 번호 1234의 결제 상태는? | 정확한 조건으로 업무 데이터베이스 조회 |
| 환불 정책과 관련된 문서는? | 키워드·벡터 검색 |
| 지난 분기 지역별 매출은? | 분석용 데이터 저장소와 검증된 지표 |
| 이 고객에게 어떤 상품이 어울릴까? | 업무 데이터, 행동 데이터, 추천 모델의 결합 |
AI와 개인정보
고객 상담 내용을 외부 AI 서비스에내면 이름을 지웠더라도 주문 번호, 주소 일부, 드문 상황의 조합으로 개인을 알아볼 가능성이 남을 수 있다(8편의 재식별 위험). 서비스와 계약에 따라 입력 데이터의 저장 기간, 학습 사용 여부, 처리 위치가 다르다.
다음 원칙이 필요하다.
- 꼭 필요한 정보만 보낸다
- 민감한 값은 제거하거나 가린다
- 서비스의 데이터 사용 조건과 보관 기간을 확인한다
- 사용자별 문서 접근 권한을 검색 단계부터 적용한다
- 질문, 검색 자료, 답변을 기록할 때도 민감정보를 최소화한다
- 중요한 답은 근거 문서와 함께 검토한다
자연어로 데이터베이스를 묻는 시대의 위험
AI가 "지난달 매출을 보여 줘"라는 말을 데이터베이스 질문으로 바꿔 줄 수 있다. 비개발자의 데이터 접근을 넓힌다는 장점이 있다. 동시에 잘못된 계산, 권한 밖의 조회, 민감정보 노출, 비싼 질의 실행 위험도 생긴다.
읽기 전용 권한, 허용된 데이터 범위, 검증된 지표, 실행 전 미리보기, 비용과 사용량 제한, 결과 검토 절차를 마련해야 한다. 자연어가 쉽다고 데이터의 뜻까지 자동으로 분명해지는 것은 아니다. "지난달 매출"이라는 한 문장에도 "취소 주문 포함인가", "어느 시스템의 원본인가"라는 6편의 질문들이 숨어 있다.
결국 다시 사람의 질문으로 돌아온다
AI 시대에도 중요한 질문은 크게 달라지지 않는다. 오히려 이 질문에 답할 수 있는 조직만이 AI의 혜택을 온전히 누린다.
- 이 데이터는 어디에서 왔는가?
- 누가 정확성을 책임지는가?
- 지금도 최신인가?
- 이 사람이 볼 권한이 있는가?
- 답의 근거를 확인할 수 있는가?
- 틀렸을 때 어떤 피해가 생기는가?
- 언제 사람의 검토가 필요한가?
핵심 정리 벡터 검색은 의미가 비슷한 자료를 찾고, RAG는 찾은 자료를 AI 답변의 근거로 제공한다. 그러나 관련성이 정확성이나 권한을 보장하지는 않는다. AI 시대에 GIGO(Garbage In, Garbage Out)는 사라지지 않고 증폭된다 — 속도, 그럴듯함, 학습의 고착이라는 세 경로로. 좋은 AI는 좋은 모델에서 시작하는 게 아니라 좋은 데이터, 즉 품질·거버넌스·보안이라는 기존 원칙 위에서 시작한다.
AI 데이터 프로젝트 점검표
- 답변에 사용할 공식 자료와 제외할 자료가 정해져 있는가?
- 오래된 문서를 자동 또는 정기적으로 찾아낼 수 있는가?
- 사용자가 볼 수 없는 문서가 검색 결과에 섞이지 않는가?
- 답변과 함께 원문 출처와 날짜를 보여 주는가?
- 민감정보가 외부 모델, 로그, 평가 데이터에 남지 않는가?
- 틀린 답의 위험이 큰 질문은 사람에게 넘기는가?
- 품질을 실제 질문 묶음으로 정기 평가하는가?
시리즈를 마치며 — 데이터베이스를 안다는 것은 좋은 질문을 할 수 있다는 뜻이다
비개발자가 데이터베이스 제품을 설치하거나 SQL을 직접 작성할 필요는 없다. 그러나 데이터가 사업과 일상의 결정을 움직이는 시대에는 몇 가지 질문을 할 수 있어야 한다.
- 무엇을 왜 모으는가?
- 어떤 데이터가 원본인가?
- 이 숫자의 뜻은 무엇인가?
- 누가 보고 바꿀 수 있는가?
- 틀리거나 사라지면 어떻게 알아차리고 복구하는가?
- 언제까지 보관하고 어떻게 지우는가?
- 침해되면 누구에게 어떤 피해가 생기는가?
- AI에게 이 데이터를 넘겨도 되는가?
좋은 데이터베이스는 최신 기술을 많이 붙인 시스템이 아니다. 필요한 사실을 정확하게 기억하고, 필요한 사람에게 제때 제공하며, 불필요한 노출과 남용을 줄이고, 문제가 생겼을 때 복구할 수 있는 시스템이다.
데이터베이스는 기술팀의 지하실에 놓인 장비가 아니다. 제품의 약속, 조직의 기억, 고객과의 신뢰가 만나는 곳이다. 그리고 AI 시대에는 그 기억의 질이 곧 조직의 지능이 된다.
시리즈 목차
- 데이터베이스란 무엇인가 — 엑셀 파일과 무엇이 다를까?
- 데이터베이스는 어떻게 정확성을 지킬까
- 데이터베이스에는 어떤 종류가 있을까
- 데이터베이스, 데이터 웨어하우스, 데이터 레이크
- 올바른 데이터베이스 선택이 중요한 이유
- 데이터 모델과 데이터 품질
- 데이터 거버넌스란 무엇인가
- 개인정보는 적게, 필요한 만큼만
- 데이터 보안의 기본
- 데이터 침해는 왜 일어나며, 발생하면 무엇을 해야 할까
- 클라우드와 서버리스 데이터베이스
- AI 시대의 데이터베이스 ← 현재 글
