ugiugi/korean_financial_corpus

한국어 금융 말뭉치 데이터셋 (품질 검증본)

은행 예금 상품 설명·FAQ와 신용등급 Q&A로 구성된 한국어 금융 도메인 말뭉치입니다. 품질 검토를 거쳐 즉시 활용 가능한 항목만 선별하여 구축했습니다.

---

데이터 개요

구분	내용
전체 건수	8,422건
Train	7,579건 (90%)
Validation	843건 (10%)
언어	한국어
도메인	은행 및 금융
형식	Parquet

---

데이터 정리 절차 (상세)

1단계: 품질 검토

2026-02-20 기준으로 output/1_corpus, output/2_sft 전체 산출물에 대해 품질 검토를 수행했습니다.

검토 기준

• ○ 양호: 주어 명확, QA 구조 적절, 도메인 정보 활용 가능
• △ 제한적: 가명화, 템플릿 단조, 코드 미변환 등
• ✗ 문제: 금액 단위 오류 등 의미 손상

2단계: 양호(○) 항목만 선별

품질 검토 결과 양호로 판정된 4개 산출물만 추출했습니다.

원본 파일	유형	선정 이유	추출 건수
deposit_descriptions	Corpus	은행·상품명 포함, 주어 명확 ("OO은행의 OO상품은 …")	2,780
deposit_summaries	Corpus	"상품명: 한 줄 설명" 구조, 도메인 지식 전달	2,780
deposit_faq	Corpus	Q&A 구조 명확, 다양한 상품·질문	2,380
cb_qa	Corpus	"신용점수 N점은 어떤 등급?" → 등급 설명	482

제외된 항목 (참고)

• fund_*, card_*, member_*, personal/corporate_cb: 가명화·템플릿 단조·코드 미변환
• card_spending_patterns: 금액 단위 오류 (예: 130원 → 130만원 추정)

3단계: 통합

4개 파일을 하나의 JSONL(quality_verified_corpus.jsonl)로 합쳤습니다. 각 레코드의 id 접두사로 출처를 구분할 수 있습니다.

• deposit_desc_* → deposit_descriptions
• deposit_sum_* → deposit_summaries
• deposit_faq_* → deposit_faq
• cb_qa_p_* → cb_qa

4단계: 스키마 정제

최종 스키마를 4개 컬럼으로 고정했습니다.

컬럼	타입	설명
id	string	레코드 고유 ID (출처 구분 가능)
corpus	string	원문 전체 텍스트
sentence_ls	list[string]	문장 단위 분할 리스트 (KSS 기준)
category	string	도메인 분류 ("은행 및 금융")

기존 metadata는 제거했고, 카테고리 코드(332.1, 336.2 등)는 모두 **"은행 및 금융"**으로 통일했습니다.

5단계: Train/Validation 분할

• 전체 데이터를 랜덤 셔플 (seed=42)
• Train 90% : 7,579건
• Validation 10% : 843건

6단계: Parquet 저장

최종 스키마로 Parquet 형식으로 저장했습니다.

• quality_verified_train.parquet
• quality_verified_validation.parquet

---

출처별 구성 (Train 기준)

출처	건수	비고
deposit_summaries	2,507	예금 상품 한 줄 요약
deposit_descriptions	2,490	예금 상품 상세 설명
deposit_faq	2,139	예금 상품 FAQ Q&A
cb_qa	443	신용등급 Q&A

---

데이터 통계

항목	값
corpus 최소 길이	18자
corpus 최대 길이	872자
corpus 평균 길이	약 75자

---

활용 용도

• Corpus 학습: corpus 또는 sentence_ls를 이용한 사전학습·Continued Pretraining
• 금융 도메인 LLM: 은행 상품·신용등급 관련 자연어 이해·생성 fine-tuning

---

제한 사항

• 은행수신상품·개인CB 신용등급 데이터 기반으로, 공모펀드·카드·기업CB 등은 포함되지 않음
• 합성·가공 데이터이므로 실제 금융 상품 정보와는 차이가 있을 수 있음

---

라이선스 및 출처

• 원본: 금융 합성데이터 개방데이터
• 품질 검토 및 선별: 2026-02-20