- 글로벌 최고 수준 오픈소스 기반 금융 특화 임베딩 모델 공개… SOTA 기준 성능 전세계 1위 달성
- 한국어 금융 데이터 학습 통해 가맹점, 결제 등 금융 관련 용어 검색 성능 기존比 최대 15% 개선
- 외부 의존도 낮추고 금융권 AI 서비스 고도화 위한 핵심 기술 확보… 보안·규제 리스크 원천 차단
BC카드(대표이사 사장 김영우)가 금융 특화 생성형 AI 서비스의 검색 정확도를 높이기 위한 금융 전용 임베딩(Embedding) 모델을 공개했다고 2일 밝혔다.
최근 금융권에서는 생성형 AI를 활용한 상담 서비스와 사내 업무지원, 문서 검색 등 다양한 AI 서비스를 실제 업무에 적극 도입 및 운영하고 있다. 하지만 생성형 AI는 모든 정보를 기억하는 방식이 아니라 필요한 정보를 찾아 답변을 생성하는 구조를 활용하기 때문에 관련 문서를 얼마나 정확하게 찾아주는지가 AI 답변 품질을 결정하고 있다.
이를 보완하기 위해 활용되는 기술이 임베딩 모델이다. 이 모델은 사용자의 질문 의미를 숫자로 변환한 후 서로 가까운 위치에 있는 정보(좌표)를 관련성이 높은 내용으로 판단해 더 정확한 검색과 답변을 제공한다.
예를 들어 “해외결제 수수료는 얼마인가요?”라는 질문을 생성할 경우 AI는 답을 기억하는 것이 아니라 관련 약관 및 문서를 찾은 후 이를 바탕으로 답변을 생성한다. 이때 임베딩 모델은 ‘해외결제’, ‘해외 이용 수수료’, ‘국제 브랜드 수수료’처럼 표현은 다르지만 의미가 같은 문서를 찾아 AI에 전달하는 역할을 수행하는 것이다.
BC카드는 기존 범용 임베딩 모델이 가맹점, 결제, 카드상품 등 한국 금융 용어를 충분히 이해하지 못한다는 점에 착안해 금융 특화 모델 개발을 추진했다. 이 개발은 BC카드가 오픈소스 플랫폼(허깅페이스)에 공개한 182만여건의 금융 데이터셋을 활용해 진행했다.
개발된 임베딩 모델은 경량형과 고품질형 2종류다.
먼저, 경량형 모델은 약 6억(0.6 B) 피라미터 규모로 일반 CPU으로도 활용할 수 있다. 이 모델은 공개 직후 글로벌 벤치마크 SOTA(State Of The Art) 평가 항목에서 타 모델 대비 최대 15%까지 향상된 성능을 보이며 전세계 1위를 기록했다.(’26.6.27 기준)
고품질형 모델은 약 40억(4.0B) 개의 파라미터로 GPU환경에서만 활용할 수 있다. 경량형 모델 대비 약 10% 가량 성능이 뛰어나며, 정밀한 검색이 필요한 업무에 적합하다.
두 가지 모델은 속도와 정밀도라는 상호 보완적 특성을 지녔다. 빠른 응답이 중요한 서비스에서는 경량형 모델이, 검색 정확도가 우선되는 서비스에는 고품질형 모델을 선택적으로 활용할 수 있다.
BC카드는 두 모델의 학습∙평가 과정에서 단순하게 모델 규모를 키우는 것보다 고품질 금융 데이터 학습 여부가 검색 성능에 더 큰 영향을 미친다는 점을 확인했다. 자체 기술 확보를 통해 외부 AI 서비스에 금융 데이터를 제공하지 않고도 자체 AI 서비스를 운영할 수 있는 계기를 마련했고 글로벌 오픈소스 플랫폼인 허깅페이스에도 공개할 예정이다.
특히 개인정보, 금융정보 외부 반출에 따른 보안·규제 리스크를 줄이면서 금융권에 특화된 AI 서비스를 안정적으로 제공할 수 있을 것으로 기대하고 있다. KT그룹사는 물론 정부, 금융 기업을 대상으로 금융 AI 검색 플랫폼 사업 확대도 추진할 전망이다.
오성수 BC카드 상무(AI데이터본부장)은 “이번 성과는 금융권 특화된 검색∙생성 AI 서비스를 자립적으로 운영할 수 있는 기술 기반을 마련, 정부의 소버린 AI 기조와 금융위원회가 추진 중인 금융권 AX 가속화 정책과도 부합한다는 점에서 의미가 크다'면서 '자체 개발한 금융 특화 모델과 데이터셋을 개방과 공유해 금융권 전반의 AX 저변 확대와 한국형 금융 AI 생태계 구축에 기여할 것”이라고 밝혔다. “끝”