이상거래탐지시스템(FDS)이란? 은행이 내 결제를 막는 이유와 대처법
해외 쇼핑몰에서 결제를 누르자마자 카드사에서 “본인이 맞으신가요?”라는 문자가 오거나, 평소보다 큰 금액을 이체했더니 은행 앱이 추가 인증을 요구한 경험이 한 번쯤 있을 겁니다. 이렇게 거래를 멈춰 세우는 장치가 이상거래탐지시스템(FDS, Fraud Detection System)입니다. 대부분은 사람이 판단하는 게 아니라, 거래 요청이 들어온 순간 시스템이 1초도 안 되는 사이에 결정합니다.
이 글에서는 이상거래탐지시스템이 어떤 기준으로 거래를 막는지, 왜 가끔은 정상 거래까지 막는지, 그리고 내 거래가 막혔을 때 무엇을 하면 되는지를 정리합니다. 리스크 관리 쪽에서 보면 FDS는 ‘보안 장비’라기보다 ‘위험을 얼마나 감수할지 정하는 의사결정 시스템’에 가깝습니다. 그 관점으로 풀어 보겠습니다.
목차
이상거래탐지시스템(FDS)이란
FDS는 전자금융 거래에서 모인 여러 정보를 종합해 평소와 다른 거래, 즉 사기나 도용이 의심되는 거래를 찾아내고 차단하는 시스템입니다. 은행과 카드사는 물론 간편결제·PG사, 보험사, 증권사까지 사실상 모든 금융회사가 운영합니다. 국내에서는 2014년 간편결제가 도입될 때 카드 정보를 저장하려는 PG사에 FDS 구축이 전제 조건으로 요구되면서 금융권 전반으로 빠르게 확산됐습니다.
핵심은 ‘이 거래가 이 사람답지 않은가’를 묻는 것입니다. 1000만원 이체 자체는 이상하지 않습니다. 하지만 평소 소액만 쓰던 고객이 처음 보는 기기로, 새벽 3시에, 방금 등록한 계좌로 1000만원을 보낸다면 이야기가 달라집니다. FDS는 이런 조합을 봅니다.
이상거래탐지시스템은 이렇게 작동한다
① 수집: 무엇을 보는가
FDS가 보는 정보는 크게 세 갈래입니다. 접속한 기기와 네트워크(휴대폰 기종, 운영체제, 접속 위치, IP), 거래 자체의 특징(금액, 시간, 받는 계좌, 결제처), 그리고 고객의 평소 이력입니다. 여기에 최근에는 금융회사·통신사·수사기관이 공유하는 보이스피싱 의심 정보까지 더해지고 있습니다.
② 분석과 ③ 점수화: 얼마나 이상한가
수집한 정보를 평소 패턴과 비교해 위험도를 점수로 매깁니다. 이때 한 가지 신호만으로 판단하는 경우는 드뭅니다. 해외 접속 하나만으로는 약한 신호지만, 해외 접속에 새 기기, 처음 보는 수취 계좌, 한도에 가까운 금액이 겹치면 점수가 급격히 올라갑니다.
④ 대응: 점수에 따라 달라지는 조치
점수가 낮으면 그대로 통과되고, 애매하면 추가 인증을 요구하고, 높으면 거래를 보류하거나 차단합니다. 최근 한 보험사가 개편한 FDS도 로그인부터 지급 신청까지 거래 과정을 실시간으로 분석해 추가 인증, 거래 제한, 고객 연락과 문자 안내처럼 상황별 대응을 적용하는 구조로 소개됐습니다. 고객 입장에서 ‘막혔다’고 느끼는 대부분은 사실 이 중간 단계인 추가 인증입니다.
규칙 기반과 머신러닝, 무엇이 다를까
전통적인 FDS는 사람이 만든 규칙으로 움직였습니다. “해외 IP에서 고액 이체가 들어오면 보류” 같은 식입니다. 기준이 분명해 왜 막았는지 설명하기 쉽다는 장점이 있습니다. 대신 사기 수법은 규칙을 피해 계속 진화하고, 규칙을 하나씩 추가하다 보면 정상 거래까지 걸리는 경우가 늘어납니다.
머신러닝 기반 탐지는 고객별 평소 패턴을 학습해 그와 벗어나는 거래를 찾아냅니다. 처음 보는 유형의 사기도 ‘평소와 다르다’는 이유로 잡아낼 수 있습니다. 반면 왜 이 거래를 이상하다고 판단했는지 설명하기 어렵고, 학습 데이터가 부족하거나 편향되면 성능이 떨어집니다. 그래서 실제 현장에서는 두 방식을 섞어 씁니다. 머신러닝이 위험 점수를 매기고, 규칙이 최종 조치를 정하는 식입니다.
FDS의 영원한 숙제: 오탐과 미탐
리스크 관리에서 가장 어려운 부분이 여기입니다. 정상 거래를 사기로 잘못 판단하는 것을 오탐(False Positive), 사기 거래를 놓치는 것을 미탐(False Negative)이라고 합니다. 문제는 둘이 시소처럼 움직인다는 점입니다. 기준을 엄격하게 조이면 사기는 덜 통과하지만 정상 고객의 결제가 자주 막히고, 기준을 느슨하게 풀면 고객은 편하지만 사기가 새어 나갑니다.
그래서 FDS 기준을 정하는 일은 기술 문제이기 전에 경영 판단입니다. 한 건의 사기를 막기 위해 몇 명의 정상 고객을 불편하게 해도 되는지, 그 균형점을 정하는 것이기 때문입니다. 금융회사마다 같은 거래를 다르게 처리하는 이유도 여기에 있습니다.
보이스피싱 대응으로 FDS의 역할이 커지고 있다
최근 이 균형점이 ‘더 적극적으로 막는 쪽’으로 움직이고 있습니다. 정부는 2025년 8월 발표한 보이스피싱 근절 종합방안에서, 딥페이크와 음성 변조처럼 수법이 고도화된 만큼 개인의 주의만으로는 막기 어렵고 FDS 같은 인프라를 갖춘 금융회사가 책임지고 대응해야 한다고 밝혔습니다. 금융회사 배상책임 도입, 가상자산거래소의 의심 계정 탐지·지급정지 의무, 오픈뱅킹 안심차단 같은 과제도 함께 제시됐습니다.
이어 2025년 10월에는 금융·통신·수사기관의 의심 정보를 모아 분석하는 ‘보이스피싱 정보공유·분석 AI 플랫폼(ASAP)’이 출범했고, 정보 공유 근거를 담은 통신사기피해환급법 개정안도 국회를 통과했습니다. 개별 금융회사가 자기 고객 데이터만으로 패턴을 찾던 방식에서, 업권 전체가 신호를 공유하는 방식으로 바뀌고 있는 셈입니다. 금융권이 AI를 어떻게 활용하는지는 news1608의 AI가 바꾸는 은행 앱의 미래에서도 다뤘습니다.
내 거래가 막혔을 때 이렇게 하세요
- 먼저 공식 채널로 확인합니다. 금융회사 앱의 알림이나 카드 뒷면·공식 홈페이지의 대표번호로 직접 전화합니다. 문자에 적힌 링크나 번호로 연락하는 것은 피해야 합니다. 차단 문자를 흉내 낸 스미싱이 흔하기 때문입니다.
- 본인 거래라면 추가 인증을 완료합니다. 대부분은 본인 확인만 거치면 곧바로 풀립니다.
- 본인 거래가 아니라면 즉시 지급정지를 요청합니다. 사기가 의심되면 금융회사 고객센터나 경찰(112)에 신고하고 해당 계좌의 지급정지를 요청합니다.
- 반복된다면 원인을 물어봅니다. 해외 체류, 기기 변경 등 예정된 변화가 있으면 미리 알려 두는 것도 방법입니다. 일부 금융회사는 해외 사용 등록 같은 기능을 제공합니다.
차단을 줄이고 보안은 높이는 습관
- 휴대폰을 바꾸면 금융 앱에 새 기기를 정식으로 등록합니다. 등록하지 않은 기기는 FDS가 가장 먼저 의심하는 신호입니다.
- 큰돈을 보내기 전에는 받는 계좌를 미리 등록해 두면 추가 인증이 줄어듭니다.
- 쓰지 않는 금융 연결은 정리합니다. 여러 앱에 흩어진 오픈뱅킹 연결을 확인·해지하는 방법은 오픈뱅킹 마이데이터 차이 글에서 단계별로 설명했습니다.
- 금융회사가 제공하는 안심차단 서비스를 활용하면, 본인 모르게 대출이나 계좌 연결이 이뤄지는 것을 미리 막을 수 있습니다.
이상거래탐지시스템 자주 묻는 질문
Q. FDS 때문에 막힌 거래는 기록이 남아 불이익이 있나요?
추가 인증이나 일시 보류는 보안 절차일 뿐, 신용점수에 영향을 주는 기록은 아닙니다.
Q. AI가 판단하면 사람보다 정확한가요?
대량의 거래를 실시간으로 보는 데는 사람보다 훨씬 낫지만, 오탐과 미탐을 완전히 없앨 수는 없습니다. 그래서 고위험 건은 여전히 담당자가 확인하는 경우가 많습니다. AI가 스스로 판단하는 시스템의 위험과 통제 방법은 로그 AI 해설에서 더 자세히 볼 수 있습니다.
Q. FDS가 있으면 피해가 나도 금융회사가 다 보상하나요?
그렇지 않습니다. 보상 여부는 사고 유형과 관련 법, 개별 약관에 따라 다릅니다. 예금 자체의 보호 범위가 궁금하다면 예금자보호 1억 상품별 정리도 함께 참고하세요.
정리: 불편함은 비용이다
결제가 막히는 순간은 누구에게나 번거롭습니다. 하지만 그 불편함은 금융회사가 사기 한 건을 막기 위해 의도적으로 지불하는 비용이기도 합니다. 이상거래탐지시스템이 어떻게 판단하는지 알고 나면, 막혔을 때 당황하지 않고 공식 채널로 확인하고 인증을 마치면 된다는 것을 알 수 있습니다. 반대로 ‘보안 해제’를 먼저 권하는 연락이 온다면, 그것이야말로 가장 먼저 의심해야 할 신호입니다.
참고 자료
※ 본 기사는 금융 보안에 대한 일반적인 정보 제공을 목적으로 작성됐으며, 개별 금융회사의 FDS 기준이나 내부 운영 방식을 설명하는 것이 아닙니다. 거래 차단이나 피해가 의심되는 경우 반드시 해당 금융회사의 공식 채널과 수사기관을 통해 확인하시기 바랍니다. 본문 이미지는 News1608이 자체 제작한 인포그래픽이며, 내용은 작성 시점 기준입니다.
