혹시 이런 상상 해보셨어요?
딸 목소리가 똑같은 전화가 걸려와서 "엄마 나 사고 났어, 돈 좀 보내줘"라고 하는 거예요. 목소리 톤도, 말버릇도, 심지어 울먹이는 것까지 완벽한데 — 사실 그건 딸이 아니라 AI였던 거죠.
실제로 미국과 한국 양쪽에서 이런 사례가 보고됐어요. 지금 AI 음성 복제 기술은 딱 3~5초짜리 음성 샘플만 있으면 85% 정확도로 사람 목소리를 그대로 흉내 낼 수 있거든요(정확하지 않을 수 있어요). 다크웹에서는 이런 음성 복제 툴을 50달러면 구할 수 있다고 하고요.
그런데 이게 개인 사기 수준에서 끝나는 얘기가 아니에요. 2024년 홍콩에서는 다국적 엔지니어링 기업 아럽(Arup)의 홍콩 지사 직원이 CFO와 여러 임원이 동시에 등장하는 화상회의에 참여했다가, 그 회의 참석자 전원이 딥페이크였다는 걸 나중에야 알게 됐어요. 그 직원은 15차례에 걸쳐 총 2,500만 달러(약 340억 원)를 홍콩 내 5개 계좌로 송금했고요.
이 사건 하나로 전 세계 기업 보안팀이 뒤집어졌어요. "화상통화로 얼굴을 확인했으니 진짜다"라는 상식이 더 이상 통하지 않는다는 걸 보여줬거든요.
그리고 지금, 이 '진짜 목소리인지 가짜 목소리인지 가려내는 기술'에 미국 자본이 조용히, 그리고 빠르게 몰리고 있어요. 오늘은 이 얘기를 좀 해보려고요.
원조: 신용카드 도용 사건에서 시작된 회사
이 흐름의 원조 격인 회사는 미국 애틀랜타의 핀드롭(Pindrop)이에요.
창업자 비제이 발라수브라마니얀(Vijay Balasubramaniyan)은 조지아텍 박사과정 시절이던 2011년, 해외에서 신용카드 결제가 갑자기 거절당하는 개인적 경험을 계기로 이 회사를 만들었다고 해요. 조지아텍의 정보보안센터 디렉터였던 무스타크 아마드(Mustaque Ahamad), 폴 저지(Paul Judge)와 함께요.
원래는 콜센터로 걸려오는 전화가 진짜 고객인지 사기범인지 음성 패턴으로 걸러내는 '보이스 포렌식' 기술이 사업의 시작이었어요. 그런데 2022년 이후 챗GPT급 생성 AI가 쏟아지고, 일레븐랩스(ElevenLabs) 같은 음성 복제 툴이 대중화되면서 판이 완전히 바뀌었어요. 누구나 몇 초짜리 샘플로 목소리를 복제할 수 있게 되자, 핀드롭의 사업은 '콜센터 사기 탐지'에서 '딥페이크 음성 탐지' 전문 기업으로 완전히 재편됐거든요.
성과가 꽤 극적이에요. 핀드롭은 지금까지 누적 2억 3,500만 달러(약 3,300억 원)를 투자받았고, 2024년 7월에는 허큘리스캐피탈로부터 1억 달러(약 1,400억 원) 부채 조달을 추가로 받았어요. 포브스 보도에 따르면 2025년 4월 기준 연간반복매출(ARR)이 1억 달러를 넘겼고, 2025년부터는 흑자 전환에 성공해서 추가 투자 유치 계획도 없다고 해요. 직원 수는 약 280명 수준이고요(정확하지 않을 수 있어요).
"전화 한 통에 7번씩, 매일 딥페이크 사기 시도가 들어온다" — 핀드롭이 2025년 발표한 '음성 인텔리전스 & 보안 리포트'에서 밝힌 문구예요. 2024년 한 해 동안 딥페이크 사기 시도가 전년 대비 1,300% 급증했다고 하네요.
즉 이 회사는 "AI가 위협이 될 것"이라는 걸 미리 내다본 게 아니라, AI 사기가 폭발적으로 늘어나면서 저절로 몸값이 뛴 케이스예요.
폭발: 왜 지금, 이렇게까지 커졌나
핀드롭 혼자만의 얘기가 아니에요. 비슷한 시기에 여러 스타트업이 동시다발로 자금을 끌어모으고 있거든요.
- 리얼리티 디펜더(Reality Defender): 텍스트·이미지·영상·음성 전방위 딥페이크 탐지 플랫폼. 2024년 10월 시리즈A를 3,300만 달러(약 460억 원)로 확장. IBM벤처스, 액센츄어, Y콤비네이터 등이 투자자 명단에 이름을 올렸어요.
- 겟리얼 시큐리티(GetReal Security): 2025년 3월 시리즈A로 1,750만 달러(약 250억 원) 유치. 이 회사 공동창업자가 UC버클리의 디지털 포렌식 권위자로 알려진 하니 파리드(Hany Farid) 교수예요.
왜 하필 지금 이렇게 폭발했을까요. 세 가지가 겹쳤다고 봐요.
첫째, 생성 AI 음성 툴이 순식간에 '누구나 쓰는 도구'가 됐어요. 예전엔 목소리 복제에 전문 장비와 긴 샘플이 필요했는데, 지금은 유튜브 인터뷰 3초면 충분하거든요.
둘째, 피해 규모가 무시할 수 없는 수준으로 커졌어요. FBI의 2025년 인터넷범죄 보고서에는 AI 관련 사기 신고가 2만 2,000건, 피해액이 8억 9,300만 달러(약 1조 2,500억 원)로 집계됐어요. 그런데 전문가들은 실제 피해자의 5% 미만만 신고한다고 보고 있어서, 실제 피해는 이보다 훨씬 클 걸로 추정돼요. 딜로이트는 2027년이면 미국 내 AI 사기 손실이 연간 400억 달러(약 56조 원)에 이를 수 있다고 전망했고요.
셋째, 아럽 사건처럼 '기업 임원급'을 노린 대형 사고가 터지면서, 이게 개인 사기가 아니라 기업 리스크 관리의 문제라는 인식이 퍼졌어요. 보안 예산을 쥔 기업 의사결정자들이 움직이기 시작한 거죠.
이 세 조건 — 도구의 대중화, 피해 규모의 임계점 돌파, 기업 리스크로의 인식 전환 — 이 겹치는 순간이 바로 니치 시장이 산업으로 폭발하는 지점인 것 같아요.
한국: 지금이 왜 기회인가
한국 얘기를 좀 해볼게요. 사실 이 주제, 한국이 결코 남 얘기가 아니거든요.
2025년 한국 보이스피싱 피해액은 1조 2,578억 원으로, 전년(8,545억 원) 대비 47.2% 급증하며 사상 처음 1조 원을 넘어섰어요. 여기에 AI 음성 복제가 본격적으로 섞이기 시작한 시점이라, 앞으로가 더 문제예요.
정부와 금융권도 손을 놓고 있진 않아요.
- 케이뱅크는 KT와 손잡고 AI 기반 보이스피싱 실시간 탐지 서비스를 도입했어요. 통화 내용을 분석해 의심스러운 통화를 잡아내면 해당 계좌의 이체를 일시 지연·차단하는 방식이에요.
- SK텔레콤은 2025년 통화패턴 분석 기반 AI 모델을 내놨는데, 아직 신고되지 않은 신종 보이스피싱 번호까지 사전 탐지한다고 해요.
- 금융보안원과 카카오뱅크·토스뱅크·케이뱅크 인터넷은행 3사가 연합학습(federated learning) 기반 공동 AI 탐지 모델을 구축했는데, 이게 가동된 이후 2026년 1~4월 피해액이 전년 동기 대비 48% 급감했다는 발표가 나왔어요(정확하지 않을 수 있어요, 표본 기간이 짧아 추이를 더 지켜볼 필요는 있어 보여요).
그런데 여기서 중요한 포인트는, 이런 대응이 전부 '은행이 큰돈 들여 만든 자체 시스템'이라는 거예요. 국내 언론(디지털데일리, 2024)에서는 딥페이크 탐지 산업 자체를 두고 "글로벌은 한 수 위, 국내는 아직 걸음마 단계"라고 평가했어요. 핀드롭이나 리얼리티 디펜더처럼 이 기술 자체를 상품화해서 파는 전문 스타트업은 한국엔 아직 뚜렷하게 안 보이거든요.
바꿔 말하면, 은행 3~4곳이 자체적으로 만들어 쓰는 인프라 말고 — 중소 콜센터, 카드사, 보험사, 지역 금융기관, 심지어 요양보호·돌봄 서비스처럼 노년층을 상대하는 사업자들에게 '가볍게 붙일 수 있는 음성 인증·라이브니스 체크 API'를 제공하는 자리는 아직 비어 있다는 얘기예요. 정부가 5월부터 AI 생성물에 워터마크 표시를 의무화하기로 한 것도(정확하지 않을 수 있어요) 관련 시장을 더 키울 신호로 보여요.
균형 잡기: 과장과 한계도 짚고 가면
다만 너무 장밋빛으로만 보면 안 될 것 같아요. 몇 가지 냉정하게 볼 지점이 있거든요.
"탐지 기술은 절대 완전히 끝나지 않는 게임이다." 디지털 포렌식 분야의 권위자로 꼽히는 하니 파리드 교수가 여러 인터뷰에서 반복해온 얘기예요.
첫째, 이건 창과 방패의 무한 경쟁이에요. 생성 모델이 좋아질 때마다 탐지 모델도 다시 학습시켜야 해요. 오늘 99% 정확도를 자랑하는 탐지기가 6개월 뒤엔 무력화될 수 있다는 뜻이고, "한 번 사면 끝"인 솔루션이 아니에요.
둘째, 오탐·미탐 문제가 여전해요. 진짜 사람 목소리를 가짜로 판정하거나, 정교한 가짜를 진짜로 통과시키는 경우가 계속 나와요. 100% 신뢰할 수 있는 기술이 아니라는 걸 전제로 써야 해요.
셋째, 결국 가장 값싸고 확실한 방어는 '기술'이 아니라 '사람 사이의 약속'일 수 있어요. 가족끼리 미리 정해둔 암구호, 의심스러운 전화는 무조건 끊고 알던 번호로 재발신하는 습관 — 이런 원시적인 방법이 최신 AI 탐지 솔루션보다 오히려 확실할 때가 많거든요.
넷째, 음성을 생체정보로 대량 수집·보관하는 것 자체의 리스크도 있어요. 비밀번호는 유출되면 바꾸면 그만인데, 목소리는 바꿀 수가 없잖아요. 탐지 인프라가 커질수록 이 데이터 자체가 새로운 공격 표적이 될 수 있다는 우려도 함께 따라와요.
그래서, 뭘 해볼 수 있을까요
정리하면 이래요.
- 개인이라면 — 부모님, 가족과 미리 '안전 문구'나 암구호를 정해두세요. 급전 요청 전화가 오면 무조건 끊고 알고 있는 번호로 직접 다시 걸어 확인하는 습관을 들이는 게 가장 확실해요. 케이뱅크·카카오뱅크 등 이용 중인 은행 앱에 보이스피싱 탐지·알림 기능이 있다면 켜두시고요.
- 사업 아이템을 찾는 분이라면 — 은행이 아닌 중소 콜센터·카드사·보험사·요양/돌봄 서비스 대상으로 가볍게 붙일 수 있는 음성 인증·라이브니스 체크 API 리셀링이나 컨설팅이 아직 빈 시장이에요. 딥페이크 대응 특약을 넣은 사이버보험 상품 기획도 눈여겨볼 만해요.
- 투자 관점에서 지켜볼 이름들 — 핀드롭, 리얼리티 디펜더, 겟리얼 시큐리티. 이 회사들의 실적 발표나 신규 투자 소식이 이 시장 온도를 가늠하는 지표가 될 거예요. 국내는 금융보안원 컨소시엄이 인터넷은행 3사를 넘어 시중은행·카드사로 확장되는지가 다음 관전 포인트고요.
- 커리어를 고민 중이라면 — '보이스 바이오메트릭 엔지니어', 'AI 포렌식 분석가' 같은 직무 수요가 늘고 있어요. 오디오 포렌식 기초, C2PA 같은 콘텐츠 출처 표준을 미리 공부해두면 이 분야에서 꽤 유리한 포지션을 잡을 수 있을 것 같아요.
목소리마저 의심해야 하는 시대라니 조금 씁쓸하긴 한데, 그만큼 이 불편함을 해소해주는 쪽엔 계속 돈이 몰릴 수밖에 없어 보여요. 한국은 아직 '탐지 산업' 자체가 걸음마 단계라는 게, 역설적으로 지금이 발 들이기 나쁘지 않은 타이밍이라는 뜻이기도 하고요.
참고 출처
- [This Fraud Detection Startup Hit $100 Million Annualized Revenue Protecting Against Deepfake Calls - Forbes](https://www.forbes.com/sites/stephenpastis/2025/04/24/this-fraud-detection-startup-made-100-million-protecting-against-deepfake-calls/)
- [Finance worker pays out $25 million after video call with deepfake 'chief financial officer' - CNN](https://www.cnn.com/2024/02/04/asia/deepfake-cfo-scam-hong-kong-intl-hnk)
- ["이미 글로벌은 한수 위"…`딥페이크 잡는 AI` 주목받는 솔루션은? - 디지털데일리](https://m.ddaily.co.kr/page/view/2024092413245297792)
- [[심층리포트] 금융 데이터 공조의 힘: 보이스피싱 탐지율 205% 폭발적 성장 - 한국데이터경제신문](https://www.dataeconomy.co.kr/news/articleView.html?idxno=41176)
댓글 0
첫 댓글을 남겨보세요!