은행이나 공공기관을 사칭하는 사람이 자연스럽게 대화를 이어 가다가 돈을 요구하면, 수상한 링크 하나를 찾는 것만으로는 부족할 수 있습니다. Google DeepMind와 싱가포르 GovTech는 10월 14일 휴대전화 안에서 대화의 사기 징후를 찾아 경고하는 AI 모델을 발표했습니다. 메시지 플랫폼·운영체제 업체가 통합할 수 있는 모델을 전달한 단계이며, 한국에서 지금 켤 수 있는 기능이나 설치할 앱은 발표하지 않았습니다. 공식 발표

암호화된 대화, 사기 징후는 어디서 살필까요?

종단간 암호화는 대화를 주고받는 양쪽에서 내용을 읽도록 보호하는 방식입니다. 메시지 플랫폼이 서버에서 사적인 대화 내용을 들여다볼 수 없으니, 대화를 이용한 사기를 탐지하는 데도 제약이 생깁니다. 이번 접근은 사용자의 기기 안에서 대화 맥락을 분석합니다. 탐지를 위해 대화를 클라우드 서버에서 검사하는 대신, 기기에서 조작 의도를 찾아 민감한 정보나 돈을 건네기 전에 주의하라고 알리는 구조입니다. 개인정보 보호 접근

여기서 겨냥하는 것은 사회공학적 사기입니다. 기술적 취약점을 공격하기보다 사람의 신뢰와 판단을 이용하는 방식으로, 발표는 공공기관·은행·현지 인물을 사칭하는 대화와 지역에서 유행하는 수법을 학습 대상으로 설명합니다. 가벼운 일상 대화와 상대를 속여 행동하게 만드는 대화를 구분하기 위해, Google의 경량 AI 모델 Gemma를 싱가포르 현지 사기 대화에 맞게 미세조정했습니다. 미세조정은 기존 모델에 특정 분야의 자료를 추가로 학습시키는 과정입니다. 현지 사기 유형과 학습 방식

DeepMind는 싱가포르에서 2019년 이후 사기 피해가 누적 40억 싱가포르달러를 넘었고, 이런 사회공학적 사기가 전체 피해액의 최대 80%를 차지한다고 설명합니다. 싱가포르의 문제 배경을 설명한 수치이며 한국 피해 규모나 이 모델의 탐지 성능을 뜻하지 않습니다. 발표의 피해 규모 설명

배터리를 아끼는 2단계 탐지

휴대전화에서 긴 대화를 계속 분석하면 전력 부담이 생길 수 있습니다. 개발팀은 모든 메시지에 무거운 분석을 적용하는 대신, 먼저 가벼운 분류기로 살피고 의심 신호가 있으면 더 긴 대화를 평가하는 파이프라인을 사용한다고 설명합니다. 2단계 구조

단계 살피는 내용 목적
1단계: 가벼운 분류기 들어오는 메시지 적은 전력으로 잠재적 위협을 먼저 거릅니다
2단계: 미세조정한 Gemma 더 넓은 대화 맥락 위협인지 판단하거나 잘못된 경보를 걸러냅니다

공식 기술 설명

조작적인 대화 패턴을 감지하면 기기에서 실시간 경고를 띄워, 민감한 정보나 돈을 공유하기 전에 잠시 멈추고 주의하도록 안내합니다. 발표는 경고 기능을 설명하며 송금 자체를 자동 차단한다고 안내하지는 않습니다. 탐지 정확도, 잘못 경고하는 비율, 배터리 절감량, 경고까지 걸리는 시간의 구체적인 수치도 공개하지 않았습니다. 경고 동작과 공개 범위

개인정보 보호: 실행 위치와 학습 자료를 따로 봅니다

대화를 분석하는 위치와 모델을 학습시킨 환경은 다릅니다. 이용 중 분석은 기기에서 수행하고, 모델 미세조정은 GovTech가 관리·유지하는 Google Cloud Platform(GCP) 환경에서 학습 자료를 격리한 채 진행했다고 밝혔습니다. 개발·실행 환경

학습에서는 사적 정보와 개인 식별 정보를 제외하고, 사기 신고와 관련 정보에서 얻은 익명화 자료를 사용했다고 설명합니다. 시험에는 합성 대화와 현지 대화 자료를 활용해 여러 사기 유형과 변화하는 사칭 수법을 다뤘습니다. 이 설명은 발표자가 밝힌 자료 관리·시험 방식입니다. 실제 피해 감소나 독립 기관의 탐지 성능 검증 결과는 이 발표에서 제시하지 않았습니다. 학습 자료와 시험

제공·이용 조건: 앱과 운영체제의 통합이 필요합니다

이번 협력은 싱가포르 정부와의 국가 AI 파트너십 아래 진행됐습니다. 5월 20일 협력 발표는 현지 전문가와 함께 공공 분야에 AI를 적용하는 방향과, 지역 언어·문화의 차이를 고려한 안전성 연구를 설명했습니다. 이번 사기 탐지 발표는 그 협력에서 나온 구체적인 온디바이스 모델 사례입니다. 5월 파트너십 배경 · 10월 사기 탐지 발표

DeepMind는 싱가포르에서 흔히 사용하는 스마트폰에 맞춰 모델을 최적화했으며, 메시지 플랫폼과 운영체제 업체가 경량 모델을 직접 통합할 수 있다고 설명합니다. 다만 지원 앱 이름, Android·iOS별 조건, 지원 기종 목록, 사용자 설정·해제 방법, 통합 완료일은 발표하지 않았습니다. 일반 이용자용 다운로드 주소나 신청 경로도 안내하지 않았습니다. 제공 단계

한국 제공과 한국어 탐지 품질은 미확인입니다. 싱가포르 현지 사기 대화에 맞춘 모델이라는 점을 고려하면, 한국의 사칭 수법과 한국어 대화에서도 같은 수준으로 동작하는지는 별도 검증이 필요합니다. 현재 한국의 메신저에 기능이 적용됐다고 볼 근거는 없습니다. 한국 이용자가 살펴볼 다음 정보는 사용하는 앱의 공식 통합 안내, 지원 지역·언어, 기종별 제공 조건입니다. 현재 발표 범위

비용·요금: 가격은 발표되지 않았습니다

이용자 요금, 플랫폼 업체의 통합 비용, API 요금이나 별도 구독 조건은 공개되지 않았습니다. 무료 제공 여부도 미공개입니다. 어떤 앱과 운영체제가 모델을 통합하고 어떤 조건으로 제공할지가 남아 있습니다. 공식 발표

반응 (2026년 10월 14일 확인 기준)

공개된 사용자 반응은 아직 확인되지 않았습니다.

함께 읽기

기기 안에서 AI를 실행하는 다른 접근이 궁금하다면 리퀴드 AI LFM2.5 로컬 에이전트 모델을 함께 볼 수 있습니다. 사진과 소리를 기기 안에서 검색하는 방식은 EmbeddingGemma 2 안내에서 설명합니다.

참고한 자료

확인일: 2026년 10월 14일.