꾸준한 증가 디지털 사기 및 부정행위 소셜 미디어와 메시징 앱에서 발생하는 사이버 범죄로 인해 주요 기술 기업들은 보안 조치를 대폭 강화해야 했습니다. 사이버 범죄자들이 언뜻 보기에 무해해 보이는 메시지, 광고, 연락처를 통해 계정, 은행 정보 등을 탈취하거나 유명 브랜드를 사칭하려는 시도가 점점 더 흔해지고 있습니다.
이와 관련하여 메타 차세대 보안 전략을 통해 안보 전략을 강화하고 있습니다. 페이스북, 왓츠앱, 메신저에 사기 방지 AI 적용접근 방식은 명확합니다. 사용자가 함정에 빠지기 전에 경고하고, 악성 콘텐츠에 노출되는 것을 최소화하며, 플랫폼에서 활동하는 사기꾼들이 최대한 활동하기 어렵게 만드는 것입니다.
메타에서 발생하는 사기를 사전에 방지하는 사기 방지 AI
Meta는 여러 기능을 결합한 일련의 기능을 배포하고 있습니다. 기기 자체의 인공지능과 원격 서버에서의 분석이러한 아키텍처는 한편으로는 WhatsApp 및 Messenger와 같은 서비스에서 종단 간 암호화를 준수하는 동시에, 다른 한편으로는 사용자가 검토를 위해 특정 의심스러운 콘텐츠를 전송하기로 결정했을 때 고급 탐지 기능을 추가로 제공합니다.
이 도구들은 분석이 가능한 모델에 의존합니다. 텍스트, 이미지, 링크 및 행동 패턴목표는 유명인의 얼굴을 허가 없이 사용하는 사기성 광고부터 인증 코드를 요구하는 "기술 지원" 메시지, 그리고 피해자의 신뢰를 얻으려는 가짜 계정의 친구 요청까지 모든 것을 식별하는 것입니다.
회사에서 공개한 자료에 따르면 문제는 결코 사소하지 않습니다. Meta는 다음과 같은 주장을 하고 있습니다. 조직적인 사기 네트워크와 관련된 수백만 개의 계정과 광고를 마비시켰습니다. 페이스북, 인스타그램, 왓츠앱 등에서 발생하며, 일부 사례에서는 여러 국가에 퍼져 있는 실제 사기 조직과 연관되어 있습니다.
이러한 기술적 공세는 인공지능(AI)과 함께 인간 검토팀이 협력하여 모델을 실제 사례로 학습시키고, 의심스러운 콘텐츠 분류 오류 가능성을 줄이는 데에도 의존합니다.
WhatsApp: 계정 탈취 및 의심스러운 그룹으로부터 보호하는 방화벽
의 경우 WhatsAppMeta의 사기 방지 AI는 특히 흔한 공격 유형 몇 가지에 집중합니다. 기기 연결을 통한 계정 탈취정체를 알 수 없는 집단에서 발생하는 기술 지원 사기 및 기만 행위.
새로운 주요 기능 중 하나는 시스템입니다. 누군가가 인식되지 않은 기기에 계정을 연결하려고 시도할 때 경고 메시지가 표시됩니다.의심스러운 요청이 감지되면 앱은 시도가 시작된 위치와 같은 정보를 표시하고 사기일 가능성이 있다는 명확한 경고를 보여줍니다. 이를 통해 사용자는 제3자가 대화에 완전히 접근하기 전에 프로세스를 중단할 수 있습니다.
AI는 또한 다음과 같은 상황에 개입합니다. 알 수 없는 연락처와의 영상 통화 중 화면 공유이러한 위험 패턴이 감지되면 시스템은 자동으로 경고를 표시합니다. 이는 많은 "기술 지원" 사기가 사용자의 화면을 실시간으로 관찰하여 은행 계좌 정보, 일회용 코드 또는 기타 특히 민감한 정보를 탈취하는 수법에 의존하기 때문입니다.
또한, 사용자들이 구성원에 대해 잘 알지 못한 채 가입하는 그룹들은 이제 다음과 같은 사실을 보여줍니다. 예방 안전 패널이 패널은 그룹에 대한 세부 정보, 사기 시도 감지 요령, 그리고 상호 작용 없이 나갈 수 있는 옵션을 제공하며, 사용자가 계속 참여하기를 원한다고 확인할 때까지 알림을 음소거합니다.
Meta도 테스트 중입니다. 주소록에 없는 번호로 채팅을 시작할 때 상황에 맞는 알림을 표시합니다.시스템이 피싱, 가짜 투자 또는 불분명한 금전 요구와 같은 전형적인 징후를 감지하면 극도의 주의를 기울일 것을 권고하며, 몇 번의 터치만으로 차단하거나 신고할 수 있는 기능을 제공합니다.
페이스북: 친구 요청 및 가짜 "지원" 페이지 정밀 조사
En Facebook사기 방지 AI는 크게 두 가지 방향으로 나뉩니다. 의심스러운 친구 요청 또한 고객 서비스 부서나 유명 브랜드를 사칭하는 웹사이트도 있습니다.
친구 요청을 받으면 플랫폼은 다음과 같은 위험 요소를 감지할 경우 경고를 표시할 수 있습니다. 공통 친구가 매우 적은 계정, 최근에 생성된 프로필, 사용자의 네트워크와 일치하지 않는 지리적 위치, 또는 봇 네트워크와 관련된 패턴과 일치하는 행동 등이 이에 해당합니다. 이러한 방식으로 사용자는 요청을 수락할지, 무시할지, 차단할지 더 잘 판단할 수 있습니다. 사기꾼이 들어올 가능성이 있는 사람에게 문을 열어주기 전에.
또 다른 중요한 초점은 다음과 같습니다. 가짜 지원 페이지 및 계정 이러한 사이트들은 계정 복구나 문제 해결을 위해 도움을 요청하는 사용자들을 속이려는 사기 사이트들입니다. 메타는 이러한 사이트 수만 곳에 대해 조치를 취했다고 밝혔는데, 이 사이트들은 일반적으로 로그인 자격 증명, 신분증 또는 "복구 과정을 신속하게 처리해 준다"는 명목의 금전적 요구를 했습니다.
또한 회사는 다음과 같은 메커니즘을 강화하고 있습니다. 광고주 검증 및 사기성 광고 탐지여기에는 유명인, 사업가 또는 공인의 이미지를 허가 없이 사용하는 경우가 포함됩니다. AI는 얼굴을 비교하여 가짜 투자, 존재하지 않는 프로모션 또는 출시되지 않은 제품을 합법화하기 위해 반복적으로 사용되는 조작을 식별합니다.
이 점은 스페인을 비롯한 유럽의 기업과 콘텐츠 제작자들에게 특히 민감한 사안인데, 광고에 사용되는 요소들이 있기 때문입니다. 기업가나 지역 유명 인사의 이미지를 이용하여 피해자를 유인하는 행위이는 회복하기 어려운 혼란과 평판 손상을 초래합니다.
메신저: 사용자가 설정 가능한 사기 탐지 기능
페이스북과 연동된 메시징 앱 전령는 특정 기능을 포함합니다. “사기 탐지”개인정보 및 보안 설정에서 이용 가능한 이 옵션은 알 수 없는 연락처에서 시작된 대화를 더욱 자세히 분석합니다. 활성화되면 이 기능을 통해 대화 내용을 더욱 심층적으로 분석할 수 있습니다.
AI는 다음에 초점을 맞춥니다. 가짜 제안의 특징적인 패턴여기에는 선불금을 요구하는 원격 근무 제안, 수익 보장 투자, 급하게 돈을 요구하는 메시지, 유명 기업의 고객 지원 담당자를 사칭하려는 시도 등이 포함됩니다. 시스템이 비정상적인 상황을 감지하면 위험 유형을 알려주는 경고를 표시하고 발신자를 차단하거나 신고하도록 제안합니다.
사용자가 명시적으로 승인한 경우, 표시된 메시지는 건별로 전송될 수 있습니다. 심층적인 AI 분석을 위한 메타 서버이 단계는 해당 특정 콘텐츠에 대해서만 종단 간 암호화를 일시적으로 해제하는 것으로, 각 사용자는 위험 감수 수준과 개인정보 보호에 대한 우려를 고려하여 결정해야 합니다.
이와 동시에 메신저는 시스템을 개선해왔습니다. 링크 보호이미 기기 자체에서 URL을 분석하던 안전 브라우징 기능은 이제 고급 보호라는 추가 계층을 활용합니다. 지속적으로 업데이트되는 목록 위험한 사이트로부터 보호해 줍니다. 이 디자인은 사용자의 신원이나 전체 검색 기록을 노출하지 않고 피싱 페이지나 악성코드 다운로드에 대한 접근을 차단하는 것을 목표로 합니다.
메신저를 주요 채널로 사용하는 지원, 영업 또는 고객 서비스 팀에게 이러한 개선 사항은 다음과 같은 의미를 갖습니다. 자사 브랜드를 노리는 사기 행위에 대한 추가적인 방어벽 이는 그들이 매일 상호작용하는 사용자들에게 다소 더 안전한 환경을 제공하기 위함입니다.
내부에 숨겨진 인공지능
Meta의 새로운 보안 기능은 두 가지 상호 보완적인 접근 방식을 결합한 하이브리드 아키텍처를 기반으로 합니다. 첫 번째는 다음과 같습니다. 기기 분석이 서비스는 사용자의 휴대폰이나 컴퓨터에서 직접 작동하며, 위험 패턴을 감지하기 위해 외부 서버로 콘텐츠를 전송할 필요가 없으므로 종단 간 암호화를 준수합니다.
이 지역 분석은 다음과 같은 신호에 초점을 맞춥니다. 저장되지 않은 번호로부터 메시지 수신여기에는 낯선 사람과 화면을 공유하려는 시도, 계정 활동의 갑작스러운 변화, 또는 이전 사기 신고와 일치하는 링크의 출현 등이 포함됩니다. 기기 자체에서 작동함으로써 외부로 전송되는 데이터 양이 줄어들어 즉각적인 1차 방어선 역할을 합니다.
두 번째 레이어는 사용자가 선택할 때 활성화됩니다. 클라우드 기반 AI를 사용하여 검토를 위해 콘텐츠를 전송하세요이 경우, 신고된 메시지나 항목은 Meta의 시스템에서 처리되며, 이 시스템은 보다 복잡한 모델을 사용하여 발생한 상황이 알려진 사기 유형에 부합하는지 평가합니다. 분석 결과 위험이 있다고 판단되면 플랫폼은 잠재적 사기에 대한 설명을 표시하고 구체적인 조치를 권장합니다.
회사 측은 인공지능 외에도 다른 기술들이 있다고 강조합니다. 하루에 수백만 건의 콘텐츠를 검토하는 인간 콘텐츠 검토팀이러한 인간적인 요소 덕분에 모델을 정교하게 다듬고, 가장 민감한 사례를 관리하며, 단순한 개별 메시지를 넘어선 대규모의 조직적인 캠페인을 해체할 수 있습니다.
이러한 전체 메커니즘은 악성 도메인, 가짜 계정 네트워크 및 범죄 조직이 사용하는 새로운 전술에 대한 정보를 공유하기 위해 보안 기관 및 기술 부문의 다른 주체들과의 협약으로 보완됩니다.
Meta의 AI가 막으려고 하는 주요 사기 유형
메타 플랫폼은 다음과 같은 것들이 번성하는 온상입니다. 다양한 디지털 사기새로운 도구는 스페인과 유럽의 사용자를 대상으로 하는 다음과 같은 일반적인 사기 유형을 탐지하고 차단하도록 설계되었습니다.
- 가짜 기술 지원 사기: 은행 고객 지원 서비스, 운영자 또는 심지어 Meta 자체를 사칭하여 인증 코드, 비밀번호 또는 기기 원격 접속 권한을 요구하는 사람들이 있습니다.
- 화면 공유 사기: 사기범은 영상 통화를 통해 피해자를 설득하여 화면을 보여주도록 한 후, 은행 계좌 정보, 일회용 코드가 포함된 SMS 메시지 또는 온라인 뱅킹이나 결제 게이트웨이와 같은 서비스 접속 정보를 빼냅니다.
- 존재하지 않는 취업 제안 및 장학금: 쉬운 일자리나 고수익 일자리를 약속하며 "시술" 명목의 선불금을 요구하거나 민감한 개인 정보를 제공하는 행위.
- 투자 계획 및 암호화폐: 빠르고 확실한 수익을 약속하는 캠페인은 유명인이나 유명 사업가를 무단으로 이용하는 경우가 많습니다.
- 피싱 및 악성 링크: 합법적인 포털(은행, 전자상거래 플랫폼, 공공 서비스 등)을 모방한 URL로, 사용자의 계정 정보를 탈취하거나 기기에 악성 소프트웨어를 설치하는 데 사용됩니다.
자동 모니터링, 위험 사이트 블랙리스트, 사용자 신고 메커니즘의 조합을 통해 다음과 같은 것이 가능해집니다. 이 시스템은 이러한 사기 수법의 새로운 변형에 빠르게 적응합니다.이러한 미생물들은 쉽게 발견되지 않도록 변이하는 경우가 많습니다.
메타에 의존하는 사용자, 기업 및 창업자에게 미치는 영향
새로운 AI 기반 사기 방지 기능은 일반 사용자를 보호하는 것 외에도 다음과 같은 직접적인 영향을 미칩니다. 페이스북, 왓츠앱, 메신저를 기본 인프라로 사용하는 기업들 영업, 고객 서비스 또는 커뮤니티 구축 분야에서.
한편으로, 기업이 고객과 소통하기 위해 WhatsApp Business나 Messenger를 사용하는 경우, 시스템이 해당 메시지를 의심스러운 것으로 인식할 경우 경고가 발생할 수 있습니다.예를 들어, 많은 링크를 포함하거나 민감한 데이터를 요청하는 경우입니다. 따라서 오탐을 최소화하고 청중의 신뢰를 유지하기 위해 스크립트, 어조 및 빈도를 검토해야 합니다.
반면, 특히 민감한 분야의 스타트업들, 예를 들어 핀테크, 디지털 헬스케어 또는 법률 서비스이러한 도구들을 통해 그들은 분명한 신호를 발견합니다. 바로 AI 기반 보안이 더 이상 "부가적인 기능"이 아니라 중요한 데이터를 처리하는 모든 제품이나 서비스에서 최소한으로 기대해야 할 요소라는 것입니다.
메타가 다른 기술 기업 및 공공 기관과의 협력을 확대함에 따라 다음과 같은 기회도 열립니다. 사이버 보안 전문 기업을 위한 새로운 기회이러한 기업들은 자사의 솔루션을 대형 플랫폼의 위협 탐지 생태계와 통합하거나 소규모 기업에 컨설팅 서비스를 제공할 수 있습니다.
궁극적으로 이러한 조치의 효과는 사용자와 조직 모두가 모범 사례를 채택하는 데 달려 있습니다. 즉, 사용 가능한 사기 방지 기능을 활성화하고, 앱을 최신 상태로 유지하고, 스팸 메시지에 주의하고, 의심스러운 행동을 신고하여 탐지 시스템에 정보를 제공하는 것이 중요합니다.
새로운 시행과 함께 페이스북, 왓츠앱, 메신저에서 사기 방지 AI메타는 사기꾼들이 활동하기는 다소 어렵고, 개인 사용자부터 이러한 플랫폼을 사업 활동의 핵심으로 삼는 기업에 이르기까지 매일 서비스를 이용하는 모든 사람에게 조금 더 안전한 디지털 환경을 조성하는 데 중요한 발걸음을 내딛고 있습니다.
