유명 인사가 사회적 원인을 위해 재정적 도움을 요청하는 완벽한 음성 메시지를 받거나, 유명한 상점과 똑같은 사이트에서 놓칠 수 없는 할인 혜택을 제공하는 것을 상상해 보세요. 이것들은 범죄자들이 인공지능(AI)을 통해 매일 수백만 브라질 사람들을 속이기 위해 채택하는 정교한 전술 중 일부에 불과합니다.
브랜드모니터 플랫폼에서 2023년 3월부터 5월까지 실시된 조사에 따르면, 추적된 628개 브랜드 중 529개가 의심스러운 도메인 공격을 받았으며, 405건에서는 사기 행위가 포함된 가짜 사이트가 등장한 것으로 나타났습니다. 가장 영향력 있는 50개 브랜드는 단 90일 만에 평균 86개의 가짜 도메인을 생성한 것으로 나타났습니다. 미래를 변화시키겠다고 약속하는 기술이 지금은 사기를 정교하게 만들어 디지털 전염병을 일으켜 소비자와 기업을 최대 경계 상태에 놓이게 하고 있습니다.
AI에 의해 촉진된 디지털 사기의 성장을 이끄는 주요 원인 중 하나는 그 다재다능함으로, 채택할 수 있는 산업과 용도에 제한이 없습니다. 디지털 공격의 다양성에도 불구하고 모두 공통된 단계가 있습니다:
- 데이터 수집범죄자들은 유출, 피싱, 악성코드를 통해 소비자와 기업의 개인 및 금융 정보를 얻습니다.
- AI 훈련수집된 데이터를 바탕으로 인공지능은 행동 패턴을 식별하고 인간의 언어를 설득력 있게 모방하도록 훈련됩니다.
- 실행AI는 가짜 프로필을 만들고, 맞춤형 메시지를 보내며, 온라인 활동을 시뮬레이션하여 피해자를 속이는 사기를 자동화합니다.
2023년 TransUnion이 실시한 글로벌 옴니채널 디지털 사기 동향 조사에 따르면, 2019년 이후 전 세계적으로 디지털 사기 시도가 80% 증가했습니다. 이러한 사기 행위는 인공지능과 결합될 때 사용자에게 더욱 정교하고 설득력 있게 변합니다. 브라질에서는 2024년 상반기에 80만 건의 사기 시도가 기록되었습니다.
브라질의 사기 사례
아니요라쿤마켓예를 들어, 범죄자들은 로봇이 생성한 사진과 긍정적인 평가를 포함한 가짜 프로필을 만들어 구매자들이 사기 거래를 하도록 유도한다. 이미 차량 공유 서비스 회사에서도우버와 a99 택시AI는 유령 여행을 시뮬레이션하는 데 사용되어 고객에게 부당한 청구를 하고 사기꾼들에게 불법적인 이익을 창출합니다.
비록 가능성은 다양하지만, 일부 디지털 사기 형식은 사용자에게 더 잘 알려져 있습니다.
- 피싱 메시지 개인화AI는 구매 이력, 관심사, 온라인 행동과 같은 피해자에 대한 데이터를 분석하여 매우 타겟화된 메시지를 생성합니다. 이 맞춤화는 메시지가 합법적이고 수신자에게 관련성이 있어 보이기 때문에 사기를 식별하는 것을 어렵게 만듭니다.
- 가짜 가상 비서가짜 챗봇은 사람들로 하여금 은행 정보나 비밀번호와 같은 민감한 정보를 제공하게 만듭니다. 인공지능은 이러한 도우미들이 자연스럽게 응답하고 사용자 질문에 적응할 수 있게 하여 더 설득력 있게 만듭니다;
- 딥페이크와 음성 조작AI는 진짜처럼 보이는 가짜 영상이나 오디오인 딥페이크를 만드는 데 사용됩니다. 이 기술은 특히 선거와 같은 맥락에서 허위 정보의 확산이 상당한 영향을 미칠 수 있기 때문에 점점 더 우려되고 있습니다. 올해 2월, 상원 선거 법원은 캠페인에서 인공지능 사용을 제한하기로 결정했습니다.
정보와 교육은 디지털 사기에 대한 보호에 필수적입니다. 사용자들은 이러한 사기꾼들의 행동 방식을 더 잘 인식해야 하며, 이를 통해 자신의 결정에 대한 통제력을 높이고 사기와 그로 인한 모든 혼란을 피할 수 있어야 합니다.
또한, 인공지능에 의해 촉진된 디지털 사기의 범위를 더 잘 이해하기 위해서는 이러한 행위의 영향을 보여주는 구체적인 사례를 분석하는 것이 중요합니다. 브라질의 대기업들이 관련된 몇 가지 대표적인 사례는 이러한 조직들이 정교한 사기의 대상이 되었음을 보여주며, 소비자와 브랜드 자체의 취약점을 이용한 사례를 드러냅니다:
- 메르카도 리브레범죄자들은 인공지능을 이용해 가짜 프로필을 만들고, 로봇이 생성한 사진과 긍정적인 평가를 통해 구매자들이 존재하지 않는 판매자와 거래하도록 유도합니다. 또한, 인공지능을 사용하여 가짜 제품 광고를 만들어 구매자를 유인하고 개인 및 금융 정보를 수집합니다.
- 반스범죄자들은 가짜 사이트를 만들어 Vans 제품을 비현실적인 할인 가격에 판매하며, 인공지능을 사용해 이 사이트들을 개인화하여 소비자를 속이고 있습니다.
- 플뢰리AI를 이용한 피싱 사기가 그룹 플레리 직원들을 속여 민감한 데이터 유출이 발생했습니다.
- ENEM 2024가짜 사이트가 Enem 참가자 페이지를 모방하여 여러 사용자가 1인당 약 85헤알의 시험 응시료를 지불하게 만들었습니다.
- 스타링크일론 머스크의 SpaceX 위성 인터넷 회사는 끊임없이 사기와 사기의 희생이 되고 있습니다. 우리의 일일 모니터링 순위에서 스타링크와 관련된 의심 도메인 523개를 발견했으며, 그중 152개는 활성 상태입니다. 회사에 대한 불만의 약 44%는 가짜 사이트와 관련이 있습니다.
IA는 또한 방어 도구입니다
인공지능은 사기에 사용될 수 있을 뿐만 아니라 이를 방지하는 강력한 동반자이기도 합니다. 고급 기술을 소유하는 것뿐만 아니라 패턴 감지 및 행동 분석의 정교한 기법을 통해 이를 효과적으로 적용하는 것의 중요성을 인식하는 것이 필수적입니다.
브라질에서 인공지능에 의해 촉진된 디지털 사기 유행은 지속적인 주의와 기업, 정부, 소비자 간의 협력된 조치를 요구하는 점점 더 커지는 도전 과제입니다. 정보, 교육, 그리고 기술의 스마트한 활용만이 이 디지털 범죄의 물결을 막고 우리의 데이터와 미래를 지킬 수 있습니다.
