최근 사이버 보안의 주요 트렌드를 분석하고 CISO들이 조직 내에서 생성형 인공지능의 안전한 여정을 가능하게 하기 위해 취해야 할 조치를 안내하는 Gartner 보안 및 위험 관리 서밋에 참석한 전문가들은 이 새로운 기술이 추가적인 주의와 새로운 사이버 보안 자원의 개발을 요구하며, 사이버 보안 투자 규모가 최대 15%까지 증가할 수 있음을 지적했습니다.
이 주제에 대해 Gartner의 수석 분석가인 리차드 애디스콧은 CISO들이 프롬프트 또는 오케스트레이션 계층과 같은 새로운 공격 표면을 통합하기 위해 애플리케이션 및 데이터 보안 관행을 업데이트해야 하며, 이를 통해 AI 모델을 도구화해야 한다고 설명했습니다.
스톤 에이지의 헤드인 페르난도 기마랑이스에게, TIVIT의 신용 및 사기 방지 사업 부서의 수직 부서인 그는, 추정치는 보수적일 수 있는데, 이는 생성 AI를 사용하는 애플리케이션을 보호해야 할 필요성 외에도, 점점 더 생성 AI가 사기 방지 도구에 통합될 경향이 있기 때문입니다. 생성 AI의 이점은 의심할 여지 없으며 엄청난 성장 잠재력을 가지고 있지만, 이러한 이점은 사이버 보안에 대한 주의와 투자가 함께 이루어져야 합니다."순이익은 대부분의 경우 매우 긍정적일 것이지만, 공짜 점심은 없다"고 Guimarães는 말한다.
이 움직임은 TIVIT이 자사의 솔루션에 개발한 생성 인공지능 솔루션인 아테나(Athena)를 통합하여 Stone Age 자체가 수행했다고 언급합니다. 2024년 초, 기술이 온보딩 및 판매 프로세스의 신원 확인에 중점을 둔 제품인 Identify에 새로운 기능으로 제공되기 시작했습니다.
작년 12월 TIVIT에 의해 출시된 Athena는 Identify가 자동으로 30초 만에 계약서의 데이터를 스마트하게 읽는 것 등 여러 기능을 수행할 수 있게 합니다. 또한 이러한 문서에서 구조화된 정보를 추출하여 즉시 협력적 통찰력으로 전환하여 더 효과적이고 신속한 의사 결정을 가능하게 하는 데이터 흐름을 지원합니다.
기마랑스는 아테나 도입이 아이덴티파이에게 새로운 기능을 제공하여 도구 사용의 여정을 훨씬 더 완전하게 만든다고 언급했습니다. 실제로 그는 현재 회사가 2.0 버전을 갖추고 있어 수작업 개입을 줄이고 의사 결정의 정확성을 높이며 비용 절감에 기여하는 등 운영 효율성을 향해 나아가고 있다고 말했습니다. 또한 더 작은 고객 서비스 및 분석 팀으로 작업할 수 있는 가능성도 있다고 덧붙였습니다.
이러한 유형의 이익은 시장의 다양한 다른 솔루션에도 확산될 수 있다고 믿습니다. 따라서, 생성 AI가 사이버 보안에 가져오는 이점을 고려할 때, 이 기술의 사용을 확대하기 위한 투자 증가는 충분히 정당화됩니다.라고 결론지었습니다.
보다 안전하게 인공지능을 사용하는 대안은 기업의 필요에 맞게 맞춤화할 수 있는 솔루션을 사용하는 것입니다. 다니엘 갈란테(TIVIT CCO 및 CPO)에 따르면 AI는 프로세스와 기업을 더 민첩하게 만들기 위해 왔지만, 매우 정확하게 활용하는 것이 필요합니다. “상상해보세요, 중요한 고객을 담당하는 대형 로펌이 있고, 모든 변호사들이 고객과 사건 데이터를 100% 공개된 환경에 입력하는 상황을. 이로 인해 데이터가 일반 대중에게 노출되어 큰 문제가 발생할 수 있습니다. 이를 해결하는 방법 중 하나는 Athena와 같은 맞춤형 생성 AI를 사용하는 것인데, 고객이 어떤 데이터베이스를 참조할지 선택하고, 모든 데이터를 미리 정해진 장소에만 노출시키며, 접근 권한을 엄격히 제한하는 방식입니다. 이것이 AI를 활용하는 가장 좋은 방법으로, AI의 신속성을 활용하면서도 이러한 프로세스에 필요한 보안을 확보할 수 있습니다”라고 Galante는 말했습니다.
