기업에서 생성형 인공지능(Gen IA)의 빠른 도입은 프로세스를 재정의하고, 혁신을 가능하게 하며, 자동화를 촉진하고 있습니다. 블룸버그 인텔리전스의 최근 연구에 따르면, 향후 10년 동안 인공지능의 성장률은 연평균 42%에 달할 것으로 예상되며, 이는 그 범위를 거의 두 배로 늘리는 것입니다. 그러나 이러한 솔루션의 성공은 이러한 모델을 지원하는 데이터의 신중한 관리에 달려 있습니다. 여기서 사이버 보안이 중요한 역할을 합니다. 이는 개인 정보 보호와 정보의 무결성을 위한 필수 요소입니다.
생성형 인공지능은 단순히 행동을 분류하거나 예측하는 전통적인 인공지능 모델을 넘어, 텍스트, 이미지, 코드와 같은 새로운 콘텐츠를 만들어냅니다. 이러한 혁신 능력은 다양한 분야에서 새로운 가능성을 열어주지만, 데이터의 사용과 보안에 대해 신중한 접근이 필요하며, 이는 일상에서 기술을 사용하는 사람들에 의해 인식되고 있습니다. Stack Overflow의 2024 개발자 설문조사에 따르면, 인공지능과 함께 일하는 주요 과제 중 하나(31.5%)는 보안 위험을 완화하기 위한 적절한 정책이 없다는 것입니다.
이와 같은 맥락에서,기술 제품 관리자조앙 바티스타는 Zup의 StackSpot AI 플랫폼 책임자로서, 이러한 위험을 완화하기 위해 기업들은 점점 더 정교해지고 있는 사이버 범죄에 대비하여 엄격한 보안 조치를 시행해야 하며, 사이버 보안 연감에 따르면 2025년까지 10조 5천억 달러의 비용이 들 수 있다고 설명합니다.
인공지능 모델이 안전하고 윤리적으로 작동하도록 보장하는 것은 강력한 암호화, 효과적인 데이터 거버넌스, 엄격한 프라이버시 관행, 그리고 모델 훈련 동안 제한된 접근 제어를 결합하는 다면적 접근 방식을 필요로 합니다. 기술을 개발하는 기업을 대상으로 할 때, 보안에 대해 훈련된 AI 기반 소프트웨어 개발 도우미는 팀이 안전한 코딩 관행을 따르도록 지원할 수 있습니다. 예를 들어, 이는 취약점 식별을 위한 예측 메커니즘입니다. 점점 더, 혁신, 보안, 데이터 보호를 삼위일체로 고려하는 공동 전략이 이러한 기술의 적용에 필수적이라는 방향으로 나아가고 있습니다,”라고 João Batista는 강조합니다.
법률과 관련하여, Contraktor의 공동 창립자이자 스타트업의 CK Reader 인공지능 개발 책임자인 Henrique Flôres는 "생성형 인공지능의 사용을 더 잘 규제하기 위한 법률을 기다리는 동안, 기술 전문가들은 암호화, 데이터 익명화 및 IT 거버넌스 정책의 모범 사례를 준수하여 당사자 간의 상업적 이익의 균형, 알고리즘 훈련 메커니즘의 투명성, 데이터 조작의 윤리적 사용을 보장하는 것이 책임입니다"라고 설명합니다.
비록 생성 인공지능과 같은 신기술을 통한 혁신이 독특한 변화의 기회임을 인정하지만, Rethink의 CPO인 Giovanna Rossi는 민감한 정보 노출과 정교한 사이버 공격 가능성과 같은 상당한 위험이 수반된다는 점을 부인할 수 없다고 강조한다. 디지털 제품 담당자로서, 저는 리더십이 이러한 위험을 완화하기 위해 인공지능 사용에 있어 전략적 접근 방식을 우선시하는 것이 얼마나 중요한지 보고 있습니다. 우리는 이 기술을 윤리적이고 안전하게 형성할 책임이 있으며, 그 영향이 모두에게 긍정적이고 지속 가능하도록 보장해야 합니다라고 임원이 말했습니다.
브라질은 인터넷에서 많은 양의 데이터가 유통되고 있으며 디지털화가 가속화되고 있는 과정에 있습니다. 브랜드 보호와 관련하여, 디에고 다미넬리(Diego Daminelli) 브랜드모니터(BrandMonitor) CEO는 디지털 환경에서 불공정 경쟁과 싸우는 선구자이자 전문가로서, 브라질의 보안 인프라가 아직 느리게 발전하고 있어 나라가 세계에서 가장 많은 사이버 공격 대상 중 하나가 되고 있으며, 범죄자들의 공격이 더욱 정교해지고 있다고 경고합니다. 보안 문화는 여전히 여러 기업에서 중요하게 여겨지지 않는 주제이며, 이들은 인공지능이 아닌 구식 기술을 사용하여 공격에 취약하게 만들고 브랜드의 디지털 존재를 전반적으로 모니터링할 수 없습니다.
전문가는 예를 듭니다피싱소매 및 서비스 제공과 같은 분야에 큰 문제입니다. “Os anúncios são veiculados em plataformas digitais utilizando toda a identidade de uma marca e prometendo descontos impraticáveis. Esse anúncio leva a uma pagina que imita o layout oficial da empresa, mas com um endereço diferente. Nessa página são oferecidos produtos ou serviços com um preço extremamente baixo, induzindo o cliente a compra”, finaliza
