브라질 기업들은 이미 인공지능을 사업 전략에 도입했습니다. 2024년 말 조사에 따르면 최소 98%에 달하는 기업들이 인공지능을 도입했습니다. 그러나 문제는 AI 도입을 준비했다고 밝힌 기업이 25%에 불과하다는 것입니다. 나머지 기업들은 인프라 부족, 데이터 관리, 전문 인력 부족 등의 어려움을 겪고 있습니다. 하지만 이것이 나머지 75%가 프로젝트 추진을 위한 최적의 환경을 기다리고 있다는 것을 의미하는 것은 아닙니다. 오히려 이러한 기업들은 AI 기술을 지속적으로 도입하고 있습니다.
문제는 Qlik이 ESG와 협력하여 최근 발표한 글로벌 보고서에 따르면, 5개 기업 중 1개 기업만이 AI를 비즈니스에 통합할 수 있다는 것입니다. 더 나아가, 데이터 거버넌스 정책을 시행하고 있다고 보고한 기업은 47%에 불과합니다. 이 수치는 전 세계적인 추세이며, 브라질 통계는 이보다 더 높을 가능성도 있습니다. AI가 현재 사일로 방식으로 적용되고 있으며, 이 기술의 "진입점"이 대개 고객 서비스임에도 불구하고, 재무, 규제 및 평판 관련 위험은 여전히 존재합니다.
적절한 준비 없이 AI를 구현하기로 선택한 기업은 많은 어려움에 직면합니다. 사례 연구에 따르면, 제대로 관리되지 않은 알고리즘은 편견을 심화시키거나 개인정보를 침해하여 평판과 재정적 손실을 초래할 수 있습니다. AI 거버넌스는 단순히 기술적 문제일 뿐만 아니라 실행 및 실사의 문제이기도 합니다. 명확한 전략이 없으면 기회와 함께 위험도 증가합니다. 개인정보 침해 및 데이터 오용부터 불신을 유발하는 불투명하거나 편향된 자동화된 의사 결정까지 발생할 수 있습니다.
규제 압력과 규정 준수: AI 거버넌스의 기반
AI 거버넌스를 구축해야 할 필요성은 비즈니스 측면에서만 발생한 것이 아닙니다. 브라질을 포함하여 새로운 규정이 등장하고 있으며 진전이 빠르게 이루어지고 있습니다.
2024년 12월, 연방 상원은 책임 있는 사용에 대한 지침을 포함한 AI 규제 체계를 제안하는 법안 2338/2023을 승인했습니다. 이 법안은 유럽 연합과 유사한 위험 기반 접근법을 채택하여 AI 시스템 을 기본권 침해 가능성에 따라 분류합니다. 자율 무기 알고리즘이나 대규모 감시 도구와 같이 과도한 위험을 초래하는 애플리케이션은 금지되며 , 생성 및 범용 AI 시스템은 시장에 출시되기 전에 사전 위험 평가를 거쳐야 합니다.
투명성 요건도 있는데, 예를 들어 개발자는 모델 학습 시 저작권이 있는 콘텐츠를 사용했는지 여부를 공개해야 합니다. 동시에, 기존 데이터 보호 프레임워크를 활용하여 국가 데이터 보호 기관(ANPD)에 국가 AI 거버넌스 조정의 중심 역할을 부여하는 방안도 논의되고 있습니다. 이러한 입법 조치는 기업들이 AI 개발 및 활용과 관련하여 보고 관행, 위험 완화, 알고리즘 영향 설명 등 명확한 의무를 곧 갖게 될 것임을 시사합니다.
미국과 유럽에서는 규제 기관들이 알고리즘에 대한 감독을 강화했는데, 특히 생성적 AI 도구의 대중화로 인해 대중의 논쟁이 촉발된 이후 더욱 그렇습니다. AI ACT는 이미 EU에서 발효되었으며, 고위험 AI 시스템 및 범용 AI 모델에 대한 요건을 포함하여 표준의 대부분의 의무 사항이 적용되는 2026년 8월 2일에 시행이 종료될 예정입니다.
투명성, 윤리 및 알고리즘 책임
AI 거버넌스는 법적인 측면을 넘어, 단순한 "법률 준수"를 넘어서는 윤리 및 책임 원칙을 포괄합니다. 기업들은 고객, 투자자, 그리고 사회 전체의 신뢰를 얻으려면 AI 사용 방식에 대한 투명성이 필수적임을 인지하고 있습니다. 이를 위해서는 알고리즘 영향에 대한 사전 평가, 엄격한 데이터 품질 관리, 그리고 독립적인 모델 감사와 같은 일련의 내부 관행을 도입해야 합니다.
수집된 정보에 내재되어 있을 수 있는 차별적 편견을 피하기 위해 훈련 데이터를 신중하게 필터링하고 선택하는 데이터 거버넌스 정책을 구현하는 것도 중요합니다.
AI 모델이 작동하기 시작하면 기업은 알고리즘에 대한 주기적인 테스트, 검증 및 감사를 수행하고, 결정 사항과 사용된 기준을 문서화해야 합니다. 이러한 기록은 두 가지 이점을 제공합니다. 시스템 작동 방식을 설명하고, 오류 또는 부적절한 결과 발생 시 책임을 질 수 있도록 합니다.
거버넌스: 경쟁력 있는 가치를 지닌 혁신
AI 거버넌스가 혁신을 제한한다는 것은 흔한 오해입니다. 오히려, 효과적인 거버넌스 전략은 안전한 혁신을 가능하게 하고 AI의 잠재력을 책임감 있게 최대한 발휘할 수 있도록 합니다. 거버넌스 프레임워크를 조기에 구축하는 기업은 문제가 발생하기 전에 위험을 완화하여 프로젝트 지연을 초래할 수 있는 재작업이나 스캔들을 방지할 수 있습니다.
결과적으로 이러한 조직들은 이니셔티브를 통해 더 큰 가치를 더 빠르게 창출합니다. 시장 증거는 이러한 상관관계를 뒷받침합니다. 한 글로벌 설문 조사에 따르면, AI 거버넌스에 대한 적극적인 리더십을 갖춘 기업들은 고급 AI 활용을 통해 더 우수한 재무적 효과를 보고하는 것으로 나타났습니다.
더욱이 우리는 소비자와 투자자들이 기술의 윤리적 사용에 대해 점점 더 인식하고 있는 시대에 살고 있으며, 이러한 거버넌스에 대한 헌신을 보여주는 것이 회사를 경쟁사와 차별화할 수 있는 방법이 될 수 있습니다.
실질적으로 성숙한 거버넌스를 갖춘 조직은 보안뿐만 아니라 개발 효율성도 향상되었다고 보고합니다. 경영진은 초기 단계부터 명확한 기준을 적용하여 AI 프로젝트 주기를 단축했다고 강조합니다. 즉, 설계 단계 초기에 개인정보 보호, 설명 가능성, 품질 요건을 고려하면 나중에 비용이 많이 드는 수정 작업을 피할 수 있습니다.
따라서 거버넌스는 지속 가능한 혁신을 위한 지침 역할을 하며, 어디에 투자하고 어떻게 책임감 있게 솔루션을 확장할 것인지를 안내합니다. 또한 AI 이니셔티브를 회사의 기업 전략 및 가치와 연계함으로써, 거버넌스는 혁신이 고립되거나 잠재적으로 해로운 방향으로 나아가는 것이 아니라, 항상 더 큰 사업 목표와 평판 구축에 기여하도록 보장합니다.
AI 거버넌스 전략 수립은 무엇보다도 경쟁 우위를 확보하기 위한 전략적 조치입니다. 국가와 기업이 기술 경쟁에 갇힌 오늘날의 생태계에서, 자신감과 신뢰성을 바탕으로 혁신하는 기업이 앞서 나갑니다. 효율적인 거버넌스 시스템을 구축하는 대기업은 위험 완화와 AI의 이점 극대화 사이에서 균형을 유지할 수 있으며, 둘 중 하나를 희생하지 않습니다.
마지막으로, AI 거버넌스는 더 이상 선택 사항이 아닌 전략적 필수 사항입니다. 대기업의 경우, 거버넌스 전략을 수립한다는 것은 향후 인공지능 활용을 위한 기준, 통제 수단, 그리고 가치를 정의하는 것을 의미합니다. 여기에는 새로운 규정 준수부터 내부 윤리 및 투명성 메커니즘 구축까지 모든 것이 포함되며, 위험은 최소화하고 가치는 균형 있게 극대화하는 것을 목표로 합니다. 신속하게 행동하는 기업은 지속적인 혁신과 탄탄한 평판이라는 결실을 거두어, 점점 더 AI 중심적인 시장에서 앞서 나갈 수 있을 것입니다.
