점점 더 기술 중심으로 변하는 세상에서 인공지능(AI)의 확산은 이미 현실이 되었다. 그래서 그녀의 규제는 국제적인 관심의 초점이 되고 있으며, 브라질을 비롯한 여러 나라들이 이에 앞서려고 노력하고 있습니다. 이곳에서는 여러 의견 차이점이 법안(PL) 2.338/2023의 표결이 연기되는 데 기여했으며, 최근 연방 감사원(TCU)은 국회에서 진행 중인 이러한 규제와 관련된 여러 위험을 확인했습니다.
TCU의 작업은 브라질 인공지능 전략(EBIA)을 조명하여, 이것이 어떻게 실행에 방해가 될지, 그리고 이러한 제안이 승인될 경우 공공 및 민간 부문에 미칠 수 있는 잠재적 영향에 대해 다루고 분석했습니다. 과학기술혁신부(MCTI)의 포르타리아를 통해 설립된 Ebia는 브라질 정부가 인공지능 솔루션 개발을 촉진하고 그 사용을 의식적이고 윤리적으로 장려하는 다양한 분야의 이니셔티브를 지지하도록 이끄는 역할을 맡고 있습니다.
브라질대학교(UnB)의 교수이자 건강에 적용된 기술 혁신 분야의 연구자인 Dr. Paulo Henrique de Souza Bermejo에게는 특히 브라질 규제가 혁신을 제한할 수 있는지 여부를 고려하는 것이 중요하며, 이는 Ebia와 상충하는 문제입니다. 이비아는 책임 있는 인공지능 개발 및 사용을 위한 윤리 원칙 수립에 기여하고, 인공지능 연구개발에 지속적인 투자를 촉진하며, 인공지능 혁신에 대한 장애물을 제거하고, 인공지능 생태계 전문가를 양성하며, 국제 환경에서 브라질 인공지능과 혁신을 촉진하고, 공공 및 민간 부문, 산업계, 연구 센터 간 협력을 증진하는 여섯 가지 주요 목표를 제시하는 것이 중요하다고 언급할 수 있습니다.
파울로는 과도한 규제가 국가의 인공지능 시스템 발전을 과부하시키고 비용을 증가시킬 수 있다고 강조했으며, 이는 기업들이 복잡한 규제 규정을 준수하는 데 과도한 시간과 비용을 들이게 하여 기술 향상에 자원을 투입하는 대신 규제 준수에 더 많은 자원을 소비하게 만든다고 지적했다. 이것은 정기적으로 시스템을 구축할 수 있는 재정적으로 능력 있는 소수의 기업들이 독점을 조장하게 될 것이며, 이를 통해 발표된 가능한 규정에 따라 유지될 것입니다. 그래서 스타트업과 소규모 기업들은 이를 감당할 수 없었고, 자체 Ebia의 목표를 위험에 빠뜨릴 위험이 있었다. 이 모든 상황은 여러 생산 부문의 국제 경쟁력 상실로 이어질 수 있으므로, 규제와 혁신 사이의 균형을 찾는 것이 매우 중요하며, 이를 통해 인공지능이 윤리적이고 책임감 있게 개발되고 사용되도록 하면서도 그 발전을 방해하지 않도록 해야 한다고 교수는 덧붙였다.
그는 브라질에서 이 분야의 가장 핵심적인 측면 중 하나는 국가를 국제 경쟁자로 위치시키는 것이라고 설명했으며, 이는 인공지능의 자체 개발뿐만 아니라 생산 부문에서의 적용 모두를 포함한다. 투자 규모와 각국에서 제안된 규제가 다른 나라들과의 위치에 직접적인 영향을 미칠 것이다. 이는 국내 산업이 더 많은 자율성을 갖거나, 자체 기술을 발전시키고 수출을 목표로 하거나, 또는 다른 나라의 기술 수입에 더 의존하게 될 수 있음을 의미한다. 글로벌 시장에서 브라질 기업들은 외국 기업들과 경쟁할 수 있는 능력을 갖추어야 하며, 기술 발전을 따라잡아 생산 과정을 더 효율적으로 만드는 것이 필요하다고 설명했다.
교수님은 또한 규제는 인공지능 시스템과 다른 시스템을 구별한다고 지적하셨습니다. 제 생각에는 이것이 중장기적으로 거의 모든 종류의 소프트웨어에 적용될 것이며, 덜 지능적인 소프트웨어 시스템은 점차 사용되지 않거나 더 빠르게 다른 것으로 대체될 가능성이 높다고 봅니다. 다시 말해, 이는 해외에서 제작된 소프트웨어를 포함하여 모든 종류의 소프트웨어에 일련의 제약이 가해질 가능성을 의미합니다. 즉, 이는 국내 소프트웨어 산업과 브라질 사회 전체에 영향을 미칠 것이며, 새로운 기술의 도입이 지연되어 국가의 생산 시스템이 경제의 여러 부문과 관련하여 더 효율적이고 경쟁력 있게 되는 것을 방해할 수 있습니다,”라고 강조했습니다.
또 다른 고려해야 할 측면은 실험에 대한 제한과 관련이 있는데, 인공지능 분야의 학술 연구는 일반적으로 새로운 방법과 알고리즘을 이용한 실험을 포함하기 때문이다. 규제는 연구자들이 다른 접근 방식을 시험하는 자유를 제한할 수 있으며, 이는 새로운 해결책 발견을 어렵게 만들 수 있습니다. 또한, 규제는 서로 다른 기관이나 국가의 연구자들 간의 협력을 방해할 수 있습니다. 예를 들어, 규제가 인공지능 발전에 필수적인 데이터 세트의 공유를 금지한다면, 더 효율적인 알고리즘을 만드는 능력을 제한할 수 있습니다.
유연한 규제의 필요성
연구자는 브라질에서 인공지능 규제에 대해 사회의 이해에 맞춰 유연한 규제를 이상적으로 제시했습니다. "여러 요인이 관련되어 있기 때문에, 브라질에서 규제를 서두르는 것보다는 토론을 심화시키고 정부, 민간 부문, 시민 사회, 학계 등 모든 관련자를 의사 결정 과정에 포함시키는 것이 더 중요합니다. 규제는 매우 필요하지만, 현재 상황의 모든 측면을 고려할 수 있도록 신중하게 이루어져야 합니다. 기술 발전 속도가 빠르기 때문에, 현재 법률이나 브라질에서 진행 중인 법안에서도 예상하지 못한 새로운 상황이 매일 발생하고 있습니다. 따라서 주제에 대한 논의와 성찰이 시급하지만, 반드시 결론에 도달해야 하는 것은 아닙니다."
그 맥락의 또 다른 측면에서, 파울로에 따르면 인공지능의 적용은 경제의 여러 부문을 포괄하며, 각각의 부문은 구체적인 규제를 필요로 하므로 미국에서와 유사하게 다양한 거버넌스 조치를 채택하는 것이 더 합리적입니다.
저작권 및 데이터 마이닝
교사에게 있어서, 합리적인 범위를 벗어난 규제는 잠재력뿐만 아니라 전체 공동체가 발전하고 번영할 수 있는 능력도 억제할 수 있다. 이와 관련하여 논의된 한 가지 쟁점은 데이터 채굴과 관련하여 기술 발전을 방해하지 않으면서 개인 및 집단의 권리 보호를 어떻게 균형 있게 유지할 것인가 하는 것이다.
파울로에 따르면, 데이터의 가용성과 마이닝은 인공지능 개발에 매우 중요하며, 특히 대량의 데이터를 탐색하는 기계 학습 모델에 필수적입니다. 이의 예 중 하나는 GPT-3와 4와 같은 대형 언어 모델 분야에 있으며, 이는 ChatGPT의 기반이 됩니다. 이들은 방대한 양의 인터넷 텍스트를 학습하여 인간과 유사한 콘텐츠를 생성하고, 지시를 이해하는 능력을 갖추고 있습니다.
그렇다면 그가 언급한 문제는 이 훈련에 사용된 데이터에 대한 저작권에 관한 것이다. 과도한 규제 결정은 텍스트, 오디오, 이미지를 포함한 방대한 데이터 활용이 필요한 인공지능 시스템의 개발과 활용을 방해할 수 있으며, 이는 국내 시장에 더 많은 장애물을 초래할 것이라고 주장했다.
이 맥락의 또 다른 관점에서, 전문가들은 저작권 문제가 세계적으로 많이 논의되고 있으며, 이러한 기술들이 수많은 비판을 받고 있다고 지적했습니다. 베르메호 교수님께는 이러한 기술 도구의 주요 제조업체들이 지적 재산권 침해가 발생할 경우 콘텐츠 제작자들과 합의를 이루는 것에 대한 합의가 필요합니다.
마지막으로, 전문가에 따르면 포르투갈어 언어 모델 훈련은 핵심 포인트입니다. 왜냐하면 Gemini와 ChatGPT와 같은 상업적 모델들이 우리의 언어를 "말"하지만, 종종 이는 번역을 통해 이루어지기 때문에 편향되고 부정확한 답변이 나올 수 있기 때문입니다. 반면에, 브라질 사람들은 또한 많은 양의 데이터를 생산하는데, 이는 외국의 "빅 테크" 기업들이 목표로 삼고 있으며, 이들은 대형 인공지능 모델을 훈련시킬 수 있어, 진정한 브라질산 인공지능을 갖춘 이 시장 내에서 수익성 있는 대안이 될 수 있습니다.
