随着人工智能的快速发展，人工智能使用的监管已成为巴西的一个核心且紧迫的议题。 新技术带来了巨大的创新和变革潜力，但也引发了关于伦理、透明度和治理的关键问题。 在巴西的背景下，数字化转型正以快速的步伐推进，找到创新与适当监管之间的平衡对于确保人工智能的可持续和负责任发展至关重要。
在独家采访中，Performa_IT的首席运营官Samir Karam深入分析了人工智能监管中出现的挑战与解决方案，强调了在科技行业中创新与伦理之间保持平衡的重要性。
巴西的人工智能监管仍处于架构阶段，这既带来了挑战，也带来了机遇。“一方面，监管制定了更明确的责任使用技术的指导方针，确保透明度和伦理原则。 另一方面，存在过度官僚化的风险，可能会减缓创新。 “在全球竞争中，监管与创新自由之间的平衡对巴西保持竞争力至关重要”,启动 Samir Karam，Performa_IT 的首席运营官——公司全方位服务提供商在技术解决方案方面，数字化转型和人工智能的领先者。
影子人工智能和深度伪造风险与解决方案
萨米尔·卡拉姆讨论的最令人担忧的概念之一是“影子人工智能指在组织内部未经适当控制或监督而使用人工智能。 这种做法可能导致各种问题，例如数据泄露、偏颇的决策和安全风险。
例如，假设一个营销团队在未经IT部门批准的情况下，使用人工智能工具分析消费者行为遵守除了使公司面临法律风险外，未经监管的技术使用还可能导致敏感数据的收集和分析不当，侵犯用户隐私。
另一个情景是开发用于招聘决策的人工智能算法，若缺乏适当的监督，可能会复制训练数据中存在的无意识偏见，导致不公正和歧视性的决策。
就像深度伪造的情况一样，使用人工智能创建的视频或音频会操纵一个人的图像、声音和动作，使其看起来像是在说或做一些实际上从未发生过的事情。 这项技术可能被恶意利用，用于传播虚假信息、欺诈身份和损害个人声誉。
解决方案为影子人工智能和深度伪造他们正在制定强有力的人工智能治理政策，依据Performa_IT的首席运营官Samir Karam的说法：
这些政策包括实施频繁的审计，以确保人工智能的实践符合组织的伦理和透明度指南。 此外，使用检测未授权活动并持续监控人工智能系统的工具是必不可少的，以防止滥用并确保数据安全。
萨米尔强调，如果没有这些措施，AI的失控使用不仅可能损害消费者的信任，还可能使组织面临严重的法律和声誉后果。
假新闻人工智能中的伦理挑战
传播假新闻由人工智能生成的内容是另一个日益增长的担忧。“这应对由人工智能生成的假新闻需要技术与教育的结合。自动验证工具、图像和文本中的合成模式识别，以及由人工智能生成内容的标注，都是重要的步骤。 但也我们需要投资于公众的意识提升，教导他们识别可靠的来源并质疑可疑的内容。 萨米尔确认。
确保人工智能开发的透明度和伦理是萨米尔所倡导的核心原则之一。 他强调说“一些最佳实践包括采用可解释的模型（XAI – 可解释人工智能）、独立审计、使用多样化的数据以避免偏见，以及成立人工智能伦理委员会。
与人工智能相关的主要网络安全担忧之一包括复杂的攻击，例如网络钓鱼一种攻击技术，犯罪分子试图通过冒充可信实体，在数字通信中欺骗个人透露机密信息，如密码和银行数据。 当与人工智能结合时，这些攻击可能变得更加复杂，创建出难以与真实区分的个性化电子邮件和信息。 为了减轻这些风险，萨米尔建议“é基本上投资于基于人工智能的检测解决方案，实施多因素认证，并确保人工智能模型经过训练以检测和减轻操纵企图。
有效的人工智能政策合作
企业、政府和学术界的合作对于制定有效的人工智能政策至关重要。 萨米尔强调说“人工智能影响着多个行业，因此需要以合作的方式制定监管措施。企业提供技术应用的实际愿景，政府制定安全和隐私指南，而学术界则通过研究和方法论为更安全、更道德的发展做出贡献。
人工智能的多面性意味着其影响和应用在不同领域之间差异很大，从医疗到教育，再到金融和公共安全。 因此，制定有效政策需要一种综合的方法，考虑所有这些变量。
公司在这个过程中，它们是关键，因为它们负责大规模地实施和使用人工智能。 它们提供见解关于市场需求、实际挑战以及最新的技术创新。 私营部门的贡献有助于确保人工智能政策在实际环境中具有适用性和相关性。
政府他们有责任制定保护公民和确保人工智能使用伦理的指导方针。 他们制定涉及安全、隐私和人权问题的法规。 此外，政府可以促进各方利益相关者之间的合作，并推动人工智能研究的融资项目。
学术界这是这个拼图中第三个关键部分。 大学和研究所提供坚实的理论基础，并开发新的方法，以确保人工智能的安全和伦理发展。 学术研究在识别和减轻人工智能算法中的偏见方面也发挥着关键作用，确保技术的公平和公正。
这种三方合作使人工智能政策具有稳健性和适应性，既能应对技术使用带来的益处，也能应对相关的风险。 这种合作的一个实际例子可以在公私合作项目中看到，技术公司与学术机构和政府机构合作开发符合安全和隐私规范的人工智能解决方案。
萨米尔强调，如果没有这种合作方式，可能会制定出与实际脱节的法规，或者阻碍创新。“在监管与创新自由之间找到平衡至关重要，这样我们才能最大化人工智能的益处，同时将风险降到最低。”完成。
人工智能的神话
在当前的环境下，人工智能（AI）在我们的日常生活中变得越来越普遍，关于它的运作和影响，出现了许多神话和误解。
为了澄清这些问题，揭穿这些误解，并结束采访，萨米尔·卡拉姆以乒乓式的问答形式回答了多个问题，涉及最常见的神话并提供了见解关于人工智能现实的宝贵见解。
- 你遇到的关于人工智能的最常见的误解有哪些，你是如何澄清的？
其中一个最大的神话是人工智能是万无一失且完全公正的。 实际上，它反映了其训练数据，如果这些数据存在偏见，人工智能可能会复制这些偏见。 另一个常见的误解是人工智能意味着完全自动化，而实际上，许多应用只是决策辅助工具。
- 人工智能真的可以取代所有人类工作吗？ 关于这件事的真实情况是什么？
人工智能不会取代所有的工作，但会改变许多工作的方式。 将会出现新的功能，要求专业人员发展新的技能。 最可能的情景是人类与人工智能的合作，技术自动化重复性任务，而人类专注于需要创造力和批判性判断的工作。
- 人工智能真的可能变得有意识并统治人类，就像科幻电影中所描绘的那样吗？
目前没有任何科学证据表明人工智能可能变得有意识。 当前的模型是先进的统计工具，处理数据以生成回答，但没有任何认知或自主意图。
- 所有的人工智能都具有危险性，还是可以用于有害的目的？ 关于这件事，我们应该知道些什么？
像任何技术一样，人工智能可以用来做好事，也可以用来做坏事。 危险不在于人工智能本身，而在于对它的使用。 因此，监管和负责任的使用是如此重要。
- 有人认为人工智能是百无一失的。 人工智能的实际限制有哪些？
人工智能可能会犯错误，尤其是在使用有限或偏颇的数据进行训练时。 此外，人工智能模型容易被对抗性攻击所欺骗，数据的微小操控可能导致意想不到的结果。
- 人工智能只是昙花一现的潮流，还是一项将持续存在的技术？
人工智能将会持续存在。 你的影响力可与电力和互联网相媲美。 然而，它的发展正在不断演变，未来几年我们还会看到许多变化。
- 人工智能系统真的能够做出完全公正的决策吗？ 偏见如何影响算法？
没有任何人工智能是完全公正的。 如果用于训练的数据存在偏差，结果也将存在偏差。 理想的情况是企业采取偏见缓解措施并进行持续审计。
- 所有的人工智能应用都涉及监控和收集个人数据吗？ 人们应该了解关于隐私和人工智能的哪些内容？
并非所有的人工智能都涉及监控，但数据收集在许多应用中是现实。 最重要的是让用户知道他们的哪些数据正在被收集，并对其拥有控制权。 透明度和遵守如LGPD（通用数据保护法）和GDPR（通用数据保护条例——欧盟通用数据保护条例）等法规是至关重要的。
