مع تقدم الذكاء الاصطناعي، لدينا جميعًا دور نلعبه في إطلاق العنان للتأثير الإيجابي للذكاء الاصطناعي للمؤسسات والمجتمعات حول العالم، ولهذا السبب نركز على مساعدة العملاء على استخدام الذكاء الاصطناعي وإنشائه موثوقأي الذكاء الاصطناعي آمن, محمي و خاص.  

في Microsoft، لدينا التزامات بضمان الذكاء الاصطناعي الموثوق به ونقوم ببناء تكنولوجيا دعم متطورة. وتسير التزاماتنا وقدراتنا جنبًا إلى جنب لضمان حماية عملائنا والمطورين في كل طبقة.

وبناء على التزاماتنا، فإننا نعلن اليوم عن التزامات جديدة موارد منتجات لتعزيز أمن وحماية وخصوصية أنظمة الذكاء الاصطناعي.

حماية. الأمان هو أولويتنا القصوى في Microsoft، وأولويتنا القصوى مبادرة المستقبل الآمن (SFI، باللغة الإنجليزية) يؤكد التوسع على التزامات الشركة بأكملها والمسؤولية التي نشعر بها لجعل عملائنا أكثر التأمينات. هذا الأسبوع، نعلن عن أول ظهور لنا تقرير التقدم SFI، تسليط الضوء على التحديثات التي تشمل الثقافة والحوكمة والتكنولوجيا والعمليات. وهذا يفي بوعدنا بإعطاء الأولوية للأمن قبل كل شيء ويسترشد بثلاثة مبادئ: آمن حسب التصميم، وآمن افتراضيًا، وعمليات آمنة مايكروسوفت المدافع والسلطة، تحتوي خدمات الذكاء الاصطناعي لدينا على ضوابط أمنية أساسية، مثل الوظائف المضمنة للمساعدة في منع الحقن الفوري وانتهاكات حقوق الطبع والنشر. وبناءً عليها، نعلن اليوم عن ميزتين جديدتين: بالإضافة إلى عروضنا الأساسية، فإننا مايكروسوفت المدافع والسلطة، تحتوي خدمات الذكاء الاصطناعي لدينا على ضوابط أمنية أساسية، مثل الوظائف المضمنة للمساعدة في منع الحقن الفوري وانتهاكات حقوق الطبع والنشر. وبناءً عليها، نعلن اليوم عن ميزتين جديدتين:

• التقييمات لا استوديو أزور للذكاء الاصطناعي لدعم التحليل الاستباقي للمخاطر.
• سيوفر Microsoft 365 Copilot الشفافية في استعلامات الويب لمساعدة المسؤولين والمستخدمين على فهم أفضل لكيفية تحسين بحث الويب لاستجابة Copilot.

يتم بالفعل استخدام ميزات الأمان الخاصة بنا من قبل العملاء. الكمونشركة عمرها 105 أعوام معروفة بتصنيع السيارات وتطوير تقنيات الطاقة النظيفة التفت إلى Microsoft Purview لتعزيز أمن بياناتك وإدارتها من خلال أتمتة تصنيف البيانات ووضع العلامات عليها ووضع العلامات عليها. أنظمة EPAMتم نشر شركة هندسة البرمجيات واستشارات الأعمال  مايكروسوفت 365 Copilot إلى 300 مستخدم بسبب حماية البيانات التي يتلقونها من Microsoft. شارك جي تي سودانو، المدير الأول لتكنولوجيا المعلومات، أن “we كانت أكثر ثقة مع Copilot لـ Microsoft 365، مقارنة بـ LLMs الأخرى (نماذج اللغات الكبيرة)، لأننا نعرف نفس سياسات حماية البيانات والمعلومات التي قمنا بإعدادها في نطاق مايكروسوفت تنطبق على مساعد الطيار.”

حماية. بما في ذلك الأمن والخصوصية، والمبادئ الأوسع الذكاء الاصطناعي المسؤول من مايكروسوفتتأسست في عام 2018، ونحن نواصل توجيه كيفية إنشاء الذكاء الاصطناعي ونشره بأمان عبر المؤسسة. ومن الناحية العملية، يعني هذا بناء واختبار ومراقبة الأنظمة بشكل صحيح لمنع السلوكيات غير المرغوب فيها مثل المحتوى الضار والتحيز وسوء الاستخدام وغيرها من المخاطر غير المقصودة. على مر السنين، قمنا باستثمارات كبيرة في بناء إطار الحوكمة والسياسات والأدوات والعمليات اللازمة للدفاع عن هذه المبادئ وبناء الذكاء الاصطناعي ونشره بشكل آمن. في Microsoft، نحن ملتزمون بمشاركة ما تعلمناه في هذه الرحلة للدفاع عن مبادئ الذكاء الاصطناعي المسؤول لدينا مع عملائنا. نحن نستخدم أفضل الممارسات والتعلم الخاص بنا لتزويد الأشخاص والمنظمات والأدوات اللازمة لإنشاء تطبيقات الذكاء الاصطناعي بنفس المعايير العالية التي لدينا في العمل.

اليوم، نتشارك قدرات جديدة لمساعدة العملاء على متابعة فوائد الذكاء الاصطناعي مع تخفيف المخاطر

• مورد إصلاحية في وظيفة الكشف عن التأريض الخاصة بـ Microsoft Azure AI Content Safety التي تساعد في إصلاح مشكلات الهلوسة في الوقت الفعلي قبل أن يراها المستخدمون.   
• أمان المحتوى المضمن، والذي يسمح للعملاء بإدخال أمان محتوى Azure AI في الأجهزة. يعد هذا أمرًا مهمًا للسيناريوهات الموجودة على الجهاز حيث قد يكون الاتصال السحابي متقطعًا أو غير متاح.   
• تقييمات جديدة في Azure AI Studio لمساعدة العملاء على تقييم جودة المخرجات وأهميتها وعدد المرات التي يقوم فيها تطبيق الذكاء الاصطناعي الخاص بهم بإنشاء مواد محمية.  
• الكشف عن المواد المحمية للبرمجة وهي الآن قيد المعاينة في Azure AI Content Safety للمساعدة في اكتشاف المحتوى والتعليمات البرمجية الموجودة مسبقًا. تساعد هذه الميزة المطورين على استكشاف كود المصدر العام في مستودعات GitHub، وتعزيز التعاون والشفافية، مع تمكين قرارات الترميز الأكثر استنارة.

إنه لأمر مدهش أن نرى كيف يستخدم العملاء عبر الصناعات بالفعل حلول Microsoft لإنشاء تطبيقات ذكاء اصطناعي أكثر أمانًا وموثوقية  الوحدة، الوحدة منصة للألعاب ثلاثية الأبعاد، استخدمت خدمة Microsoft Azure OpenAI لإنشاء Muse Chat، وهو مساعد ذكاء اصطناعي يجعل من السهل تطوير الألعاب. يستخدم Muse Chat نماذج تصفية المحتوى في سلامة محتوى Azure AI لضمان الاستخدام المسؤول للبرنامج. بالإضافة إلى ذلك أسوس، وهي شركة تجزئة للأزياء مقرها المملكة المتحدة ولديها ما يقرب من 900 شريك من العلامات التجارية، وقد استخدمت نفس مرشحات المحتوى الداخلي في Azure AI Content Safety لدعم التفاعلات عالية الجودة من خلال تطبيق الذكاء الاصطناعي الذي يساعد العملاء في العثور على مظاهر جديدة.

ونرى أيضًا التأثير على الفضاء التعليمي. المدارس العامة في مدينة نيويورك لقد عقدوا شراكة مع Microsoft لتطوير نظام دردشة آمن ومناسب للسياق التعليمي، والذي يقومون الآن باختباره في المدارس. وزارة التعليم بجنوب أستراليا كما أنها جلبت الذكاء الاصطناعي التوليدي إلى الفصل الدراسي باستخدام EdChat، بالاعتماد على نفس البنية التحتية لضمان الاستخدام الآمن للطلاب والمعلمين.

خصوصية. تقع البيانات في قلب الذكاء الاصطناعي، وأولوية Microsoft هي المساعدة في ضمان حماية بيانات العملاء ودعمها من خلال موقعنا مبادئ الخصوصية طويلة الأمد، والتي تشمل مراقبة المستخدم والشفافية والحماية القانونية والتنظيمية. ولتطوير ذلك، نعلن اليوم عن:

• الاستدلال السري في الإصدار السابق في نموذج Azure OpenAI Service Whisper الخاص بنا، يمكن للعملاء تطوير تطبيقات الذكاء الاصطناعي التوليدية التي تدعم الخصوصية التي يمكن التحقق منها من النهاية إلى النهاية. الاستدلال السري يضمن بقاء بيانات العملاء الحساسة آمنة وخاصة أثناء عملية الاستدلال، وذلك عندما يقوم نموذج الذكاء الاصطناعي المدرب بإجراء تنبؤات أو قرارات بناءً على بيانات جديدة.   
• التوفر العام للأجهزة الافتراضية السرية من Azure مع وحدات معالجة الرسومات NVIDIA H100 Tensor الأساسية، والتي تسمح للعملاء بحماية البيانات مباشرة على وحدة معالجة الرسومات. ويعتمد هذا على حلول الحوسبة السرية لدينا، والتي تضمن بقاء بيانات العميل مشفرة ومحمية في بيئة آمنة بحيث لا يتمكن أحد من الوصول إلى المعلومات أو النظام دون إذن.
• مناطق بيانات Azure OpenAI بالنسبة للاتحاد الأوروبي والولايات المتحدة، سيأتي قريبًا ويعتمدان على إقامة البيانات الحالية التي توفرها خدمة Azure OpenAI، مما يسهل إدارة معالجة وتخزين البيانات من تطبيقات الذكاء الاصطناعي التوليدية. تمنح هذه الوظيفة الجديدة العملاء المرونة اللازمة لتوسيع نطاق تطبيقات الذكاء الاصطناعي التوليدية عبر جميع مناطق Azure ضمن منطقة جغرافية واحدة، مع منحهم التحكم في معالجة البيانات وتخزينها داخل الاتحاد الأوروبي أو الولايات المتحدة.

لقد شهدنا اهتمامًا متزايدًا من العملاء بالحوسبة السرية وحماسًا لوحدات معالجة الرسومات الحساسة، بما في ذلك من مزود أمان التطبيقات F5، التي تستخدم أجهزة افتراضية سرية من Azure مع وحدات معالجة الرسومات NVIDIA H100 Tensor Core لإنشاء حلول أمنية متقدمة قائمة على الذكاء الاصطناعي، مما يضمن سرية البيانات التي تقوم نماذجها بتحليلها رويال بنك أوف كندا (كرات الدم الحمراء) دمج الحوسبة السرية Azure في نظامها الأساسي الخاص لتحليل البيانات المشفرة مع الحفاظ على خصوصية العملاء. مع التوفر العام للأجهزة الافتراضية الحساسة Azure مع وحدات معالجة الرسومات NVIDIA H100 Tensor Core، يمكن لـ RBC الآن استخدام أدوات الذكاء الاصطناعي المتقدمة هذه للعمل بكفاءة أكبر وتطوير ذكاء اصطناعي أكثر قوة نماذج. 

يمكنك الوصول إلى المزيد باستخدام الذكاء الاصطناعي الموثوق

نحن جميعًا بحاجة ونأمل في الذكاء الاصطناعي الذي يمكننا الوثوق به، وقد رأينا ما هو ممكن عندما يتم تمكين الأشخاص من استخدام الذكاء الاصطناعي بشكل موثوق إثراء تجارب الموظفين و إعادة تشكيل العمليات التجارية حتى إعادة اختراع مشاركة العملاء و إعادة تصور حياتنا كل يوم. مع ميزات جديدة ومن خلال تحسين الأمن والحماية والخصوصية، نواصل تمكين العملاء من استخدام وبناء حلول الذكاء الاصطناعي الموثوقة التي تساعد كل شخص ومؤسسة على هذا الكوكب على تحقيق المزيد. في النهاية، يشمل الذكاء الاصطناعي الموثوق به كل ما نقوم به في Microsoft وهو ضروري لمهمتنا حيث نعمل على توسيع الفرص واكتساب الثقة وحماية الحقوق الأساسية وتعزيز الاستدامة في كل ما نقوم به.

تخيل أنك تتلقى رسالة صوتية مثالية من أحد المشاهير يطلب فيها المساعدة المالية لبعض القضايا الاجتماعية أو العثور على موقع ويب مطابق لمتجر مشهور يقدم عروضًا يجب مشاهدتها. هذه مجرد بعض التكتيكات المتطورة التي يتبناها المجرمون من خلال الذكاء الاصطناعي (AI)، لخداع ملايين البرازيليين يوميًا.

وفقًا لمسح تم إجراؤه على منصة BrandMonitor، في الفترة ما بين مارس ومايو من هذا العام، تم تحديد 529 علامة تجارية من أصل 628 علامة تجارية تم تتبعها على أنها تعرضت لهجمات من نطاقات مشبوهة، وفي 405 حالات، تم إنشاء مواقع ويب مزيفة باستخدام عمليات احتيال. سجلت العلامات التجارية الخمسين الأكثر تأثراً ما متوسطه 86 نطاقًا مزيفًا تم إنشاؤها في نطاق 90 يومًا فقط. تُستخدم الآن التكنولوجيا التي تعد بتحويل المستقبل في عمليات احتيال متطورة، مما يخلق وباءً رقميًا يضع المستهلكين والشركات في حالة تأهب قصوى.

أحد الأسباب الرئيسية لنمو الاحتيال الرقمي القائم على الذكاء الاصطناعي هو تعدد استخداماته، مع عدم وجود حدود للصناعات والاستخدامات التي يمكن أن يتبناها. على الرغم من تنوع عمليات الاحتيال الرقمية، إلا أن جميعها تتبع خطوات مشتركة

1. جمع البيانات: يحصل المجرمون على البيانات الشخصية والمالية من المستهلكين والشركات من خلال التسريبات والتصيد والبرامج الضارة.
2. تدريب الذكاء الاصطناعي: ومن خلال البيانات التي تم جمعها، يتم تدريب الذكاء الاصطناعي على تحديد أنماط السلوك وتقليد اللغة البشرية بطريقة مقنعة.
3. تنفيذ: يقوم الذكاء الاصطناعي بأتمتة عملية الاحتيال عن طريق إنشاء ملفات تعريف مزيفة، وإرسال رسائل مخصصة، ومحاكاة الأنشطة عبر الإنترنت لخداع الضحايا.

وفقًا للمسح العالمي حول اتجاهات الاحتيال الرقمي متعدد القنوات الذي أجرته TransUnion في عام 2023، زادت محاولات الاحتيال الرقمي بمقدار 80% عالميًا منذ عام 2019. وعند دمجها مع الذكاء الاصطناعي، تصبح عمليات الاحتيال هذه أكثر تعقيدًا وإقناعًا للمستخدمين. وفي البرازيل، النصف الأول من عام 2024 سجلت 800 ألف محاولة احتيال.

أمثلة على عمليات الاحتيال في البرازيل

لا ميركادو ليفرعلى سبيل المثال، يقوم المجرمون بإنشاء ملفات تعريف مزيفة تحتوي على صور ومراجعات إيجابية تنتجها الروبوتات، مما يحفز المشترين على إجراء معاملات احتيالية. بالفعل في شركات النقل عن طريق التطبيق، مثل اوبر و أ 99 تاكسي، يتم استخدام الذكاء الاصطناعي لمحاكاة سفر الأشباح، وتوليد رسوم غير مبررة للعملاء وأرباح غير مشروعة للمحتالين.

على الرغم من تنوع الاحتمالات، إلا أن بعض تنسيقات عمليات الاحتيال الرقمية يتم التعرف عليها بشكل أكبر من قبل المستخدمين، بما في ذلك:

1. تخصيص رسائل التصيد الاحتيالي: يقوم الذكاء الاصطناعي بتحليل البيانات المتعلقة بالضحية، مثل سجل الشراء والاهتمامات والسلوك عبر الإنترنت، لإنشاء رسائل مستهدفة للغاية. وهذا التخصيص يجعل من الصعب تحديد عمليات الاحتيال، حيث تبدو الرسائل مشروعة وذات صلة بالمستلم؛
2. مساعدين افتراضيين مزيفين: تخدع روبوتات الدردشة المزيفة الأشخاص لتقديم معلومات حساسة، مثل التفاصيل المصرفية أو كلمات المرور. ويسمح الذكاء الاصطناعي لهؤلاء المساعدين بالإجابة بشكل طبيعي والتكيف مع أسئلة المستخدم، مما يجعلها أكثر إقناعا؛
3. التزييف العميق والتلاعب بالصوت: يتم استخدام الذكاء الاصطناعي لإنشاء مقاطع فيديو مزيفة، وهي عبارة عن مقاطع فيديو أو تسجيلات صوتية مزيفة تبدو أصلية. وتشكل هذه التكنولوجيا مصدر قلق متزايد، خاصة في سياقات مثل الانتخابات، حيث يمكن أن يكون لانتشار المعلومات الكاذبة تأثيرات كبيرة. وفي فبراير من هذا العام، قررت المحكمة الانتخابية العليا تقييد استخدام الذكاء الاصطناعي في الحملات الانتخابية.

المعلومات والتعليم ضروريان للحماية من الاحتيال الرقمي. يجب أن يكون المستخدمون أكثر وعيًا بالطريقة التي يتصرف بها هؤلاء المحتالون، حتى يتمكنوا من التحكم بشكل أكبر في قراراتهم، وبالتالي تجنب الاحتيال وكل الإزعاج الذي يأتي معه.

بالإضافة إلى ذلك، لفهم نطاق الاحتيال الرقمي المدفوع بالذكاء الاصطناعي بشكل أفضل، من الضروري تحليل الحالات الملموسة التي تسلط الضوء على تأثيرات هذه الممارسات. تكشف بعض الأمثلة الرمزية التي تشمل شركات كبيرة في البرازيل كيف تم استهداف هذه المنظمات بعمليات احتيال متطورة، واستغلال نقاط الضعف لدى المستهلكين والعلامات التجارية نفسها

1. السوق الحرة: يستخدم المجرمون الذكاء الاصطناعي لإنشاء ملفات تعريف مزيفة تحتوي على صور ومراجعات إيجابية تنتجها الروبوتات، مما يحفز المشترين على التعامل مع بائعين غير موجودين. بالإضافة إلى ذلك، يستخدمون الذكاء الاصطناعي لإنشاء إعلانات منتجات مزيفة، وجذب المشترين وجمع البيانات الشخصية والمالية.
2. الشاحنات: يقوم المجرمون بإنشاء مواقع ويب مزيفة تبيع منتجات Vans بخصومات غير واقعية، باستخدام الذكاء الاصطناعي لتخصيص تلك المواقع وخداع المستهلكين.
3. فلوري: أدت عمليات التصيد الاحتيالي باستخدام الذكاء الاصطناعي إلى تضليل موظفي مجموعة Fleury Group، مما أدى إلى تسرب بيانات حساسة.
4. اينم 2024 أدى موقع ويب مزيف يقلد صفحة Enem Participant Page إلى قيام العديد من المستخدمين بدفع رسوم التسجيل للامتحان، والتي تقدر بـ 85 ريالًا للشخص الواحد.
5. ستارلينك إن شركة الإنترنت عبر الأقمار الصناعية التابعة لشركة SpaceX، Elon Musk، تكون دائمًا ضحية لعمليات الاحتيال والاحتيال. في تصنيف التتبع اليومي الخاص بنا، وجدنا 523 نطاقًا مشبوهًا يتعلق بـ Starlink، 152 منها نشطة. حوالي 44% من الشكاوى حول الشركة مرتبطة بمواقع مزيفة.

الذكاء الاصطناعي هو أيضًا أداة دفاعية

وكما يمكن استخدام الذكاء الاصطناعي في عمليات الاحتيال، فهو أيضًا حليف قوي لمكافحتها. ومن الضروري أن ندرك أهمية ليس فقط وجود التكنولوجيا المتقدمة، ولكن أيضًا معرفة كيفية تطبيقها بفعالية، من خلال تقنيات متطورة للكشف عن الأنماط وتحليل السلوك.

يمثل وباء الاحتيال الرقمي في البرازيل، المدفوع بالذكاء الاصطناعي، تحديًا متزايدًا يتطلب اهتمامًا مستمرًا وعملًا منسقًا بين الشركات والحكومة والمستهلكين. ولن نتمكن من وقف هذه الموجة من الجرائم الرقمية وحماية بياناتنا ومستقبلنا إلا من خلال المعلومات والتعليم والاستخدام الذكي للتكنولوجيا.