ما هو الظل AI؟ أحدث التهديدات الأمنية لتكنولوجيا المعلومات في المؤسسة

لقد هز صعود الذكاء الاصطناعي على مدى السنوات القليلة الماضية صناعة التكنولوجيا بأكملها، وصناعة الأمن السيبراني للمؤسسات ليست استثناءً: لقد أصبحوا فجأة يتعاملون مع الظل الاصطناعي.

يشير مصطلح "Shadow AI" إلى أي استخدام غير مصرح به للذكاء الاصطناعي داخل المؤسسة. نظرًا لأن قسم تكنولوجيا المعلومات لا يعرف شيئًا عن ذلك، فليس لديهم طريقة لتتبع استخدام الذكاء الاصطناعي أو التحكم فيه.

وهذا يترك الشركة مفتوحة للاستغلال المحتمل أو غيرها من القضايا. إليكم الأسباب التي تجعل الذكاء الاصطناعي الظلي يمثل مشكلة متنامية، وما يمكن لشركتك فعله حيال ذلك.

ما هو الظل AI؟

يصف Shadow AI الموظفين الذين يستخدمون الذكاء الاصطناعي لمساعدتهم في المهام دون معرفة الشركة أو موافقتها. عندما لا يشرح الموظفون هذا الاستخدام لشركتهم، فإن تلك الشركة لا تكون على علم باستخدام الظل للذكاء الاصطناعي الذي يجري داخل صفوفها. احصل عليه؟ لأن استخدام الذكاء الاصطناعي يحدث… في الظل.

قد يتم إنجاز المهام بشكل أسرع، ولكن بدون الرؤية والإرشادات المحيطة باستخدام الذكاء الاصطناعي، فمن المستحيل التحكم الكامل في النتائج. وبالنسبة لأي مدير أعمال، فإن الافتقار إلى السيطرة هو علامة حمراء لاستمرار نجاح الأعمال.

هناك الكثير من الأدلة التي تشير إلى أن الذكاء الاصطناعي الظل يمثل بالفعل مشكلة كبيرة في العديد من الصناعات، حتى لو لم يؤد إلى أي إخفاقات أمنية كارثية حتى الآن. على الأقل، لم نسمع عن أي شيء: ففي نهاية المطاف، تفشل أقلية كبيرة من شركات التكنولوجيا في الإبلاغ عن عمليات الاختراق بعد وقوعها.

إليك حقيقة إضافية كبيرة تضفي سياقًا إضافيًا حول التهديد المحتمل للذكاء الاصطناعي في الظل.

تمتلك 4.39% فقط من الشركات أدوات ذكاء اصطناعي مدمجة بالكامل في جميع أنحاء مؤسساتها

هذه شركة واحدة فقط من بين 25 شركة لديها إرشادات صارمة بشأن الذكاء الاصطناعي، وفقًا لبيانات من تقرير Tech.co لعام 2024 حول تأثير التكنولوجيا على مكان العمل .

في المقابل، قال 44% من المشاركين في استطلاع آخر إنهم استخدموا الذكاء الاصطناعي في الإعدادات المهنية بالإضافة إلى الإعدادات الشخصية. وقدر هذا الاستطلاع، الذي تناول الشركات الفرنسية على وجه التحديد، أن 28% من الموظفين كانوا يستخدمون الذكاء الاصطناعي دون إشراف الشركة.

بمعنى آخر، على الرغم من الضجيج الذي أحاط بأدوات النصوص والصور التوليدية على مدى السنوات القليلة الماضية، كانت الشركات بطيئة في وضع لوائح تنظيمية للذكاء الاصطناعي.

لماذا يعتبر Shadow AI خطيرًا؟

إنه تحدٍ أن نحدد مخاطر الممارسة التي، بحكم تعريفها، لا تتم مراقبتها أو فهمها بالكامل. فيما يلي أكبر المجالات المثيرة للقلق.

معلومات خاطئة داخلية أو خارجية

وجد تقريرنا أن 49% من القيادات العليا يشعرون بالقلق إزاء خطر قيام نماذج الذكاء الاصطناعي ذات اللغات الكبيرة بتوليد معلومات كاذبة . لقد رأينا بالفعل تقارير عن ملخصات قانونية خاطئة مدعومة بالذكاء الاصطناعي، بالإضافة إلى أخطاء فادحة أخرى ، لذلك من السهل تخيل حدوث نفس الشيء مع تقرير عمل داخلي أو رسالة بريد إلكتروني إلى عميل مهم.

مخاطر الأمن السيبراني

يعد نشر الذكاء الاصطناعي لأغراض الترميز إحدى حالات الاستخدام الشائعة، ولكن إذا تم استخدامه من قبل فريق دعم تكنولوجيا المعلومات، فقد يحتوي هذا الرمز على أخطاء تم إنشاؤها بواسطة الذكاء الاصطناعي أو فتحات للمتسللين لتمرير قنبلة منطقية ضارة عبر بروتوكولات الأمان الخاصة بك.

البيانات المكشوفة

بالإضافة إلى ذلك، لا يدرك العديد من مستخدمي الذكاء الاصطناعي أن مطالباتهم سيتم تسجيلها من قبل الشركة التي تقف وراء أداة الذكاء الاصطناعي المجانية الخاصة بهم. إذا تم استخدام بيانات الشركة الخاصة للمطالبة، فسيتم كشفها. لهذا السبب، لا ينبغي عليك مطلقًا مشاركة بيانات الشركة الحساسة مع منصة الذكاء الاصطناعي، من بين أمور أخرى .

فشل الامتثال

تقوم الحكومات في جميع أنحاء العالم بفرض قيود ومبادئ توجيهية خاصة بالذكاء الاصطناعي. بدون ممثل لتتبع اللوائح الفيدرالية أو قوانين الولاية داخل شركتك، لا يمكنك التأكد من أن الموظفين لا يفتحون عملك أمام تحقيق من هيئة رقابية تنظيمية في المستقبل.

كيف يمكن لشركتك مكافحة استخدام الظل للذكاء الاصطناعي

في نهاية المطاف، ينجم تهديد الظل الاصطناعي عن سياسات العمل غير الموجودة أو المحدودة المحيطة باستخدام الذكاء الاصطناعي في مكان العمل. لذا، الإجابة بسيطة نسبيًا: ستحتاج إلى إنشاء إرشادات تقصر استخدام الذكاء الاصطناعي على مهام محددة ضمن أدوار محددة .

ومع تصريح 50% من الشركات الأمريكية بأنها تعمل حالياً على "تحديث سياساتها الداخلية للتحكم في استخدام ChatGPT وإنهاء Shadow GPT"، يبدو أن هذا الحل قد تم طرحه بالفعل، ولو ببطء.

الخيار الأكثر أمانًا هو الحظر التام على استخدام الذكاء الاصطناعي: تعد شركات آبل، وأمازون، وسامسونج، وجولدمان ساكس من بين الشركات القليلة التي حظرت على الأقل بعض إصدارات الذكاء الاصطناعي من الاستخدام على مدار الساعة. ومع ذلك، فهذا يعني أيضًا أنه لا يمكنك الاستفادة من الأدوات التقنية أيضًا.

من المحتمل أنك ستحتاج إلى تضمين تحذير حول استخدام الذكاء الاصطناعي في المستقبل ضمن إرشاداتك: في انتظار الموافقة، يجب أن يكون العمال قادرين على توسيع استخدام الذكاء الاصطناعي خارج إرشاداتك الأولية، نظرًا لأن أدوات الذكاء الاصطناعي ستستمر في التطور في المستقبل.

أفضل الممارسات لاستخدام الذكاء الاصطناعي في الشركة

لا يجب أن يكون استخدام الذكاء الاصطناعي داخل شركتك سيئًا تمامًا. وجد تقرير Tech.co لعام 2024 حول التكنولوجيا في مكان العمل أن أولئك الذين استخدموا المزيد من أدوات التعاون والذكاء الاصطناعي أبلغوا عن إنتاجية أعلى ، في حين أن 59% من مستخدمي الذكاء الاصطناعي لديهم رضا وظيفي أكبر.

فيما يلي بعض النصائح لتحقيق أقصى استفادة من الذكاء الاصطناعي:

• تحقق من الدورات التدريبية . تتوفر العديد من المواد التدريبية الخاصة بالذكاء الاصطناعي مجانًا عبر الإنترنت .
• لا تحاول استبدال الوظائف . لا يزال أمام الذكاء الاصطناعي طريق طويل ليقطعه قبل أن يتمكن من استبدال الإنسان بشكل كامل. وجد تقريرنا أن 63% من كبار المتخصصين في القيادة الذين تستخدم مؤسساتهم الذكاء الاصطناعي لكتابة المهام يشيرون إلى أن أدوات الذكاء الاصطناعي لم يكن لها أي تأثير على إزالة الأدوار الوظيفية.
• قصر الذكاء الاصطناعي على روبوتات محددة ومهام محددة . قد يكون ChatGPT أو Claude 3 أفضل الخيارات حاليًا.
• اقرأ عن المطالبات . أفضل المطالبات تحصل على أفضل النتائج، لذلك قمنا بتجميع دليل لاقتراح كيفية التفكير في الكتابة السريعة.

كانت ChatGPT هي أداة الذكاء الاصطناعي الأكثر شيوعًا المستخدمة داخل الشركات في استطلاعنا لعام 2024، ولكن قد تعمل أدوات أخرى بنفس الجودة أو أفضل: وجد أحد اختباراتنا الأخيرة أن Claude 3 كتب نتائج نصية أفضل وأسهل في التحليل عند مقارنتها بـ ChatGPT.

أخيرًا، من المهم أن تتذكر أن روبوتات النصوص أو الصور التوليدية ليست في الواقع "ذكية" - ستحتاج دائمًا إلى دليل بشري للتحقق مرة أخرى من الهلوسة أو الأكاذيب الأخرى قبل أن تختم أي شيء يقدمه الذكاء الاصطناعي.