لماذا تعتبر روبوتات الدردشة العلاجية بالذكاء الاصطناعي المعضلة الأخلاقية النهائية؟

يتم استخدام روبوتات الدردشة المولدة بالذكاء الاصطناعي مثل ChatGPT لتبسيط عمليات مكان العمل، وكتابة التعليمات البرمجية، وحتى كتابة البرامج النصية لمجموعات الكوميديا ​​الارتجالية. في الولايات المتحدة، حيث تصل حالات القلق والاكتئاب إلى مستويات قياسية، ويظل الدعم المهني ممتدًا، ليس من المستغرب أن يستخدم المستخدمون أيضًا التكنولوجيا للمساعدة في إدارة صحتهم العقلية.

تقدم روبوتات الدردشة المدعمة بالذكاء الاصطناعي مثل Elomia وPi وWoebot دعمًا شخصيًا وبأسعار معقولة على مدار الساعة طوال أيام الأسبوع، استنادًا إلى تقنيات العلاج المجربة والمختبرة. بدءًا من مساعدة المستخدمين على تجنب قوائم الانتظار الطويلة وحتى تقليل وصمة العار المحيطة بالحصول على المساعدة، فإن فوائدها هائلة. هل يمكن مقارنة الذكاء الاصطناعي التوليدي - الذي لا يزال عرضة للأخطاء والهلوسة والتحيز - بتعاطف الأذن البشرية؟

تحدثنا إلى الأكاديميين وعلماء النفس والمعالجين الممارسين لتسليط الضوء على الكيفية التي من المحتمل أن تشكل بها التكنولوجيا الناشئة مستقبل العلاج. نناقش أيضًا الجانب الأكثر غموضًا في العلاج بالذكاء الاصطناعي ونحدد المخاوف الأخلاقية التي يجب معالجتها اليوم. وهنا ما وجدناه.

روبوتات الدردشة بالذكاء الاصطناعي: الجيل الجديد من المعالجين الآليين

منذ إطلاق Chatbot الخاص بـ OpenAI لأول مرة في نوفمبر الماضي، ظهر جيش من مقلدي chatbot في متاجر التطبيقات - بدءًا من تطبيقات الاستخدام العام مثل Google Bard و Claude AI إلى محاكيات شخصيات Marvel الأقل تقليدية.

وقد أدى هذا السوق المزدهر أيضًا إلى ظهور روبوتات الدردشة العلاجية بالذكاء الاصطناعي - وهي التطبيقات التي تستخدم الذكاء الاصطناعي التوليدي لتقليد النصائح والإرشادات التي يقدمها المعالجون المؤهلون ومتخصصو الصحة العقلية.

تشمل الأمثلة الرئيسية Pi الذي نصب نفسه "رفيقًا ودودًا للدردشة" والذي يعمل بمثابة لوحة صوت ويقدم الدعم العاطفي؛ Replika، وهو برنامج chatbot يحاكي أسلوب التحدث وشخصية مستخدميه؛ وEarkick، أداة تعقب القلق المصممة لمساعدتك على التعامل مع المشاعر الصعبة والتعامل معها.

"توفر المنصات القائمة على الذكاء الاصطناعي الخصوصية، مما يقلل من وصمة العار المرتبطة غالبًا بطلب المساعدة فيما يتعلق بمخاوف الصحة العقلية." – ريان سلطان، طبيب نفسي معتمد وأستاذ بجامعة كولومبيا

مثل أفضل تطبيقات الصحة العقلية ، تتميز العديد من هذه التطبيقات بالفعل بمعدلات تنزيل تصل إلى ستة أرقام - ولا تعد شعبيتها مفاجئة. نظرًا لندرة علماء النفس المؤهلين والأطباء النفسيين والأخصائيين الاجتماعيين، بالإضافة إلى الارتفاع الكبير في الطلب على الخدمات في جميع أنحاء البلاد، تتصارع الولايات المتحدة حاليًا مع واحدة من أسوأ أزمات الصحة العقلية على الإطلاق.

كما أن التكلفة المرتفعة للعلاج التقليدي والمحظورات المتعلقة بالصحة العقلية تمنع الكثيرين من متابعة الخيارات التقليدية، مما يخلق فجوة أمام بدائل أكثر سرية وبأسعار معقولة.

تشير الأدلة المبكرة إلى أنها فعالة أيضًا. كشفت النتائج التي توصل إليها Earkick من AI Chatbot أن مزاج المستخدم تحسن بنسبة 34% وانخفضت مستويات القلق بنسبة 32% بعد الالتزام بالتطبيق لمدة خمسة أشهر. ومع ذلك، على الرغم من نجاح هذه التطبيقات في تهدئة المخاوف البسيطة، إلا أنها بالتأكيد ليست الدواء الشافي للصحة العقلية الذي كنا ننتظره جميعًا.

روبوتات الدردشة المدعمة بالذكاء الاصطناعي غير مناسبة لحالات الصحة العقلية الخطيرة

إن تلقي نصيحة معقولة ومعتمدة من المعالج من برنامج دردشة آلي بحجم الجيب سيكون بلا شك مفيدًا للكثيرين. ومع ذلك، فإن أولئك الذين يعانون من حالات صحية عقلية حادة مثل الاكتئاب والفصام والاضطراب ثنائي القطب من المرجح أن يتم تركهم دون تغيير.

الاضطرابات النفسية معقدة ودقيقة للغاية وفريدة من نوعها لكل شخص تؤثر عليه. في بعض الحالات، تتم إدارتها بشكل أفضل باستخدام الأدوية التي لا يمكن وصفها بشكل صحيح إلا من قبل المتخصصين الطبيين المؤهلين. وفي حين تطورت نماذج اللغة الكبيرة (LLMs) على قدم وساق في السنوات الأخيرة، فإن إنتاجها لن يكون قادرا أبدا على استبدال الخبرة السريرية، والتعاطف، والتعاطف التي يقدمها الأطباء النفسيون، وعلماء النفس، والمعالجون.

"أقدر أن الخوارزميات قد تحسنت، ولكن في النهاية لا أعتقد أنها ستعالج الحقائق الاجتماعية الأكثر فوضوية التي يعيشها الناس عندما يطلبون المساعدة" - جوليا براون، أستاذة الأنثروبولوجيا في جامعة كاليفورنيا، سان فرانسيسكو

يعتقد المعالج النفسي الاستراتيجي أنانت بيشت أيضًا أن الذكاء الاصطناعي، في حالته الحالية، لن يكون قادرًا على مساعدة كل مستخدم في رحلة الشفاء المعقدة. يقول بيشت لـ Tech.co: "من الضروري أيضًا تجنب المبالغة في تبسيط مشكلات الصحة العقلية المعقدة وتشجيع المستخدمين على طلب المساعدة المهنية عند الحاجة".

ومن المخاوف الشائعة الأخرى التي أعرب عنها الخبراء الذين تحدثنا إليهم هو التشخيص الطبي الخاطئ. يواجه مجتمع الصحة العقلية مشكلة طويلة الأمد تتعلق بتحديد الاضطرابات النفسية المعقدة والشديدة بشكل صحيح، ومن المحتمل أن يؤدي الاعتماد الكبير على الذكاء الاصطناعي إلى تفاقم هذه المشكلة، بسبب محدودية التقنيات ومجموعات البيانات غير التمثيلية وعدم القدرة على تفسير الفروق الدقيقة البشرية.

نتائج هذا يمكن أن تكون صارخة أيضا. غالبًا ما يؤدي التشخيص الخاطئ للصحة العقلية إلى عدم كفاية العلاج والدعم، وضغوط نفسية إضافية، وتشكك طويل المدى في النظام الطبي. وليس هذا هو السبب الوحيد الذي يجعل الذكاء الاصطناعي غير صالح لتجاوز كرسي المعالج بشكله الحالي.

الذكاء الاصطناعي معيب ومحاط بالتحديات الأخلاقية

لم يأتِ الصعود السريع للذكاء الاصطناعي التوليدي دون عواقب. مع استمرار التكنولوجيا في التطور بسرعة مذهلة، كان التنظيم المتعلق باستخدامها بطيئًا في اللحاق بالركب، مما ساهم في سلسلة من التحديات الأخلاقية المتعلقة بخصوصية البيانات، والتحيز المضمن، وسوء الاستخدام.

هذه المخاوف لا تقتصر على العلاج، ولكن الطبيعة الحساسة للصحة العقلية تعني أن الأطر الأخلاقية هي جوهر أي علاقة علاجية جيدة. ومع عدم وجود مدونة أخلاقيات رسمية للذكاء الاصطناعي حاليًا، فإن اعتماد المستخدمين على روبوتات الدردشة بدلاً من المتخصصين المؤهلين للحصول على الاستشارة أو غير ذلك من أشكال دعم الصحة العقلية يمثل مشكلة كبيرة.

خصوصية البيانات هي إحدى القضايا الرئيسية. لقد تعرضت روبوتات الدردشة مثل ChatGPT في كثير من الأحيان إلى موقف محرج بسبب فشلها في حماية بيانات المستخدم . لكي يشعر المستخدمون بالارتياح عند مناقشة المعلومات الشخصية الخاصة، ستحتاج شركات الذكاء الاصطناعي إلى اتباع استراتيجية مضمونة لحماية البيانات تعطي الأولوية للسرية.

"إن الطبيعة الحميمة والحساسة للمحادثات العلاجية تتطلب مستوى لا مثيل له من حماية البيانات." – دكتور لانجهام، عالم نفسي في العلاج الاندفاعي

هناك عامل مهم آخر يجب أن تكون على دراية به وهو تحيز التعلم الآلي. تعتمد جميع أنظمة الذكاء الاصطناعي على بيانات تدريب محددة مسبقًا، والتي غالبًا ما تتضمن تحيزات بشرية مدمجة حتى لو تمت إزالة المتغيرات الحساسة مثل العرق والجنس.

وفقًا لبايو بريهانديتو، الرئيس التنفيذي لشركة Life Architekture لتدريب الحياة ، إذا تم تدريب الذكاء الاصطناعي على البيانات المتحيزة، "فقد يؤدي ذلك إلى إدامة التحيزات الحالية أو تفاقمها، مما يؤدي إلى توصيات علاجية غير عادلة". من المرجح أن تؤثر هذه التحيزات المتأصلة على الأشخاص من الأقليات بشكل أكبر أيضًا، مما يسلط الضوء على أهمية الرقابة البشرية ومجموعات بيانات التدريب المتنوعة والتمثيلية.

الذكاء الاصطناعي كمساعد للمعالجين، وليس كبديل

سوف تزداد شعبية الرفاق الودودين مثل Pi وWoebot مع استمرار المستخدمين في البحث عن طرق يمكن الوصول إليها لتكملة صحتهم العقلية. ومع ذلك، ونظرًا لمجموعة واسعة من المخاوف الأخلاقية، فإن الذكاء الاصطناعي ليس جاهزًا ليحل محل دور العلاج التقليدي، ولا ينبغي له ذلك أبدًا.

هذا لا يعني أن التكنولوجيا الناشئة لن يكون لها تأثير هائل على الممارسة ككل. يعتقد معظم الممارسين الذين تحدثنا إليهم أنه من خلال تنفيذ العمل الشاق مثل الفرز، ستكون أدوات الذكاء الاصطناعي قادرة على منحهم المزيد من الوقت والطاقة لوضعها في مجالات أخرى من الممارسة.

"على الرغم من أنه لا يمكن أن يحل محل الاتصال الإنساني العميق الذي يقدمه المعالجون، إلا أنه يمكن أن يكون بمثابة أداة تكميلية." – أنانت بيش، مدرب نفسي للأعمال

وقال بايو بريهانديتو لـ Tech.co: "يمكن للذكاء الاصطناعي التعامل مع التقييمات الأولية، والمراقبة المستمرة، وتقديم الدعم للحالات الأقل تعقيدًا، مما يسمح لنا بالتركيز على المواقف الأكثر خطورة أو حساسية"، مضيفًا: " إن الأمر يشبه وجود مجموعة إضافية من الأيدي التي تكون دائمًا متاح."

يوافق سلطان، الأستاذ بجامعة كولومبيا والطبيب النفسي المعتمد، على ذلك، حيث أخبر موقع Tech.co أنه في غضون خمس سنوات، من المرجح أن يكمل الذكاء الاصطناعي العلاج التقليدي من خلال تبسيط المهام الإدارية، ومساعدة الممارسين على إنشاء خطط علاجية أكثر تخصيصًا، و " إنشاء نماذج هجينة تجمع بين الخبرة البشرية والذكاء الاصطناعي". أدوات مدفوعة لتعزيز العلاج ".

يشير هذا إلى أنه بعيدًا عن استنزاف ممارسات إنسانيته، يتمتع الذكاء الاصطناعي في الواقع بالقدرة على تحرير المهارات البشرية مثل التعاطف والتواصل والرحمة، مما يساعد العملاء على تحقيق المزيد من الاستفادة من الخدمة.

ومع ذلك، فإن الاهتمام بالصحة العقلية أمر خطير ويمكن أن يكون في كثير من الأحيان مسألة حياة أو موت. قبل أن يصبح الذكاء الاصطناعي مساعدًا لكل معالج، أو يحل محله بالفعل، لا بد من النظر في لوائح صارمة حول نشره واستخدامه.

وإلى أن يأتي هذا الوقت، لا يمكن التوفيق بين الإمكانات الواضحة لروبوتات الدردشة المدعومة بالذكاء الاصطناعي لتحسين الوصول إلى دعم الصحة العقلية بشكل كامل والمخاطر التي تشكلها. وفي عالم حيث المعضلات الأخلاقية غالباً ما تكون متساوية، فإن هذه المعضلة أكبر من أن نتجاهلها.