الذكاء الاصطناعي وخصوصية البيانات وكيفية الحفاظ على سلامة المرضى عبر الإنترنت

لماذا هذا مهم؟

"وعندما نقوم بتقييم المخاطر والفوائد المترتبة على استخدام الذكاء الاصطناعي في مجال الرعاية الصحية، يتعين علينا بناء تعريفات وتوقعات قوية للمساءلة وإطار مدروس لكيفية استخدام الذكاء الاصطناعي لتلبية احتياجات جميع المستخدمين بأمان وفعالية."

عندما نفكر في تجربة المريض، فإننا نفكر عادة في الرعاية السريرية الشخصية. ومع ذلك، من المهم أن نتذكر أن رحلة المريض تبدأ غالبًا في المنزل، مسترشدة بمصادر المعلومات الموجودة على الإنترنت. بصفتي مسوقًا رقميًا ومدافعًا عن صحة المريض العقلية، أشاهد هذا العالم الجديد يتطور في الوقت الفعلي. هناك طلب كبير على خدمات الصحة العقلية، ويتم استخدام الذكاء الاصطناعي لسد الفجوة في الرعاية.

مثل العديد من الشركات، تجمع خدمات الصحة العقلية الافتراضية أكبر قدر ممكن من المعلومات للإعلان لجمهورها المستهدف. في مارس 2023، كشفت شركة Cerebral، وهي خدمة علاج افتراضية، أنها شاركت معلومات صحية محمية لأكثر من 3 ملايين عميل مع عملاء تابعين لجهات خارجية مثل Facebook وTikTok وGoogle ومنصات أخرى عبر الإنترنت. تضمنت هذه البيانات معلومات الاتصال وتواريخ الميلاد وأرقام الضمان الاجتماعي ونتائج تقييمات الصحة العقلية. توصلت شركة أخرى، BetterHelp، إلى تسوية مع لجنة التجارة الفيدرالية الأمريكية لانتهاك مماثل.

ما هي بعض العواقب المترتبة على ذلك؟ بالنسبة لي، كان هذا يعني عرض إعلانات محددة بشكل مزعج عبر حساباتي على وسائل التواصل الاجتماعي. ولأنني استخدمت خدمة علاج افتراضية كشفت عن معلومات صحية محمية لعملاء من جهات خارجية دون إذن، كان المعلنون يعرفون عمري وتشخيصي، ووعدتني الإعلانات التي تم إنشاؤها بواسطة الذكاء الاصطناعي بعلاجات فورية لحالة كنت أعاني منها معظم حياتي.

إن الإلحاح في الإعلانات المستندة إلى معلومات صحية محمية يستغل الأشخاص المعرضين للخطر، ويضغط عليهم "للشراء الآن، قبل ارتفاع الأسعار"، ويعدهم بعلاجات سريعة. وتشير المواد التسويقية بشكل غامض إلى علاجات "مدعومة بالبحث" دون الاستشهاد بدراسات فعلية. وتعد تطبيقات إزالة حساسية حركة العين وإعادة المعالجة (EMDR) ذاتية الخدمة بنفس فعالية مساعدة المتخصصين في علاج اضطراب ما بعد الصدمة. أنا محظوظ لأنني أمتلك مهارات قوية في مجال الصحة والمحو الأمية الرقمية، ولكن في المنتديات عبر الإنترنت التي أشارك فيها بنشاط، أرى الكثير من الأشخاص الذين يصدقون هذه الإعلانات.

الطلب المتزايد على دعم الصحة العقلية

يسلط تقرير حالة الصحة العقلية في أمريكا لعام 2023 الضوء على الحاجة المتزايدة لخدمات الصحة العقلية:

• يعاني 21 بالمائة من البالغين من مرض عقلي، وهذا يعادل أكثر من 50 مليون أمريكي.
• 55 بالمائة من البالغين (28 مليون) الذين يعانون من مرض عقلي لا يتلقون أي علاج.
• 11 بالمائة (5.5 مليون) من الأشخاص الذين يعانون من مرض عقلي ليس لديهم تأمين صحي.
• بالنسبة لـ 23 بالمائة من البالغين الذين يعانون من مرض عقلي، فإن التكاليف تمنعهم من طلب الرعاية.
• أفاد 11 بالمائة من البالغين الذين حددوا أنفسهم بالانتماء إلى عرقين أو أكثر أنهم راودتهم أفكار انتحارية جدية.
• يوجد 350 فردًا لكل مقدم رعاية للصحة العقلية في الولايات المتحدة.

ويعرب العديد من رواد المنتديات الإلكترونية التي يرتادها مجتمع الصحة العقلية في الولايات المتحدة عن إحباطهم الشديد إزاء افتقارهم إلى القدرة على الوصول إلى العلاج أو عدم رضاهم عن المساعدة التي يمكنهم الحصول عليها. ولجأ البعض إلى الذكاء الاصطناعي كمعالج نفسي، فسكبوا قلوبهم على جوجل بارد وتشات جي بي تي، غير عابئين بحقيقة مفادها أن ما يكتبونه يذهب إلى بحيرة ضخمة من البيانات لاستخدامها بطرق غير معروفة في المستقبل.

تستخدم بعض خدمات الصحة العقلية الذكاء الاصطناعي للدردشة مع المرضى الذين يطلبون المساعدة. في أواخر عام 2022، أطلقت إحدى الخدمات برنامجًا تجريبيًا دون توضيح أن المرضى كانوا يتفاعلون مع الروبوتات. لم يتم تحديد الموافقة المستنيرة للشركة بوضوح، وفقد الأشخاص الذين علموا في النهاية أنهم لم يتلقوا الرعاية من إنسان الثقة في الجلسات. بعد أن أعلنت الشركة، المسماة كوكو، عن هذه التجربة ، اندلعت مناقشات ساخنة على وسائل التواصل الاجتماعي. جادلت الشركة بأن خدماتها لا ينبغي أن تتطلب تدقيق مجلس مراجعة مؤسسي لأنها، من بين ادعاءات أخرى، لم تكن تنوي نشر نتائجها. وجادل آخرون بأنه كان يجب إشراك مجلس مراجعة مؤسسي لأن بحث كوكو تضمن مواضيع بشرية. كما أعرب المنتقدون عن قلقهم بشأن افتقار الذكاء الاصطناعي إلى التعاطف والفروق الدقيقة والمخاطر الكبيرة المحتملة للمرضى في الأزمات.

الجوانب الإيجابية للذكاء الاصطناعي في مجال الصحة العقلية

لقد أقامت نفس الشركة التي استخدمت الروبوتات للتحدث إلى المرضى شراكة مع شركات وسائل التواصل الاجتماعي لمراقبة المحتوى. ويفهم نظامهم اللغة المشفرة - مثل "su1c1d3" بدلاً من "الانتحار" - ويتواصل مع الأشخاص الذين ينشرون منشورات ذات محتوى حساس، ويتحقق لمعرفة ما إذا كانوا في محنة، ويعرض عليهم ربطهم بالموارد للحصول على المساعدة.

بعد مشاركة منشور حول بعض ما تعلمته عن تشخيصي، اتصل بي أحد روبوتات هذه الشركة وسألني عما إذا كنت أعاني من أزمة. كان يتواصل معي كل بضعة أيام لمعرفة ما إذا كنت بحاجة إلى التحدث إلى شخص ما. وبينما لم أكن بحاجة إلى المساعدة في ذلك الوقت، فقد كنت ممتنًا لرؤية الرسالة، خاصة وأنني كنت على منصة تحظى بشعبية بين المجتمعات المهمشة التي تعاني بشكل متكرر من التنمر والتمييز.

وبينما نقوم بتقييم المخاطر والفوائد المترتبة على استخدام الذكاء الاصطناعي في الرعاية الصحية، يتعين علينا أن نبني تعريفات وتوقعات قوية للمساءلة وإطار عمل مدروس لكيفية استخدام الذكاء الاصطناعي لتلبية احتياجات جميع المستخدمين بأمان وفعالية. ولابد أن ترحب هذه العملية بجميع المجتمعات في تطوير وإدارة هذه الخدمات. ومن شأن العوامل التي تشمل ما يلي أن تساعد في ضمان تجربة آمنة للمريض:

1. تحديد التعريفات والأدوار الخاصة بالمساءلة عن الامتثال وإعداد التقارير والإشراف والتنفيذ.
2. إشراك مجموعة واسعة من وجهات النظر وأصحاب المصلحة في تقييم المخاطر وإدارتها ⁽³⁾
3. الالتزام بإطار عمل مبني على هدف الثقة .
4. حماية المستخدمين من الأنظمة غير الآمنة أو غير الفعالة.
5. تصميم الخوارزميات بطريقة عادلة لمنع التمييز.
6. ضمان خصوصية البيانات وبناء الحماية من الانتهاكات المحتملة.
7. جعل عملية الموافقة المستنيرة شفافة بما يكفي حتى يفهم المرضى متى يتفاعلون مع الذكاء الاصطناعي ومخاطره.
8. ينبغي أن تكون خيارات الانسحاب والوصول إلى المساعدة الإنسانية متاحة لأولئك الذين يريدونها.

مع وجود الملايين من الناس الذين يسعون للحصول على المساعدة فيما يتصل بالصحة العقلية، هناك فرصة لجعل الذكاء الاصطناعي أصلاً فعالاً ومبدعاً، ولكن ينبغي لنا أن نمضي بحذر. ومع قيام شركات الأسهم الخاصة وشركات التكنولوجيا العملاقة بضخ الأموال في تطبيقات جديدة قد تقدم وعوداً نبيلة، فلا ينبغي لنا أن نتجاهل الحواجز والسياسات المتعلقة بالسلامة. وسوف تكون المشاركة النشطة للمرضى الذين يعيشون مع أمراض عقلية ضرورية لتشكيل الخدمات المخصصة لمساعدتهم.

لي فروست هو مدير عمليات التسويق في IHI ومدافع عن المرضى.

قد تكون مهتمًا أيضًا بـ:

الذكاء الاصطناعي في الرعاية الصحية: بيتر لي يتحدث عن التعاطف والتمكين والمساواة

الجيل الحالي من أدوات الذكاء الاصطناعي: ثلاثة اعتبارات لقادة الجودة