الذكاء الاصطناعي في الرعاية الصحية يدخل سير العمل قبل وصول الضوابط

لم يعد الذكاء الاصطناعي في الرعاية الصحية مجرد تجربة جانبية. بل أصبح جزءا من الممارسة الرقمية اليومية، من سير عمل الأطباء إلى الخدمات الموجهة للمرضى. والجزء المقلق هو أن وتيرة التبني أسرع من الآليات اللازمة لإدارته بأمان. وفي هذه الفجوة، لا يكمن الخطر الحقيقي في المخرجات السيئة فحسب، بل أيضا في ضعف الرؤية حول أين يُستخدم الذكاء الاصطناعي، ومن المسؤول عنه، وكيف تتم مراقبته.

حقائق سريعة

• يستخدم الأطباء والممرضون ومرافق الرعاية الصحية والمواطنون أدوات الذكاء الاصطناعي على نحو متزايد في الرعاية الصحية الرقمية.
• يتسارع التبني، لكن الحوكمة حول المنصات والتدريب والقواعد لا تزال غير كافية.
• في الاتحاد الأوروبي، قد يخضع الذكاء الاصطناعي المخصص للأغراض الطبية لمتطلبات عالية المخاطر تشمل الإشراف البشري والصلابة والأمن السيبراني.
• يمكن أن يخلق الذكاء الاصطناعي الصحي مخاطر سيبرانية ومخاطر تتعلق بالخصوصية إذا كانت المطالبات أو السجلات أو بيانات التدريب تحتوي على معلومات حساسة.
• قد يؤدي غياب جرد لأدوات الذكاء الاصطناعي إلى ترك المؤسسات من دون رؤية لاستخدام غير معتمد أو ضعيف التحكم.

الفجوة التشغيلية خلف الحماس

السؤال الأساسي ليس ما إذا كانت الرعاية الصحية ستستخدم الذكاء الاصطناعي، فهي تستخدمه بالفعل. السؤال هو ما إذا كانت المؤسسات تبني الضوابط التشغيلية اللازمة للتعامل مع الذكاء الاصطناعي باعتباره نظاما ذا صلة بالسلامة، لا مجرد أداة إنتاجية أخرى. وهذا يعني معرفة الأدوات المستخدمة، والبيانات التي تلامسها، وما إذا كانت المخرجات تُتحقق منها، وكيف يُدرَّب الموظفون على التشكيك فيها عندما تكون خاطئة.

وتكتسب هذه النقطة أهمية لأن الذكاء الاصطناعي في الرعاية الصحية غالبا ما يكون قريبا من الحكم السريري. فعندما يؤثر نموذج في التوثيق أو الأولويات أو دعم القرار، فإن عواقب سوء الإعداد أو الإفراط في الثقة قد تمتد إلى ما هو أبعد من إزعاج تقنية المعلومات. والاتجاه التنظيمي الأوروبي واضح في هذا الصدد: فالأنظمة عالية المخاطر تحتاج إلى تخفيف للمخاطر، وإشراف بشري، وممارسات بيانات متينة، وتدابير أمن سيبراني ليست إضافات اختيارية.

ومن منظور دفاعي، يمكن أن تخلق فجوة التبني والحوكمة أيضا مخاطر الذكاء الاصطناعي الظلي. فإذا بدأ الأطباء أو الإداريون باستخدام أدوات عامة خارج سير العمل المعتمد، فقد تفقد المؤسسات تتبع أين تتدفق المعلومات الحساسة وأي مخرجات للذكاء الاصطناعي تشكل القرارات بهدوء. وهذه مشكلة سيبرانية بقدر ما هي مشكلة امتثال، لأن السجلات وضوابط الوصول وإدارة الموردين تصبح جميعها جزءا من سلامة المرضى.

والدرس الأوسع هو أن أنظمة الصحة لا تحتاج فقط إلى المزيد من الذكاء الاصطناعي. بل تحتاج إلى إطار تحكم حول الذكاء الاصطناعي: جرد، ومراجعة، ومراقبة، وتصعيد، وتدريب للموظفين. ومن دون ذلك، قد تسبق الابتكارَ المساءلةُ، والمساءلة هي الجزء الذي يحمي الثقة والرعاية معا.

في وقت كتابة هذا المقال، تدعم المعلومات العامة تحليلا للمخاطر، لا ادعاء حاسما بأن جميع عمليات النشر غير آمنة أو أن كل مؤسسة تواجه فجوة نضج متشابهة.

الخلاصة

سيستمر الذكاء الاصطناعي في الرعاية الصحية في الانتشار لأن مكاسب الكفاءة حقيقية. لكن المرحلة التالية من النضج ستقاس بدرجة أقل بمدى اتساع تبني هذه الأدوات، وبدرجة أكبر بمدى جودة حوكمتها. وفي الصحة الرقمية، قد يتبين أن أقوى ضابط أمني هو الأبسط: معرفة ما الذي يفعله الذكاء الاصطناعي بالضبط، وأين، وتحت إشراف من.

ويكيكروك

• قانون الذكاء الاصطناعي: قانون الاتحاد الأوروبي الذي يضع التزامات على أنظمة الذكاء الاصطناعي عالية المخاطر، بما في ذلك العديد من الاستخدامات الطبية.
• الإشراف البشري: ضابط يبقي الشخص قادرا على مراجعة قرارات الذكاء الاصطناعي أو تجاوزها أو إيقافها.
• الذكاء الاصطناعي الظلي: استخدام غير معتمد أو غير متتبع للذكاء الاصطناعي داخل مؤسسة ما.
• حوكمة البيانات: القواعد والضوابط التي تحدد كيفية الوصول إلى البيانات واستخدامها وتخزينها وحمايتها.
• نظام دعم القرار السريري: برنامج يساعد العاملين في الرعاية الصحية على تقييم المعلومات واتخاذ الخيارات السريرية.