تحرير نصيرة بنيوال/ جريدة أرض بلادي
تابع الجزء الثاني : الظلال على اللوحة :سلبيات ومخاطر الذكاء الاصطناعي
من فرص العمل والإنصاف والخصوصية والديمقراطية، وصولا إلى التهديدات الأمنية والبيئية، فإن السلبيات المحتملة للذكاء الاصطناعي متعددة ومترابطة.
إن تجاهل هذه الجوانب السلبية أو التقليل من شأنها لا يعد سذاجة فحسب، بل يحمل في طياته قدرا كبيرا من الخطورة. فتبنّي مقاربة مسؤولة في تطوير ونشر تقنيات الذكاء الاصطناعي يفرض بالضرورة التعامل الاستباقي مع هذه المخاطر، مع وضع ضوابط تقنية وأخلاقية وتشريعية متينة.
و سيركز المقال التالي على الكيفية التي تظهر بها هذه المزايا والسلبيات بوجه خاص في مجال حساس للغاية، ألا وهو مجال الصحة.
2.4: الذكاء الاصطناعي والصحة بين الوعود والمخاطر
بعد استعراض المزايا العامة والمساوئ المحتملة للذكاء الاصطناعي، يتناول هذا الجزء أحد المجالات التي يعد فيها أثر الذكاء الاصطناعي في الوقت نفسه واعدا وحساسا بدرجة كبيرة، وهو قطاع الصحة.
كما أشرنا سابقا ، يفتح الذكاء الاصطناعي آفاقا مثيرة لتحسين دقة التشخيص، وتخصيص العلاجات، وتسريع وتيرة البحث الطبي، وتحسين أداء أنظمة الرعاية الصحية.
غير أن إدخال تقنيات بهذه القوة في مجال يمس سلامة الإنسان الجسدية والنفسية يطرح أيضا تحديات أخلاقية واجتماعية وصحية خاصة، بل وحادة للغاية.
وهنا يتناول هذا المقال هذه الازدواجية بتمعن، إذ يفصل أولا المخاطر المباشرة المرتبطة بتطبيق الذكاء الاصطناعي في الرعاية الصحية، ثم يناقش الآثار غير المباشرة على الصحة العامة والعالمية، قبل أن يعالج في النهاية المسألة المستقبلية المتعلقة بما قد يسمى بـ “الأمراض” الناتجة عن الذكاء الاصطناعي.
2.5 المخاطر المباشرة على الرعاية الصحية والمرضى
إن إدماج الذكاء الاصطناعي في الممارسة الطبية اليومية، رغم ما يحمله من آمال كبيرة، لا يخلو من مخاطر مباشرة قد تمس أمن المرضى وسلامتهم ورفاههم.
ولعل من أبرز هذه المخاطر الأخطاء المحتملة التي قد تقع فيها أنظمة الذكاء الاصطناعي المستخدمة في التشخيص أو في اقتراح المسارات العلاجية. فمثلها مثل أي تقنية أخرى، الذكاء الاصطناعي ليس معصوما عن الخطأ. إذ قد ترتكب الخوارزميات أخطاء توصف أحيانا بـ”الهلوسات”، حينما تقدم نتائج غير صحيحة أو غير منطقية من الناحية الواقعية.
فقد يحدث مثلا أن يعجز نظام ذكاء اصطناعي مخصص للتشخيص عن كشف آفة سرطانية قائمة، أو على العكس يشخص وجودها في حين لا وجود لها أصلا، أو يقترح علاجا غير ملائم…
وقد تعود هذه الأخطاء إلى قيود جوهرية في النموذج ذاته، أو إلى قصور أو ضعف في جودة البيانات التي تم تدريبه عليها، أو إلى انحيازات خوارزمية كامنة في البيانات.
فإذا كانت بيانات التدريب لا تمثل بشكل كاف بعض الفئات (كالنساء أو الأقليات العرقية مثلا)، فإن أداء النظام سيكون أضعف مع هذه الفئات، ما يؤدي إلى تشخيصات خاطئة أو إلى علاجات أقل فاعلية، ومن ثم يقود في نهاية المطاف إلى تمييز في الرعاية الصحية…
…..يتبع
