المسؤولية في عصر الأتمتة: من يتحمل المخاطر عندما يتسبب الذكاء الاصطناعي في ضرر؟
تنتقل الأنظمة الذاتية والمنتجات المدعومة بالذكاء الاصطناعي من كونها أدوات تجريبية إلى المشاركة في اتخاذ القرارات التشغيلية. وقد تؤثر في تقييمات الائتمان، والخدمات اللوجستية، وعمليات مكان العمل، والدعم الطبي، والأنظمة الأمنية، والأنشطة الاستثمارية، وخدمات المستهلكين. وعندما تتسبب هذه الأنظمة في خسارة مالية أو إصابة جسدية، نادراً ما يكون السؤال القانوني المحوري هو ما إذا كانت التقنية قد تصرفت باستقلالية. بل يتمثل في ما إذا كان طرف مسؤول قانوناً قد أخفق في تصميم تلك التقنية أو إنتاجها أو نشرها أو الإشراف عليها أو استخدامها.
بالنسبة للشركات والمستثمرين العاملين عبر الحدود، لا يمكن التعامل مع المسؤولية باعتبارها أمراً لاحقاً. وينبغي النظر في توزيع المخاطر قبل أن يصل النظام المؤتمت إلى العملاء أو الموظفين أو الأطراف المقابلة أو الجمهور.
الاستقلالية لا تلغي المسؤولية البشرية أو المؤسسية
قد تنتج أنظمة الذكاء الاصطناعي مخرجات من دون أن يوافق شخص على كل قرار على حدة. ولا تؤدي هذه الاستقلالية التشغيلية بالضرورة إلى فراغ قانوني. ففي معظم تحليلات المسؤولية، يظل التركيز منصباً على الأشخاص والمنظمات المحيطة بالنظام: المطور، والمصنّع، والموزع، والجهة الناشرة، والمالك، والمشغل، والمستخدم.
غالباً ما يكون السؤال ذا طابع واقعي يتوقف على ظروف الحالة: من كان يملك سيطرة فعلية على المخاطر، وما الضمانات المتاحة بصورة معقولة، وما الدور الذي أداه كل طرف في النتيجة الضارة؟ وقد تختلف الإجابة اختلافاً كبيراً بين روبوت صناعي معيب، ومركبة مزودة بوظائف قيادة آلية، وخوارزمية ترفض معاملة مشروعة، وأداة ذكاء اصطناعي توليدي تقدم نصائح غير موثوقة.
التعرض المحتمل للمسؤولية عبر سلسلة التكنولوجيا
قد تنشأ المسؤولية في عدة مراحل من دورة حياة المنتج المؤتمت. وقد يواجه أكثر من طرف التعرض للمسؤولية عندما ينجم الضرر عن مزيج من تصميم المنتج، والتعليمات غير الكافية، والدمج غير الآمن، والاستخدام غير الملائم.
المطورون ومقدمو البرمجيات
قد يخضع مطورو البرمجيات للتدقيق عندما يرتبط الضرر المدعى به ببنية النظام، وممارسات التدريب والاختبار، والقيود المعروفة، ونقاط الضعف في الأمن السيبراني، والمخرجات غير الموثوقة، أو التحذيرات غير الكافية. وقد يأخذ التقييم القانوني في الاعتبار أيضاً ما إذا كان المقدم قد قدم ادعاءات بشأن الأداء أو السلامة لا تدعمها القدرات الفعلية للمنتج.
وبالنسبة لمقدمي الأنظمة القابلة للتكيف أو التي يتم تحديثها باستمرار، تصبح الحوكمة ذات أهمية خاصة. إذ إن التغييرات التي تطرأ على نموذج أو مصدر بيانات أو واجهة أو عتبة قرار قد تغير ملف المخاطر بعد النشر الأولي. ولذلك، قد تكون إدارة الإصدارات الواضحة، وسجلات الاختبار، وإجراءات الحوادث، والتواصل مع العملاء، بالقدر نفسه من الأهمية الذي تتسم به عملية التطوير الأصلية.
المصنّعون والمكاملون والموزعون
عندما تكون البرمجيات مدمجة في منتج مادي، قد تكون للمصنّعين والمكاملين مسؤوليات متميزة. فقد يظل مكوّن برمجي آمن مصدراً للمخاطر إذا تم تركيبه في بيئة غير مناسبة، أو ربطه بمستشعرات غير موثوقة، أو تهيئته بصورة غير صحيحة، أو تسويقه من دون شروط تشغيل كافية.
ينبغي للموزعين والوسطاء التجاريين أيضاً فهم المنتج الذي يطرحونه في السوق. وقد يوفر التوزيع التعاقدي للمخاطر حق الرجوع بين الأطراف التجارية، لكنه قد لا يمنع دائماً مطالبات شخص متضرر أو جهة تنظيمية. والسؤال العملي هو ما إذا كان الطرف المعني قد أجرى مراجعة تقنية وقانونية وتجارية كافية بالنظر إلى الدور الذي اضطلع به.
الجهات الناشرة والمالكون والمستخدمون النهائيون
الشركات التي تشتري أنظمة الذكاء الاصطناعي أو تنشرها ليست مجرد متلقين سلبيين لتكنولوجيا المورد. فقد تتحمل مسؤولية اختيار حالة استخدام مناسبة، والحفاظ على الإشراف البشري، وتدريب الموظفين، وحماية البيانات، ومراقبة النتائج، والاستجابة لإشارات التحذير.
قد يتعرض المستخدم النهائي للمسؤولية عندما ينجم الضرر عن خروج واضح عن التعليمات، أو تعديل غير مصرح به، أو اعتماد متهور على مخرجات النظام، أو عدم التدخل عندما يعمل النظام خارج الظروف المقصودة له. وعلى العكس، لا ينبغي توقع أن يعوض المستخدم عن العيوب أو المخاطر التي كانت مخفية أو موثقة بشكل سيئ أو يستحيل تحديدها من خلال الاستخدام العادي.
كيفية تقييم المسؤولية
من المرجح أن تستند المطالبات المتعلقة بالأتمتة إلى مفاهيم قانونية راسخة، مع اختبار تطبيقها في سياقات تقنية جديدة. وبحسب الوقائع، قد ينطوي النزاع على مسؤولية متعلقة بالمنتج، أو التزامات تعاقدية، أو واجبات مهنية، أو مطالبات قائمة على الإهمال، أو تحريف، أو مسائل تتعلق بحماية البيانات، أو عدم امتثال تنظيمي.
ستكون الأدلة حاسمة. وقد تحتاج الأطراف إلى إثبات كيفية تصميم النظام، والبيانات أو المدخلات التي تلقاها، والإصدار الذي كان قيد التشغيل، وما إذا كان قد استُخدم على النحو المقصود، والتحذيرات التي صدرت، وما إذا كانت النتيجة الضارة متوقعة بصورة معقولة. وقد يكون ذلك صعباً عندما تكون الأنظمة معقدة أو مملوكة أو قابلة للتغير بمرور الوقت.
إن استراتيجية الذكاء الاصطناعي الأكثر قابلية للدفاع ليست الوعد باستقلالية مثالية، بل إرساء مساءلة واضحة قبل وقوع الإخفاق.
ينبغي للعقود أن توزع المخاطر، لا أن تخفيها
تُعد الاتفاقيات المحررة بإحكام أساسية لإدارة مخاطر التكنولوجيا بين الأطراف التجارية. وينبغي أن يتناول العقد نطاق الاستخدام المسموح به، وتوقعات الأداء، وتوزيع المسؤوليات التقنية، وعمليات الاختبار والقبول، وترتيبات الدعم، والتعامل مع البيانات، والأمن السيبراني، وحقوق التدقيق، والإبلاغ عن الحوادث، والتعاون أثناء التحقيقات.
ينبغي تقييم التعويضات، والحدود القصوى للمسؤولية، والاستثناءات، ومتطلبات التأمين في ضوء ملف المخاطر الفعلي للنظام، بدلاً من نسخها من اتفاقية برمجيات معيارية. فقد يحتاج عميل يستخدم الذكاء الاصطناعي في وظيفة إدارية منخفضة المخاطر إلى توزيع مختلف عما يحتاجه مشغل ينشر أنظمة مؤتمتة في بيئات حساسة للسلامة أو ذات آثار مالية جوهرية.
يجب أيضاً تصميم الحماية التعاقدية مع مراعاة حدود قانون العقود. إذ يمكن للاتفاقيات توزيع التعرض التجاري بين الأطراف، لكنها قد لا تلغي بصورة كاملة الواجبات المستحقة للغير أو الالتزامات الناشئة بموجب القواعد الآمرة الواجبة التطبيق.
حوكمة عملية للشركات التي تستخدم الذكاء الاصطناعي
يمكن للشركات تقليل عدم اليقين من خلال إنشاء حوكمة تتناسب مع حجم التكنولوجيا التي تستخدمها وحساسيتها. ولا يُعد ذلك مجرد ممارسة امتثال؛ بل هو وسيلة عملية لحفظ الأدلة، وتحديد المسؤولية، وتحسين اتخاذ القرارات إذا وقع حادث.
- حصر كل نظام ذكاء اصطناعي، ومالكه، والغرض منه، والقرارات التي يمكنه التأثير فيها.
- تصنيف حالات الاستخدام وفقاً للأثر المالي وأثر السلامة والأثر التشغيلي وأثر السمعة المحتمل.
- توثيق العناية الواجبة بشأن المورد، والاختبارات التقنية، والقيود، وقرارات الموافقة.
- تحديد الإشراف البشري، ومسارات التصعيد، والظروف التي يجب فيها عدم اتباع المخرجات المؤتمتة.
- الاحتفاظ بسجلات إدارة التغيير الخاصة بالتحديثات، وإعادة التدريب، وعمليات التكامل، وتغييرات التهيئة.
- إعداد عملية للاستجابة للحوادث تحفظ السجلات ذات الصلة، وتتواصل مع أصحاب المصلحة المتأثرين، وتمكّن من إجراء تقييم قانوني سريع.
نهج استشرافي لمخاطر الذكاء الاصطناعي
نادراً ما تستند المسؤولية القانونية عن الضرر الذي يسببه الذكاء الاصطناعي إلى وصف واحد مثل «المطور» أو «المستخدم». والأرجح أن تتبع المسؤولية سلسلة القرارات التي أنشأت المخاطر ذات الصلة أو أدخلتها أو سيطرت عليها أو تجاهلتها. وبالنسبة للمنظمات العاملة في تركيا أو عبر ولايات قضائية متعددة، ينبغي فحص تلك السلسلة إلى جانب الإطار التعاقدي الواجب التطبيق، وبيئة المنتج، والتوقعات الخاصة بالقطاع، والتعرض عبر الحدود.
قبل إطلاق نظام ذاتي أو اقتنائه أو توسيع نطاقه، ينبغي لصناع القرار الحصول على مشورة قانونية وتقنية مصممة خصيصاً بشأن الاستخدام المقصود، وتوزيع المخاطر، ونموذج الحوكمة. ويمكن للتقييم المبكر أن يساعد الشركات على نشر الابتكار بثقة أكبر مع الحفاظ على مسار واضح للمساءلة عندما لا تؤدي التكنولوجيا عملها على النحو المقصود.