البشر لا يثقون به.. 97% من مستخدمي الذكاء الاصطناعي يتجاوزون توصياته

يكشف تقرير حديث أن 97.2% من مستخدمي الذكاء الاصطناعي يتجاوزون توصياته في بعض الحالات على الأقل، بينما يتجاوز 79% من المستخدمين توصياته في أكثر من 10% من الحالات.
ولم تعد الشركات تستخدم الذكاء الاصطناعي فقط للحصول على إجابات أو تحليل البيانات، بل بدأت تنقل إليه جزءًا من عملية اتخاذ القرار نفسها، لكن تقريرًا حديثًا لشركة إس إيه إس لتطوير برمجيات تحليل البيانات والذكاء الاصطناعي، يكشف عن مفارقة واضحة، وهي أن استخدام الذكاء الاصطناعي يتقدم بسرعة أكبر من الثقة فيه.
وحسب التقرير، يثق 66% من المشاركين في الذكاء الاصطناعي الوكيل، أي الأنظمة القادرة على تنفيذ المهام واتخاذ إجراءات بدرجة أكبر من الاستقلالية، مقابل 76% للذكاء الاصطناعي التوليدي.
ويشير التقرير إلى أن نحو 89% من المشاركين أصبح لوكلاء الذكاء الاصطناعي دور في عملية اتخاذ القرار داخل مؤسساتهم، سواء من خلال تقديم المعلومات التي يعتمد عليها القرار البشري أو اتخاذ إجراءات بصورة أكثر استقلالية.

وتعني هذه الأرقام أن الشركات انتقلت بالفعل من مرحلة استخدام الذكاء الاصطناعي لإنتاج النصوص أو التحليلات إلى مرحلة أكثر حساسية اقتصاديًا، يصبح فيها النظام جزءًا من عملية التشغيل نفسها.
ويأتي غياب التفسير على رأس أسباب رفض توصيات الذكاء الاصطناعي، بنسبة 34.5% من الحالات، ما يعني أن المشكلة ليست دائمًا في قدرة النظام على الوصول إلى النتيجة، وإنما في عدم قدرة المستخدم على فهم الطريقة التي وصل بها إليها.
ويأتي بعد ذلك عدم انعكاس السياق الكامل للحالة بنسبة 25.6%، ثم التحيز أو عدم العدالة بنسبة 16.9%، والأخطاء الواقعية بنسبة 14.8%، والمخاوف الأمنية بنسبة 8.3%.
وبذلك، فإن أكبر عقبة أمام توسيع الاعتماد على الذكاء الاصطناعي ليست بالضرورة تكلفة التكنولوجيا نفسها، وإنما قدرة الشركات على جعل قراراتها مفهومة وقابلة للمراجعة.