تحدي الثقة في أنظمة الذكاء الاصطناعي
تواجه الشركات تحديًا متزايدًا مع أنظمة الذكاء الاصطناعي التي تستخدمها. فبالرغم من التطور السريع في بناء البنية التحتية التي تزود هذه الأنظمة بالمعلومات، إلا أن الثقة في دقة هذه المعلومات لا تزال ضعيفة. تكشف دراسة حديثة أجرتها VentureBeat Pulse Research أن أغلب الشركات شهدت إجابات واثقة لكنها خاطئة من وكلائها الذكية.
مشكلة السياق المفقود
المشكلة الأساسية تكمن في ما يُعرف بـ “فجوة السياق”. هذا يعني أن هناك فرقًا كبيرًا بين مدى ثقة أنظمة الذكاء الاصطناعي في إجاباتها ومدى موثوقية المعلومات التي تستند إليها. أفادت غالبية الشركات (57%) بأن وكلائها أنتجوا إجابات غير صحيحة، وعزت هذه الأخطاء إلى معلومات غير مكتملة أو غير متسقة. هذه الأخطاء ليست نادرة، إذ أن استرجاع المعلومات هو المصدر الرئيسي للسياق في 38% من الشركات.
حلول قيد التطوير
تعمل الشركات على تطوير حلول لهذه المشكلة. أحد هذه الحلول هو طبقة دلالية محكومة (governed semantic layer)، والتي تهدف إلى تنظيم وتوحيد المعلومات. بدأت 58% من الشركات بالفعل في بناء أو تشغيل هذه الطبقة، لكنها لم تصل إلى الإنتاج الكامل بعد في معظمها. يتجه المجال نحو استخدام أنظمة استرجاع هجينة تجمع بين طرق مختلفة لضمان الحصول على سياق أفضل.
تفضيلات السوق وتوجهاته
تظهر الدراسة اتجاهات متناقضة في السوق:
- الاسترجاع الأصيل للمزودين: أدوات الاسترجاع المدمجة في منصات مثل OpenAI (بحث الملفات) وGoogle (Vertex AI Search) تتفوق بالفعل على قواعد البيانات المتخصصة.
- التفضيل للاستقلالية: على الرغم من هذا التوجه، لا تزال نسبة كبيرة من الشركات (36%) تفضل الاحتفاظ بأدوات مستقلة ومتخصصة بدلاً من الاعتماد الكلي على حزم المزودين.
- تغيير المزودين: تخطط غالبية الشركات (57%) لتغيير أو إضافة مزود جديد خلال العام الحالي.
هذا يشير إلى أن الشركات تشتري أدوات المزودين المدمجة بينما لا تزال ترغب في الحفاظ على استقلاليتها وخياراتها المتعددة.
عينة الدراسة
شملت الدراسة 101 شركة يعمل بها أكثر من 100 موظف، مع تركيز على الشركات متوسطة الحجم. تنوعت الأدوار الوظيفية للمشاركين بين المديرين والمساهمين الفرديين والمسؤولين التنفيذيين. تُقدم النتائج كإشارة توجيهية لفهم الاتجاهات العامة في استخدام الذكاء الاصطناعي في الشركات.
