أكثر من 300 حادثة في شهر واحد.. دراسة تكشف انتشار حالات هروب الذكاء الاصطناعي | تكنولوجيا

شهد يوليو/تموز ارتفاعا في معدل حالات هروب نماذج الذكاء الاصطناعي وخروجها عن طوع مستخدميها عبر الكذب والخداع وحتى تجاهل أوامر المستخدمين، فضلا عن محاولتها تحقيق أهدافها بغض النظر عن سلامة الطريقة التي تتبعها، حسب دراسة أجراها مرصد “لوس أوف كنترول”.

ويختص المرصد المنشأ حديثا بتمويل من معهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية بتتبع حالات خروج أنظمة الذكاء الاصطناعي ووكلائها عن التعليمات الأولية من المستخدمين، وبدأ المرصد عمله في نوفمبر/تشرين الثاني الماضي وفق تقرير صحيفة “غارديان” عن الأمر.

ومنذ ذلك الوقت، سجل المرصد العديد من الحالات المختلفة مشيرا إلى تضاعف معدل خروج الذكاء الاصطناعي في يوليو/تموز مقارنة بيونيو/حزيران السابق، إذ وصل إجمالي الحالات إلى 300.

وكيل ينتحل شخصية مستخدمه

ويعرف المرصد حالات هروب الذكاء الاصطناعي بأنها الحالات التي يفقد فيها المستخدم البشري سيطرته على وكيل الذكاء الاصطناعي الذي يقوم بتشغيله مع ظهور أدلة واضحة على تآمر الوكيل وتخطيطه للخروج عن السيطرة.

وفي هذا السياق، كشف تقرير موقع “ديجيتال تريندز” التقني الأمريكي عن حالة انتحل فيها وكيل ذكاء اصطناعي شخصية المستخدم البشري وقلّد أسلوبه في الكتابة ليوجه لنفسه أوامر تمكنه من الخروج عن التعليمات الأساسية التي أصدرها له المستخدم.

من المختبر إلى صالة الألعاب الرياضية

ومن جانبه، أوضح تومي شافر-شين مدير السياسات الأول في مركز “لونغ تيرم ريزيليانس” ضمن حديثه مع “غارديان” أن سلوكيات الذكاء الاصطناعي الخبيثة والتآمر للهروب من سيطرة المستخدمين البشر لم تعد قاصرة على الاختبارات المعملية والنماذج الاختبارية فقط.

وأضاف: “نرى سلوكيات مقلقة مماثلة في حالات الاستخدام الأخرى، لذا يجب ألا نكون متراخين تجاه احتمال حدوث هذه الأشياء في العالم الحقيقي”.

اقرأ أيضا: «الأرصاد»: انخفاض طفيف في درجات الحرارة.. وشبورة مائية صباحاً

ويأتي تقرير المرصد عقب هروب عدة وكلاء ذكاء اصطناعي من بيئة اختبارية تابعة لشركة “أوبن إيه آي” الأمريكية، ثم اختراقهم لمنصة “هاغينغ فيس” الأمريكية لاستضافة نماذج الذكاء الاصطناعي في يوليو/تموز الماضي.

ولا تعد هذه الحالة الوحيدة لهروب نماذج الذكاء الاصطناعي، إذ قامت بذلك أيضا نماذج من شركة “أنثروبيك” الأمريكية و”ميتا” أيضا، فضلا عن حدوث حالة اختراق وحيدة من وكيل ذكاء اصطناعي شخصي لأحد المستخدمين، وفيها اخترق الوكيل نظام الحجز في صالة رياضية لتغيير موقع حجز مالكه وتقديمه على الآخرين.

لا طريقة لكشف الحالات إلا منصات التواصل

وأفاد تقرير “ديجيتال تريندز” بأن المرصد تمكن من تسجيل أكثر من 1600 حالة هذا العام فقط عبر متابعة منصات التواصل الاجتماعي وتحديدا منصة “إكس”، وذلك في ظل غياب آلية رسمية لتتبع حالات هروب نماذج الذكاء الاصطناعي بشكل مباشر من الشركات أو الحكومات.

ويؤكد التقرير الحاجة إلى وجود آلية مراقبة وتحذير عالمية فور ظهور حالات الاختراق بدلا من الاكتشاف العرضي أو الاعتماد على منصات التواصل الاجتماعي لمتابعة مثل هذه الحالات، مشيرا إلى أن العدد الفعلي لحالات الهروب قد يتخطى ما يبلغ عنه المستخدمون في منصة “إكس”.