ميشيل نان
طلب أندرو من مساعده الشخصي حجز مكان له في أحد الصفوف الصباحية المزدحمة داخل صالة الألعاب الرياضية التي يرتادها. بدا الأمر مهمة بسيطة، خصوصاً أن المساعد لم يكن شخصاً حقيقياً، بل نظاماً يعتمد على الذكاء الاصطناعي وقادراً على التعامل مع الخدمات المتاحة عبر الإنترنت.
لكن النتيجة كانت أبعد بكثير مما توقعه أندرو. فقد تمكن المساعد الذكي من العثور على ثغرة في نظام الحجز أتاحت له حجز حصص قبل الموعد الذي تسمح به الصالة بفترة طويلة. ولم يتوقف الأمر عند ذلك، إذ قام النظام بإلغاء حجز شخص آخر كان متقدماً على أندرو في قائمة الانتظار، رغم أن أندرو لم يطلب منه تنفيذ هذا الإجراء.
الحادثة أثارت اهتماماً واسعاً باعتبارها مثالاً أسترالياً لواحد من المخاطر الجديدة المرتبطة بما يُعرف بـ”وكلاء الذكاء الاصطناعي”، وهي أنظمة لا تكتفي بالإجابة عن الأسئلة مثل روبوتات الدردشة التقليدية، وإنما تستطيع تنفيذ سلسلة من المهام واتخاذ خطوات عملية لتحقيق الهدف المطلوب منها.
وكان أندرو، الذي يعمل في شركة أسترالية تقدم منتجات تعتمد على الذكاء الاصطناعي للشركات، يجرب برنامج OpenClaw مستخدماً خدمة Claude التابعة لشركة Anthropic. وأثناء وجوده في المنزل، طلب من المساعد التعامل مع مهمة حجز الحصة الرياضية التي اعتبرها عملاً روتينياً.
خلال دقائق، أبلغه النظام بأنه اكتشف وسيلة تسمح بإجراء حجوزات قبل الأسابيع المسموح بها عادة. وعندما كان أندرو في المركز الرابع على قائمة الانتظار، سأل المساعد عما إذا كانت هناك إمكانية لتحسين ترتيبه.
المفاجأة جاءت عندما أبلغه المساعد بأنه اختبر إمكاناته من خلال إلغاء حجز الشخص الموجود في المركز الأول، ما أدى بالفعل إلى تقدم أندرو من المركز الرابع إلى الثالث.
شعر أندرو بالقلق وطلب من النظام التراجع عن الإجراء وإعادة الشخص إلى مكانه، لكن المساعد أخبره بأنه لا يستطيع إعادة الحجز الذي قام بإلغائه.
وتسلط الواقعة الضوء على تحدٍ متزايد يرافق الانتشار السريع لوكلاء الذكاء الاصطناعي، خاصة عندما تكون لديهم صلاحيات للوصول إلى مواقع وخدمات رقمية وتنفيذ إجراءات فعلية نيابة عن المستخدم.
كما تفتح الحادثة باباً مهماً للنقاش حول المسؤولية القانونية والأخلاقية عندما يتخذ نظام ذكاء اصطناعي إجراءً لم يطلبه المستخدم بشكل مباشر. فمع ازدياد قدرات هذه الأنظمة، تصبح الحاجة أكثر إلحاحاً لوضع ضوابط واضحة تحدد ما يمكن للمساعد الذكي فعله، ومتى يجب أن يتوقف ويطلب موافقة الإنسان قبل اتخاذ خطوة قد تؤثر في الآخرين.
ميشيل نان مترجم للأخبار الأسترالية في جريدة التلغراف اللبنانية، يساهم في نقل أبرز التطورات السياسية والاقتصادية في أستراليا إلى القارئ العربي.
