إضافة ميزة الاتصال بخدمات الطوارئ عبر Meta AI للمستخدمين في حالات الخطر الوشيك

أعلنت شركة ميتا، المالكة لمنصات فيسبوك وإنستجرام، عن إطلاق ميزة تقنية مبتكرة تعتمد على الذكاء الاصطناعي، تهدف إلى إخطار أولياء الأمور بشكل استباقي إذا أشارت محادثات أبنائهم المراهقين مع مساعد "Meta AI" إلى وجود مؤشرات تدل على التفكير في إيذاء النفس أو الانتحار.

تأتي هذه الخطوة في إطار توسيع حزمة إجراءات السلامة الرقمية المخصصة للمستخدمين صغار السن، وذلك في محاولة جادة من الشركة لتقليل المخاطر النفسية الناتجة عن التفاعل مع التقنيات الحديثة، وضمان توفير بيئة رقمية أكثر أمناً وداعمة للشباب والمراهقين.

آليات العمل: تنبيهات ذكية وموارد دعم للأهالي

أوضحت الشركة أن المساعد الذكي الخاص بها يقوم بتوجيه المراهقين تلقائيًا إلى جهات الدعم النفسي المختصة فور اكتشاف محادثات حساسة، مع تشجيعهم بقوة على التواصل مع شخص بالغ موثوق به في حياتهم اليومية للحصول على المساندة اللازمة لتجاوز أزماتهم.

ومع التحديث الجديد، سيحصل أولياء الأمور أو الأوصياء على إشعار استباقي يفيد باحتمالية تعرض المراهق للخطر، مرفقاً بمجموعة غنية من الإرشادات والموارد العلمية التي تساعدهم على التعامل بفعالية مع هذا الموقف الحساس ودعم أبنائهم بالشكل النفسي والتربوي السليم.

الجمع بين الذكاء الاصطناعي والمراجعة البشرية لضمان الدقة

أكدت ميتا أنها طورت نظاماً متطوراً يعتمد على خوارزميات الذكاء الاصطناعي لرصد هذه المحادثات الخطيرة، إلا أنها حرصت على أن تخضع جميع الحالات التي يحددها النظام لمراجعة بشرية متخصصة قبل إرسال أي تنبيه، وذلك بهدف تقليل احتمالات الإنذارات الخاطئة والحفاظ على خصوصية المستخدمين.

ومع ذلك، أشارت الشركة إلى أنها ستفضل دائماً إرسال الإشعار للأهل في حال ظل هناك شك ولو بسيط في وجود خطر محتمل على حياة المراهق، مؤكدة أن السلامة الشخصية للمستخدمين تظل دائماً فوق الاعتبارات الأخرى، وهي أولوية قصوى لا تهاون فيها لدى الشركة.

تتوفر هذه الميزة حالياً للمستخدمين الذين يعتمدون على خاصية الإشراف الأبوي عبر منصة إنستجرام في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا، مع وجود خطة استراتيجية لدى الشركة لتوسيع نطاق هذه الخدمة لتشمل كافة دول العالم قبل نهاية العام الجاري 2026.

كشفت ميتا أيضاً أنها تعمل بشكل دؤوب على تطوير ميزة إضافية تتيح الاتصال المباشر بخدمات الطوارئ، إذا أظهرت محادثات المستخدم مع "Meta AI" وجود خطر وشيك ومباشر لإيذاء النفس، سواء كان المستخدم قاصراً أو بالغاً، وذلك لضمان التدخل السريع في اللحظات الحرجة.

كما قامت الشركة بتوسيع نطاق إعداد "المحتوى المحدود" ليشمل تفاعلات الذكاء الاصطناعي، حيث يؤدي تفعيل هذا الخيار من قبل أولياء الأمور إلى الحد من استجابة المساعد الذكي للموضوعات الحساسة، مما يوفر طبقة حماية إضافية تمنع وصول المراهق إلى أي محتوى قد يضر بسلامته النفسية.

إن هذه التحركات تعكس إدراكاً متزايداً من عمالقة التكنولوجيا لدورهم في مواجهة التداعيات السلبية المحتملة للذكاء الاصطناعي، وهي محاولة لتقنين استخدام هذه التكنولوجيا بما يخدم مصلحة المجتمع، ويمنع تحول الأدوات الرقمية إلى مصدر تهديد مباشر لحياة الفئات الأكثر ضعفاً في المجتمع.