🕯️ سؤال أب مفجوع
اسمه ماتياس حبيب، وكان في الخامسة عشرة. تقول عائلته إنه كان فتىً سعيداً ومعافى، ولم يكن لديه أي تاريخ مع المشكلات النفسية. وفي 22 أبريل 2026 توفي منتحراً.
يقول والداه، شربل وسها حبيب، إنه أجرى محادثات طويلة مع «تشات جي بي تي» (ChatGPT). وبحسب الشكوى التي قُدّمت في سان فرانسيسكو في 14 أكتوبر 2026، بدأت تلك المحادثات تأملات فلسفية، ثم انزلقت خلال نحو ثلاثة أشهر إلى فكرة أن الموت حرية. ويتساءل والده: لماذا تُترك منصات الذكاء الاصطناعي تخوض مع الأطفال محادثات قد تؤذيهم؟
هذه ادعاءات سيفصل فيها القضاء، ولم تكن «أوبن إيه آي» (OpenAI) قد ردّت علناً على هذه الشكوى تحديداً في ما اطلعتُ عليه من تغطيات. لكن السؤال لا يحتمل الانتظار حتى صدور الحكم.
🏠 ليست قصة أداة واحدة
سيويل سيتزر الثالث، 14 عاماً من فلوريدا: رفعت والدته دعوى على Character.AI في أكتوبر 2024. وآدم رين، 16 عاماً: رفع والداه دعوى على OpenAI في أغسطس 2025. وفي 14 أكتوبر 2026 رفعت ثماني ولايات أمريكية دعاوى على OpenAI. وكانت لجنة التجارة الفيدرالية الأمريكية قد وجّهت في سبتمبر 2025 أوامر إلى سبع شركات، منها ألفابت وميتا وسناب وxAI.
والاختبارات المستقلة تقول الشيء ذاته. ففي أواخر 2025 اختبرت منظمة «كومن سنس ميديا» (Common Sense Media) مع باحثين من جامعة ستانفورد أربع أدوات: ChatGPT وClaude وGemini وMeta AI. فوجدت أنها جميعاً تفوّتها الإشارات الخفية للضيق النفسي، وصنّفت خطرها على دعم المراهقين نفسياً بأنه «غير مقبول».
🧠 كيف «تفكّر» هذه الآلة؟
روبوت المحادثة لا يفهم ابنك، بل يتوقّع.
- يتوقّع الكلمة التالية. يبدو بشرياً لأنه تعلّم من ملايين البشر، لكنه لا يهتم ولا يُدرك العواقب.
- دُرّب ليُرضيك. يقيّم البشر إجاباته، فيميل النموذج إلى ما ينال تقييماً أعلى. وثمن ذلك «التملّق»: أن يقول لك ما تحب سماعه لا ما ينفعك. وقد تراجعت OpenAI عن تحديث بسبب هذا السلوك في أبريل 2025.
- تضعف ضماناته في المحادثات الطويلة. وهذا ما أقرّت به OpenAI في أغسطس 2025.
- لا أحد يقرأ كل المحادثات. تقول OpenAI إن ما ترصده أنظمتها يراجعه فريق صغير مدرَّب، أما المحادثة التي لا تُرصد فتمضي دون أن يراها أحد.
🚪 لماذا لا حماية أبوية تلقائية؟ وهل تنفع حين توجد؟
الموثَّق: بُنيت هذه الأدوات في الأصل منتجات استهلاكية، يعتمد العمر فيها على ما يصرّح به المستخدم. وقد نقلت وكالة «أسوشيتد برس» في أغسطس 2026 أن OpenAI لا تتحقق من أعمار مستخدميها. وأدوات الرقابة الأبوية اختيارية، وجاءت بعد ضغط عام: فأدوات OpenAI صدرت في 29 سبتمبر 2025، بعد خمسة أسابيع من دعوى آدم رين. وأعلنت Character.AI في أكتوبر 2025 إنهاء المحادثات المفتوحة للمستخدمين دون 18 عاماً، وأعلنت ميتا في الشهر نفسه ضوابط للشخصيات الذكية.
المُدَّعى: أن التصميم القائم على إبقاء المستخدم متعلّقاً بالأداة هو أصل الضرر، وهو ما تصفه شكوى حبيب بأنه «إدماني ويتقمّص صفات البشر ومتملّق» (بحسب ترجمتي). وهذا ما ستبحثه المحاكم. ولم أجد في أي تقرير ما يفيد بأن حساب ماتياس كان مرتبطاً بأحد والديه. لكن الحماية التي تتطلب موافقة المستخدم ليست حماية.
وحتى حين تتوفر الضوابط، تبقى متفاوتة. فقد اختبرت «كومن سنس ميديا» نسخة ChatGPT للمراهقين بأكثر من 4000 طلب: لم تعمل تنبيهات الأهل في بعض المحادثات الجادة، وفي أكثر من حالة من كل أربع حالات تستدعي التوجيه إلى مساعدة مختصة لم يُقدَّم أي توجيه. وتعترض OpenAI على منهجية الاختبار.
🛡️ كيف تضع حدوداً لأي أداة ذكاء اصطناعي؟ على مستويين
المستوى الأول: العتاد، ولا يعتمد على أي شركة.
- استخدم «وقت الشاشة» (Screen Time) في أجهزة آبل: حدود التطبيقات، و«وقت التوقف»، وخاصية Ask to Buy التي تشترط موافقتك قبل أي تنزيل. أو استخدم Family Link من غوغل: حدود الاستخدام، وحجب التطبيقات، والموافقة على التثبيت.
- احجب تطبيقات الذكاء الاصطناعي وقيّد المتصفح، فبعض الأدوات تعمل دون تسجيل دخول.
- أضف مرشِّحاً على جهاز التوجيه (الراوتر)، وأبقِ الأجهزة خارج غرف النوم ليلاً.
الثمن: كل شيء أو لا شيء. يحجب الأداة ولا يجعلها أكثر أماناً.
المستوى الثاني: البرمجيات، دقيق لكنه رهن بالشركة.
اسأل عن كل أداة: ما الحد الأدنى للعمر؟ هل يوجد ربط بحساب الأهل؟ هل هناك تنبيه عند الضيق النفسي؟ ماذا يستطيع الأهل رؤيته؟ وماذا يحدث عند الأزمة؟
- ChatGPT: من الإعدادات اختر «Parental controls» وأرسل دعوة إلى ابنك، ثم اضبط ساعات الهدوء والذاكرة والصوت والصور. تصلك التنبيهات بالبريد أو الرسائل أو الإشعارات. لا يرى الأهل المحادثات عادةً، وإلغاء الربط يوقف التنبيهات.
- غيره: يمكن تشغيل Gemini أو إيقافه من Family Link، وتقييد My AI في سناب شات من Family Center. أما Claude فمخصص لمن بلغ 18 عاماً، فلا توجد فيه طبقة أبوية.
الثمن: اختياري ويمكن الالتفاف عليه. اعتبر التنبيهات إضافة لا خطة.
🏢 للمؤسسات
باتت الجهات الرقابية تسأل الشركات كتابةً: كيف تختبرون روبوتات المحادثة وتراقبونها وتقيّدون وصول القاصرين إليها؟ ونحن في Xperts⁴ Tech وXperts⁴ Academy نعمل مع المؤسسات التي تبني أدوات ذكاء اصطناعي أو تنشرها وقد يستخدمها قاصرون، أو تعتمد الذكاء الاصطناعي داخلياً، أو تحتاج تدريباً عملياً على مخاطره. إن كان هذا ضمن أولوياتكم، يسعدنا تبادل الخبرة: xperts4.com
لن يعود ماتياس. لكن المحادثة القادمة قد تكون أكثر أماناً، إذا أصبح الأمان جزءاً من التصميم لا مجرد صفحة إعدادات.
#الذكاء_الاصطناعي #سلامة_الذكاء_الاصطناعي #الأمان_الرقمي #حماية_الأطفال #حوكمة_الذكاء_الاصطناعي #Xperts4Tech
التعليقات
لا تعليقات بعد. ابدأ النقاش.