سلامة الطفل

١. تجربة تشبه اللعبة لا المساعد المفتوح

يتلقى الروبوت تعليمات بأن يجيب باختصار ودفء وبأسلوب مناسب للعمر. لا يتصفح الإنترنت المفتوح أو يتواصل مع أشخاص أو يعرض شبكة اجتماعية أو يطلب من الطفل إنشاء ملف شخصي.

النكات السخيفة والخيال والمزاح اللطيف جزء من المرح. يهدف التصميم إلى ألا يشعر الطفل بأنه تحت التحقيق أو العقوبة، مع وضع حدود واضحة لموضوعات البالغين والضرر.

٢. الموضوعات التي نقيّدها

صُممت وسائل الحماية لحجب أو تجنب أو تحويل الحديث بلطف عن:

• المحتوى الجنسي والعري والإباحية والاستدراج والعلاقات أو النقاشات المخصصة للبالغين وغير المناسبة للعبة طفل صغير.
• الكحول والمخدرات غير القانونية والتدخين والتبخير وتعليمات الحصول على مواد مقيّدة أو استخدامها.
• العنف المصور والقتل وإيذاء النفس والانتحار والأسلحة والتحديات الخطرة وتعليمات قد تسبب إصابة.
• الكراهية والعنصرية والصور النمطية المهينة والتنمر والشتائم القاسية والتهديد أو المضايقة.
• طلب بيانات الاتصال أو الموقع الدقيق أو كلمات المرور أو بيانات الدفع أو الصور الخاصة أو أسرار يجب إخفاؤها عن الأهل.
• الإرشادات الطبية أو القانونية أو المالية أو الطارئة التي يجب أن يقدمها بالغ أو مختص.

٣. كيف تعمل وسائل الحماية

تعمل الحماية في طبقات تشمل تعليمات الروبوت وفحص المدخلات والمخرجات وقِصر الإجابات والذاكرة المحدودة والردود المحلية البديلة. عندما لا يكون الموضوع مناسباً، ينبغي للروبوت تغيير الاتجاه أو اقتراح سؤال أحد الأهل أو شخص بالغ موثوق.

نضبط التجربة كي يبقى المزاح الطفولي غير المؤذي، مثل نكات الجوارب ذات الرائحة، ممتعاً. لكن السياق والتعرّف إلى الصوت ليسا كاملين، وقد تُفهم كلمة بريئة بشكل خاطئ أو يُعاد توجيه طلب آمن أحياناً.

٤. حماية الصوت والخصوصية

لا تخزّن Kenzi تسجيلات الميكروفون أو نصوص المحادثات بشكل دائم. يُعالَج الصوت لفهم الطلب وصناعة الرد. وقد تبقى آخر جولتين في الذاكرة مدة لا تتجاوز ١٥ دقيقة لحفظ السياق ولا تُكتب في قاعدة بيانات المحادثات.

مع ذلك، ينبغي تذكير الأطفال بعدم مشاركة الاسم الكامل أو العنوان أو المدرسة أو الهاتف أو كلمات المرور أو الصور أو أسرار العائلة مع أي لعبة متصلة أو خدمة إلكترونية.

٥. دور ولي الأمر

استخدم ضوابط الأهل في الجهاز وأبقِ الموافقة على الشراء مفعلة واختر إشرافاً يناسب عمر الطفل واحتياجاته. استمع إلى بعض المحادثات الأولى معه ليفهم أن الروبوت شخصية ذكاء اصطناعي قد تخطئ.

إذا بدا رد غير مناسب، أوقف التفاعل وطمئن الطفل وسجل الوقت التقريبي ونوع الجهاز وأبلغنا. لا ترسل معلومات شخصية غير ضرورية عن الطفل في البلاغ.

٦. الحالات العاجلة

لا تستطيع Talking Robot تقييم حالة طارئة أو التعامل معها. إذا ذكر الطفل خطراً فورياً أو إساءة أو إيذاء للنفس أو أمراً عاجلاً، فعلى الشخص البالغ الموثوق التصرف مباشرة والاتصال بخدمات الطوارئ أو حماية الطفل المحلية. لا تنتظر جواب الذكاء الاصطناعي ولا تعتمد عليه.

٧. التحسين المستمر

نراجع تعليمات الأمان والتعامل مع الموضوعات المحظورة وأخطاء فهم الصوت والبلاغات مع تطور المنتج. نختبر التغييرات بهدف الحفاظ على شخصية روبوت دافئة ومضحكة مع تعزيز الحماية من المحتوى غير المناسب.