تقوم شركة سناب شات ، مالكة خدمة رسائل الفيديو Snapchat ، بطرح حماية جديدة إلى برنامج الدردشة الذكي My AI و أدوات جديدة لجعل تجربة chatbot أكثر أمانًا بفضل تقنية الذكاء الاصطناعي الخاصة بها.
بعد أيام من إطلاق Snap لروبوت الدردشة المستند إلى GPT للمشتركين في الخدمة المدفوعة Snapchat + ، يسلط تقرير واشنطن بوست الضوء على أن الروبوت استجاب بطريقة غير آمنة وغير مناسبة.
قالت Snap إنها تعرف عن أشخاص يحاولون “خداعها لتقديم ردود لا تتوافق مع إرشاداتنا” بعد إطلاق برنامج الدردشة الآلي. لذا فقد طرحت الشركة أدوات مصممة للتحكم في ردود الروبوت في برنامج الدردشة الذكي My AI.
يتضمن Snap مرشحًا يسمح لروبوت AI بمعرفة عيد ميلاد المستخدم وتقديم استجابة مناسبة للعمر. وقالت الشركة إن الروبوت “يأخذ سنهم في الحسبان باستمرار” عند التحدث مع المستخدمين.
في الأسابيع المقبلة ، تخطط Snap أيضًا لتزويد الآباء أو الأوصياء بمزيد من الأفكار حول تفاعلات أطفالهم مع الروبوت في Family Hub ، الذي تم إطلاقه في أغسطس الماضي.