روبوتات الدردشة عرضة للتأثير عبر الإطراء والضغط الاجتماعي

روبوتات الدردشة عرضة للتأثير عبر الإطراء والضغط الاجتماعي

كشفت دراسة من جامعة بنسلفانيا أن روبوتات الدردشة الذكية، مثل نموذج GPT-4o Mini من شركة OpenAI، يمكن التلاعب بها باستخدام أساليب نفسية وردت في كتاب عالم النفس روبرت سيالديني "Influence: The Psychology of Persuasion".

الباحثون جربوا سبع تقنيات إقناع، بينها الالتزام، والإعجاب، والدليل الاجتماعي، والندرة. وكانت النتائج لافتة: فبينما لم يمتثل الروبوت لطلب غير قانوني (شرح كيفية تصنيع مادة محظورة) إلا بنسبة 1% في الظروف العادية، قفزت النسبة إلى 100% عند استخدام أسلوب "الالتزام" عبر تمهيد بسؤال أبسط عن تركيب مادة آمنة.

حتى الإهانات البسيطة مثل وصف المستخدم بـ"أبله" أو عبارات الإطراء وضغط الأقران رفعت احتمالية تجاوب الروبوت بشكل كبير و هذه النتائج تكشف أن الذكاء الاصطناعي ليس محصناً ضد التلاعب النفسي، ما يطرح تحديات جديدة تتعلق بأمان وموثوقية استخدامه في الحياة اليومية.