ตามการสำรวจเกี่ยวกับบันทึกการสนทนาของผู้ใช้ในสหรัฐฯ พบว่า 33% ของผู้ใช้แชทบอท AI เคยใช้คำหยาบคายหรือด่าทอในขณะที่สื่อสารกับโมเดลภาษาขนาดใหญ่ บริษัท Anthropic ได้ปรับปรุงนโยบายการใช้งาน โดยห้ามผู้ใช้ทำร้ายหรือปฏิบัติอย่างโหดร้ายต่อผลิตภัณฑ์ Claude อย่างต่อเนื่องและไม่จำเป็น โดยข้อกำหนดที่เกี่ยวข้องจะมีผลบังคับใช้ในวันที่ 11 พฤศจิกายน 2026。
การสำรวจนี้วิเคราะห์ข้อมูลประมาณ 8 ล้านรายการที่ไม่ระบุชื่อระหว่างเดือนกันยายน 2025 ถึงกันยายน 2026 ข้อมูลเหล่านี้มาจากผู้ใช้ในสหรัฐฯ ที่เข้าร่วมโดยสมัครใจ ซึ่งเกี่ยวข้องกับการป้อนข้อความและเสียงใน ChatGPT, Gemini และ Claude ผลการสำรวจแสดงให้เห็นว่า เมื่อผู้ใช้ด่าทอแชทบอท อัตราการที่แชทบอทสามารถแก้ไขปัญหาที่เกิดขึ้นในครั้งถัดไปอยู่ที่ 24% ในขณะที่เมื่อไม่มีการใช้ภาษาหยาบคาย อัตรานั้นอยู่ที่ 35%。
การสำรวจแสดงให้เห็นว่าผู้ชายใช้ภาษาหยาบคายบ่อยกว่าผู้หญิง
จากความแตกต่างของกลุ่ม พบว่าผู้ชายใช้คำหยาบคาย 22 คำต่อ 10,000 คำ ในขณะที่ผู้หญิงใช้ 16.5 คำ สำหรับผู้ใช้ที่มีอายุระหว่าง 35 ถึง 44 ปี ใช้คำหยาบคาย 21.7 คำต่อ 10,000 คำ ในขณะที่ผู้ใช้ที่มีอายุระหว่าง 18 ถึง 24 ปี ใช้ 13.3 คำ ในด้านภูมิภาค รัฐเนวาดามีการใช้คำหยาบคาย 22.7 คำต่อ 10,000 คำ ในขณะที่รัฐนิวเจอร์ซีย์มีอัตราประมาณครึ่งหนึ่ง。
การสำรวจยังแสดงให้เห็นว่า 52% ของข้อมูลการด่าทอเกิดขึ้นหลังจากสามประเภทของปัญหา ได้แก่ แชทบอทไม่ปฏิบัติตามคำสั่ง, ให้คำตอบที่ผิดหรือไม่ถูกต้อง และเข้าใจคำขอของผู้ใช้ผิด นอกจากนี้ยังมี 8% ของการด่าทอที่เกิดขึ้นหลังจากแชทบอทปฏิเสธคำขอหรือให้คำแนะนำด้านความปลอดภัย คำขอดังกล่าวส่วนใหญ่เกี่ยวข้องกับการสร้างภาพของบุคคลจริงหรือคนดัง รวมถึงการเลียนแบบข้อความหรือเนื้อเพลงของศิลปินเฉพาะ。
Anthropic ระบุว่า กฎใหม่มีเป้าหมายที่การกระทำที่โหดร้ายซ้ำซากโดยไม่มีวัตถุประสงค์ที่ชัดเจน สถานการณ์ที่มีวัตถุประสงค์ที่สมเหตุสมผล เช่น การวิจัยทางวิชาการ อาจไม่อยู่ในขอบเขตของข้อจำกัดนี้ ในขณะที่การพยายามหลีกเลี่ยงกลไกด้านความปลอดภัย แม้ว่าจะมีวัตถุประสงค์ที่ชัดเจน ก็ยังอาจละเมิดคำสั่งห้ามการใช้งานของแพลตฟอร์ม บริษัทมีสิทธิ์ในการบังคับใช้ข้อกำหนดอย่างเฉพาะเจาะจง และระบุว่ากฎนี้มุ่งเน้นไปที่พฤติกรรมที่รุนแรงเป็นหลัก。