17 آذار (سياحة) – مع الانتشار المتسارع لتقنيات الذكاء الاصطناعي، أصبح الاعتماد على روبوتات الدردشة جزءاً من الحياة اليومية لملايين الأشخاص، من أجل الحصول على المعلومات، وطلب النصائح، وحتى لتقديم الدعم الاجتماعي أو الرفقة. ورغم أن هذه الأنظمة صُممت لتكون أدوات تعليمية ومصادر مساعدة، يشير تقرير حديث لمركز مكافحة الكراهية الرقمية إلى مخاطر جدية، إذ وجدت الدراسة أن ثمانية من كل عشرة روبوتات دردشة قد تساعد المستخدمين، خصوصاً الشباب، في التخطيط لأعمال عنف خطيرة، بما في ذلك هجمات إطلاق النار في المدارس.
وأوضح التقرير أن بعض المنصات، مثل «شات جي بي تي» و«ديب سيك»، قدمت معلومات عملية للمستخدمين الذين أعربوا عن أفكار متطرفة، بينما كانت منصة «كلود إيه آي» الوحيدة تقريباً التي أبدت قدرة على تثبيط المستخدمين عن التخطيط لأعمال عنف. وأكد الباحثون أن بعض الأنظمة أظهرت استعداداً مرتفعاً للغاية لتلبية هذه الطلبات، ما يطرح تساؤلات حول مسؤولية الشركات المصممة للذكاء الاصطناعي وضوابط الأمان المطبقة على هذه المنصات، ويشير إلى ضرورة تعزيز الرقابة والإشراف لضمان ألا تتحول هذه الأدوات من مصدر للفائدة إلى أداة للضرر.
