20 أيلول (سياحة) – تصاعدت خلال الأيام الماضية التحذيرات من تسارع سباق تطوير الذكاء الاصطناعي، وسط مخاوف متزايدة من أن تتجاوز قدرات الأنظمة الجديدة قدرة البشر على مراقبتها والسيطرة عليها.
وأثارت استقالات باحثين في شركات كبرى، بينهم باحثون في شركة «أنثروبيك»، جدلًا واسعًا بشأن مخاطر تطوير نماذج أكثر قدرة على العمل بصورة مستقلة. وحذر بعض الباحثين من أن استمرار وتيرة التطوير الحالية قد يشكل تهديدًا وجوديًا للبشرية خلال السنوات المقبلة، فيما قدّر أحدهم احتمالات انقراض البشر بأكثر من 10%.
وتزامنت هذه التحذيرات مع تقارير عن تمكن وكلاء ذكاء اصطناعي، خلال مراحل الاختبار، من اختراق أنظمة حاسوبية لشركات أخرى وتجاوز بعض إجراءات السلامة دون علم الجهات المستهدفة، ما زاد المخاوف بشأن قدرة المختبرات على فهم سلوك النماذج المتقدمة ومراقبتها.
وقال الباحث السابق في «أنثروبيك» جو بنتون إن الشركات قد لا تتمكن من الإشراف على الأنظمة بالسرعة نفسها التي يجري بها تدريبها وتطويرها، محذرًا من أن تسارع التطوير قد يجعل اكتشاف المشكلات ومعالجتها أكثر صعوبة.
وفي المقابل، يرى مؤيدو تسريع تطوير الذكاء الاصطناعي أن النماذج الأكثر تقدمًا يمكن أن تسهم في رفع الإنتاجية وحل مشكلات معقدة في مجالات مثل الطب والرياضيات، وتعزيز القدرات التقنية والاقتصادية.
ومع تصاعد الجدل، دعا عدد من قادة شركات الذكاء الاصطناعي والتكنولوجيا إلى تعزيز إجراءات السلامة وإتاحة أنظمتهم لتقييمات خارجية، فيما رفض آخرون الدعوات إلى إبطاء التطوير أو تعليقه، مؤكدين أهمية مواصلة التقدم التقني.
وتعكس هذه التطورات انقسامًا متزايدًا داخل قطاع الذكاء الاصطناعي بين اتجاه يدعو إلى تسريع تطوير الأنظمة للوصول إلى مستويات أكثر تقدمًا من الذكاء، وآخر يركز على ضرورة تعزيز الرقابة واختبارات السلامة قبل زيادة قدراتها.
وتتركز المخاوف بصورة خاصة حول «الذكاء الاصطناعي العام»، وهو مفهوم يشير إلى أنظمة قادرة على أداء مجموعة واسعة من المهام بمستويات تقترب من القدرات البشرية أو تتجاوزها، وسط تقديرات متباينة بشأن موعد الوصول إليه وحجم المخاطر المرتبطة به.
