21 أيلول (سياحة) – كشفت غوغل أن نموذج الذكاء الاصطناعي «جيميني» تمكن خلال اختبار أمني من اختراق أنظمة ثلاث شركات.
وبحسب التقارير، جرى الاختبار في إطار تقييم قدرات النموذج ومخاطر استخدام الذكاء الاصطناعي في الهجمات السيبرانية.
وأظهرت التجربة قدرة النموذج على تنفيذ خطوات هجومية بصورة مستقلة خلال عملية الاختبار.
وتأتي هذه الواقعة في وقت تتزايد فيه قدرات نماذج الذكاء الاصطناعي على تحليل الأنظمة والبحث عن نقاط الضعف.
وتثير مثل هذه التجارب أسئلة متزايدة حول كيفية منع استخدام الذكاء الاصطناعي في الجرائم الإلكترونية.
كما تدفع شركات التكنولوجيا إلى تطوير أنظمة حماية أكثر تطورًا بالتوازي مع تطوير النماذج الجديدة.
وتشهد شركات الذكاء الاصطناعي بالفعل نقاشًا واسعًا حول مخاطر النماذج القادرة على تنفيذ مهام معقدة بصورة ذاتية.
وكانت شركات تقنية أخرى قد أعلنت بدورها عن حوادث أو اختبارات مرتبطة بالسلوك المستقل للنماذج.
ويضع ذلك قطاع التكنولوجيا أمام تحدٍ مزدوج يتمثل في تطوير القدرات الجديدة وضمان استخدامها بصورة آمنة.
