جوجل تحذر من مخاطر نماذج الذكاء الاصطناعي المتطورة

كشفت وحدة "ديب مايند" التابعة لشركة "جوجل" عن وثيقة جديدة حول مخاطر الذكاء الاصطناعي، تضمنت تحذيرًا من تهديدات أبرزها احتمال أن يحاول نموذج متطور منع البشر من إيقافه أو تعديل برمجياته.

وأفادت الوحدة بأن الإطار المحدث للسلامة، المعروف باسم "Frontier Safety Framework"، أضاف فئة جديدة مرتبطة بقدرة النماذج على الإقناع، حيث يكمن هذا الخطر في أن قدرة بعض الأنظمة على الإقناع قد تصل إلى مستوى يمكنها من التأثير بشكل عميق على معتقدات وسلوك المستخدمين.

وردًا على سؤال من موقع "أكسيوس" عن الإجراءات التي تتخذها "جوجل" للحد من هذا الخطر، قال متحدث باسم "ديب مايند" إن الشركة تتابع هذه القدرة، وطورت مجموعة جديدة من التقييمات تتضمن دراسات على مشاركين بشريين لقياس واختبار مداها.