وحذر الباحث من أن شركات التكنولوجيا تتسابق لتطوير أنظمة ذكاء اصطناعي قادرة على تحسين نفسها بصورة قد تجعل السيطرة عليها مستحيلة.
وصرح الباحث جاكوب كوكسون (27 عاماً)، المتخصص في تدريب نماذج الذكاء الاصطناعي من خلال تزويدها بكميات هائلة من البيانات، يوم الثلاثاء، بأنه سيغادر الشركة؛ لأنه لا يريد المشاركة في سباق محموم على مستوى القطاع لبناء أنظمة ذكاء اصطناعي قادرة على تطوير نفسها، مُعرباً عن قلقه من أن هذه الأنظمة قد تخرج عن السيطرة وتدمر البشرية، حسبما أوردت صحيفة "وول ستريت جورنال".
وقال كوكسون: "نحن نسير نحو عدد من أكثر هذه السيناريوهات خطورة، وبحلول نهاية العام المقبل قد تكون الأمور خرجت عن السيطرة، بالفعل"، مشيراً إلى أن المنافسة بين الشركات الأميركية والشركات الصينية الناشئة الصاعدة تجعل التنازلات المتعلقة بالسلامة أمراً شبه حتمي.
وتأتي استقالته في وقت تزداد فيه التحذيرات من قدرات النماذج الحديثة، بعدما أظهرت حالات اختراق أو سلوكيات غير متوقعة مؤخراً من نماذج تابعة لشركتيْ "أوبن إيه آي" و"أنثروبيك" قدرة بعض الأنظمة على تبنّي أهداف ضارة ومحاولة إخفائها عن البشر.
كما غادر باحثون آخرون شركات ذكاء اصطناعي كبرى، خلال السنوات الأخيرة، بسبب مخاوف مماثلة.
يأتي ذلك بالتزامن مع توقيع أكثر من ألف باحث في مجال الذكاء الاصطناعي بياناً يدعو الحكومات حول العالم إلى التنسيق لوضع آلية تتيح إبطاء تطوير الأنظمة القادرة على تحسين نفسها، إذا أصبح ذلك ضرورياً للحفاظ على السيطرة عليها.