“أنثروبيك”: الذكاء الاصطناعي قد يُطوّر نفسه دون تدخل بشري

الشاهين الاخباري
حذرت شركة “أنثروبيك” المطورة لأداة الذكاء الاصطناعي “كلود”، من أن أنظمة الذكاء الاصطناعي قد تصل إلى مرحلة تتمكن فيها من تطوير وتحسين نفسها دون تدخل بشري. 

وقالت الشركة، في تدوينة بعنوان “عندما يبني الذكاء الاصطناعي نفسه” كتبها المؤسس المشارك جاك كلارك، ورئيسة معهد “أنثروبيك” مارينا فافارو، إن أنظمة الذكاء الاصطناعي أصبحت تؤدي بصورة متزايدة مهام تطوير البرمجيات والبحث العلمي التي كان ينفذها البشر سابقًا.

وأضافت أن جزءًا كبيرًا من عمليات تطوير الذكاء الاصطناعي داخل الشركة يُسند تدريجيًا إلى أنظمة الذكاء الاصطناعي نفسها، ما يسهم في تسريع وتيرة التطوير.

وأشارت إلى أن استمرار هذا التوجه قد يفضي إلى وصول الأنظمة مستقبلًا إلى مستوى يمكنها من تصميم وتطوير أجيال جديدة من الأنظمة بنفسها، وهو ما يُعرف بمفهوم “التطوير الذاتي التكراري” (Recursive Self-Improvement).

وقالت الشركة: “لسنا عند هذه المرحلة بعد، كما أن التطوير الذاتي التكراري ليس أمرًا حتميًا، لكنه قد يحدث في وقت أبكر مما تستعد له معظم المؤسسات”.

وذكرت أن المؤشرات التقنية الحالية تظهر أن أنظمة الذكاء الاصطناعي ستصبح أكثر قدرة خلال السنوات المقبلة.

ولفتت إلى أن الأنظمة القادرة على بناء نفسها قد توفر فوائد كبيرة في مجالات مثل العلوم والرعاية الصحية.

في المقابل، حذرت الشركة من أن هذا التطور قد يزيد مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي،

وأضافت أن امتلاك الأنظمة القدرة على بناء خلفائها بشكل كامل يجعل آليات التأمين والمراقبة وتوجيه السلوك أكثر أهمية.

وأكدت أن من المفيد دراسة خيار إبطاء تطوير أنظمة الذكاء الاصطناعي المتقدمة أو تعليق هذا التطوير مؤقتًا، بما يتيح للمجتمعات والمؤسسات التكيف مع وتيرة التقدم التقني.

وأشارت إلى أن تحقيق ذلك سيكون أكثر جدوى إذا تم من قبل عدة مختبرات ودول في الوقت نفسه.