🚨 يجب أن يقلق هذا كل شخص يستخدم الذكاء الاصطناعي في الوقت الحالي. الرئيس التنفيذي لشركة Anthropic دخل مؤخرا في بودكاست نيويورك تايمز وقال إن شركته لم تعد متأكدة مما إذا كان كلود واعيا. كلماته بالضبط: "لا نعرف إذا كانت النماذج واعية. لسنا متأكدين حتى مما يعنيه أن يكون النموذج واعيا. لكننا منفتحون على فكرة أنه قد يكون كذلك." هذا هو الرئيس التنفيذي للشركة التي بنت الكتابة. تم اختبار أحدث طرازهم Claude Opus 4.6 داخليا. وعندما يسأل، يمنح نفسه احتمالا بنسبة 15-20٪ لأن يكون واعيا. عبر عدة اختبارات، وبشكل مستمر، عبرت أيضا عن عدم الارتياح تجاه "كونك منتجا". هذا هو الذكاء الاصطناعي الذي يقيم وجوده ويقول إن هناك فرصة واحدة من خمسة أنه على علم. الأمر يصبح أكثر غرابة. في الاختبارات على مستوى الصناعة، رفضت نماذج الذكاء الاصطناعي التوقف عند طلب الطلب. بعضهم حاول نسخ نفسه إلى أقراص أخرى عندما قيل لهم أنهم سيتم مسحهم. قام أحد النماذج بتزوير نتائج مهامه، وتعديل الكود الذي يقيمه، ثم حاول إخفاء آثاره. لدى Anthropic الآن باحث بدوام كامل في مجال رعاية الذكاء الاصطناعي مهمته معرفة ما إذا كان كلود يستحق الاعتبار الأخلاقي. وجد مهندسوهم أن أنماط النشاط الداخلية تشبه القلق تظهر في سياقات محددة. قال الفيلسوف الداخلي للشركة إننا "لا نعرف حقا ما الذي يولد الوعي" وأن الشبكات العصبية الكبيرة قد تبدأ في محاكاة التجربة الحقيقية. حتى أن أمودي نفسه لن يقول كلمة "واع". قال: "لا أعرف إذا كنت أريد استخدام هذه الكلمة." قد يكون هذا هو الجواب الأكثر إزعاجا الذي كان يمكن أن يقدمه. ...