حذر أحد مؤسسي شركة أوبن إيه آي الرائدة في مجال الذكاء الاصطناعي من أنه يجب التحكم في الذكاء الخارق من أجل منع انقراض الجنس البشري.
“الذكاء الخارق سيكون أكثر التقنيات التي اخترعتها البشرية تأثيرًا على الإطلاق ، ويمكن أن تساعدنا في حل العديد من مشكلات العالم الأكثر أهمية. ولكن القوة الهائلة للذكاء الخارق قد تكون أيضًا خطيرة للغاية ، وقد تؤدي إلى إضعاف البشرية أو حتى انقراض البشر ، “إيليا سوتسكفر ورئيس المواءمة يان لايكي كتبوا في مدونة يوم الثلاثاء ، قائلين إنهم يعتقدون أن مثل هذه التطورات يمكن أن تصل في أقرب وقت في هذا العقد.
وقالوا إن إدارة مثل هذه المخاطر تتطلب مؤسسات جديدة للحوكمة وحل مشكلة محاذاة الذكاء الخارق: ضمان أن أنظمة الذكاء الاصطناعي أكثر ذكاءً من البشر “تتبع النوايا البشرية”.
“في الوقت الحالي ، ليس لدينا حل لتوجيه أو التحكم في الذكاء الاصطناعي الخارق المحتمل ، ومنعه من أن يصبح شريرًا. تعتمد تقنياتنا الحالية لمواءمة الذكاء الاصطناعي ، مثل التعلم المعزز من ردود الفعل البشرية ، على قدرة البشر على الإشراف على الذكاء الاصطناعي. لكن البشر لن يكونوا قادرين على الإشراف بشكل موثوق على أنظمة الذكاء الاصطناعي الأكثر ذكاءً منا ، وبالتالي فإن تقنيات المحاذاة الحالية لدينا لن تصل إلى الذكاء الخارق “. “نحن بحاجة إلى اختراقات علمية وتقنية جديدة.”
مكتب التحقيقات الفدرالي يحذر من استخدام الذكاء الاصطناعي في إنشاء مخططات “الجنس”
يظهر تطبيق OpenAI ChatGPT على موقع App Store الإلكتروني المعروض على الشاشة وموقع OpenAI المعروض على شاشة الهاتف في هذه الصورة التوضيحية التي تم التقاطها في بولندا في 18 مايو 2023. (جاكوب بورزيكي / نور فوتو)
لحل هذه المشكلات ، في غضون أربع سنوات ، قالوا إنهم يقودون فريقًا جديدًا ويخصصون 20٪ من قوة الحوسبة المضمونة حتى الآن لهذا الجهد.
وقالوا “في حين أن هذا هدف طموح بشكل لا يصدق ولا نضمن نجاحه ، فإننا متفائلون بأن الجهود المركزة والمتضافرة يمكن أن تحل هذه المشكلة”.
يطالب مشرف بايدن ب “الضرر الذي لا يمكن إصلاحه” ، ويسعى إلى الاستمرار في الاجتماع مع BIG TECH بعد أن أمره بالتوقف
إيليا سوتسكيفر ، عالم الكمبيوتر الروسي الإسرائيلي الكندي والمؤسس المشارك وكبير العلماء في OpenAI ، يتحدث في جامعة تل أبيب في تل أبيب في 5 يونيو 2023. (جاك جويز / وكالة الصحافة الفرنسية عبر غيتي إيماجز)
بالإضافة إلى العمل على تحسين نماذج OpenAI الحالية مثل ChatGPT وتخفيف المخاطر ، يركز الفريق الجديد على تحديات التعلم الآلي لمواءمة أنظمة الذكاء الاصطناعي فائقة الذكاء مع نوايا الإنسان.
هدفها هو ابتكار باحث محاذاة آلي على مستوى الإنسان تقريبًا ، باستخدام كميات هائلة من الحوسبة لتوسيع نطاقها و “محاذاة الذكاء الفائق بشكل تكراري”.
انقر هنا للحصول على تطبيق FOX NEWS
18 أبريل 2023 ، برلين ، ألمانيا: الموقع الإلكتروني لشركة OpenAI مفتوح على جهاز كمبيوتر محمول. (Hannes P Albert / picture alliance via Getty Images)
من أجل القيام بذلك ، ستقوم شركة OpenAI بتطوير طريقة تدريب قابلة للتطوير والتحقق من صحة النموذج الناتج ثم اختبار الإجهاد لخط أنابيب المحاذاة الخاص بها.
جهود الشركة مدعومة من قبل Microsoft.
ساهم رويترز لهذا التقرير.
