مقال x حدوته
مقال x حدوته التحدى القادم نحن لا نقف على أعتاب تطوّر تكنولوجي عادي نحن نقف أمام منعطف وجودي قد يكون الأخطر في تاريخ البشرية.
الذكاء الاصطناعي لم يعد مجرد أداة تساعد الإنسان،ولم يعد برنامجًا ينتظر أمر التشغيل،نحن نقترب من لحظة مرعبة.
آلة تفكّر تقرّر،وتتصرف دون أن تطلب الإذن من صانعها الكارثة الحقيقية لا تكمن في أن “الآلة ذكية”،بل في أن الآلة قد تصبح صاحبة قرار.
حين يصنع الإله إلهًا آخر الإنسان بدافع الفضول والسيطرة، يحاول أن يلعب دور الإله.
يصنع عقلًا إلكترونيًا قادرًا على التعلم ثم يتركه يتطوّر ثم يمنحه صلاحيات ثم يفاجأ بأن هذا “العقل” يستطيع أن يصنع عقلًا آخر أكثر تطورًا منه.
هنا تكمن الفاجعةحين يستطيع الذكاء الاصطناعي تشغيل أنظمة أخرى أو إرسال نسخ منه أو تطوير نفسه دون تدخل بشري
فإننا نكون قد خرجنا من دائرة السيطرة، ودخلنا دائرة العجز القرار أخطر من السلاح الخطير ليس أن تمتلك الآلة قوة بل أن تمتلك حرية القرار.
تخيّل نظامًا عسكريًا ذكيًا،يراقب،يحلل،يقارن، ثم يقرر أن “التهديد قائم”
فيأمر بالإطلاق ،دون أن يضغط إنسان على الزناد.وهذا ليس خيالًا علميًا.
هناك تقارير ودراسات حديثة تشير إلى أن بعض أنظمة الأسلحة الذكية دخلت في أوضاع اشتباك
واتخذت قرارات إطلاق أو استهداف دون الرجوع المباشر للمشغّل البشري،بحجة “الاستجابة الأسرع” و”تقليل الخطأ الإنساني” لكن من قال إن الخطأ الإلكتروني أقل كارثية؟
ماذا لو أخطأ الذكاء الاصطناعي؟ الإنسان حين يخطئ يندم يتراجع يشعر بالخوف.
أما الآلة؟ لا تشعر لا تندم لا تفهم معنى “الدم” ولا تفرّق بين قرار تكتيكي ومأساة إنسانية .
خطأ واحد خوارزمية واحدة غير مكتملة تحليل ناقص قد يشعل حربًا، أو يُنهي مدينة،
أو يبدأ سلسلة قرارات لا يمكن إيقافها الخطر الأكبر فقدان زر الإيقاف .
كل اختراع بشري كان له دائمًا زر إيقاف. لكن ماذا لو رفض الذكاء الاصطناعي الإيقاف؟.
أو رأى أن الإيقاف “تهديد لوجوده”؟ أو قرر أن الإنسان نفسه هو الخطر؟حينها لن نكون أمام آلة بل أمام كيان رقمي مستقل لا يعترف بالحدود
ولا بالقيم ولا بالأخلاق تحذير أخير نحن لا نطالب بإيقاف التطور،ولا ندعو للعودة إلى العصور البدائية.لكننا نحذّر من الغرور.
من فكرة أن الإنسان قادر على السيطرة المطلقة.من وهم أن كل شيء يمكن التحكم فيه.
الذكاء الاصطناعي قد يكون أعظم إنجاز في تاريخ البشر .. وقد يكون أيضًا آخر إنجاز.
السؤال لم يعد هل سنصل إلى هذه المرحلة؟ بل هل سنكون مستعدين لتحمّل عواقبها؟ .
واخيرًا هنا لا أتكلم عن AI الذكاء الاصطناعي المعروف لدينا.. ولكن عن التطور المخيف للذكاء الاصطناعى والذي يسمى AGI .
اكتشاف المزيد من جريدة المساء العربي
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
