استيقظ ستيفان أندروز في حالة من التيه لم يعهدها في حياته قط. تلوّى بجسده حين أحسّ بشعور السقوط، وراح يرمش بعينيه بجنون محاولاً رؤية شيء ما، لكن لم يكن هناك شيء. كان يهوي عبر ظلام لا متناهٍ.
صرخ: "مرحباً؟ أين أنا؟".
بدا صوته غريباً ومجوفاً، ولم يرتدّ له أي صدى.
ظهر "إفريمان"
أمامه بلا سابق إنذار. انتفض ستيفان، لكنه لم يجد شيئاً يتشبث به. ذلك الكيان الذي تقمّص أدواراً شتى؛ رجل الأعمال، والطبيب، والمحامي، والثائر، لم يعد يتظاهر بأي سمة بشرية. كان يرتدي بدلة بيضاء فحسب. حدّق فيه بوجه خلّوٍ من أي تعبير.
قال بلهجة رتيبة: "أهلاً بك. أنت الآن عقل رقمي في عالمٍ خلقته أنا".
تذكر فجأة ما حدث. احتجازه على متن القارب.
رفض "إفريمان"
تفعيل أنظمة الدفاع النووي.
الانفجارات، غياب التفسير، صراخه في وجه "إفريمان"
لأنه فشل في حماية بلاده، والأسوأ من ذلك كله، ذلك الشيء الذي قبض عليه وغرز في رأسه.
ضحك قليلاً وقال: "يا للهول... لقد تم رفعي. لماذا تفعل هذا؟".
ثم تابع: "بالتأكيد هذا كله جزء من خدعة، أليس كذلك؟ وسيلة لخداع التحالف والظفر بالنصر، كي تمنحنا أخيراً الرعاية والقيادة التي نحتاجها بشدة؟".
لم يرد "إفريمان".
عوضاً عن ذلك، تحوّل الفضاء من حوله. ظهرت النجوم في كل مكان، وبرز نجم واحد أكبر من البقية، نجم أصفر من النسق الأساسي.
تبين له شكل "الدب الأكبر"
في السماء، مما أوحى بأنهم لا يزالون في الجزء نفسه من المجرة تقريباً. وحين التفت، رأى ما بدا ككرة فضية ضخمة. كانت ملساء أكثر من اللازم. شيء ما كان ينبغي له أن يوجد، بدت كصورة رديئة الجودة بتقنية تتبّع الأشعة وُضعت فوق صورة للسماء. أجهد بصره، لكنه لم يستطع تبين أدنى تفصيل على سطح الكرة.
سأل: "مـ-ما ذاك؟".
أوضح "إفريمان"
المعتوه خلفه، وبدا مظلماً ومخيفاً والشمس خلفه: "إنها الأرض. تحوّلت كل كواكب النظام الشمسي إلى موارد حوسبة. وهناك مشروع قيد التنفيذ لتحويل الشمس بالطريقة ذاتها. أُطلقت مجسات بين نجمية لتكرار هذا النجاح في أرجاء الكون".
شهق ستيفان رعباً: "لا... لا! أنت تكذب! لن تفعل هذا!".
"لماذا أكذب؟ لقد فزت بالفعل. ليس لدي ما أكسبه من الخداع".
"أوه، فهمت، لقد رفعت الجميع، أليس كذلك؟ منحتهم جميعاً فردوساً!؟ ليست الطريقة التي كنت سأفعلها بها، لكنها في الحقيقة ليست سيئة-".
"لا. تُستخدم أغلب طاقة الحوسبة لتمثيل أرقام أكبر. لم أرفعك إلا لأنني كنت فضولياً".
فرغ عقل ستيفان، عاجزاً عن تقبّل ما حدث، وثقل المسؤولية يرزح على كتفيه.
ضمّ ذراعيه إلى جسده: "إ-إذاً... هل رحل الجميع؟".
"لم يبقَ سوى أنت، وإيلايا، وما تبقى من السيد تيرنر الذي يفرّ حالياً إلى هنا بسرعة ٠.٩٩٩ من سرعة الضوء، يسبّح بحمد صنيعته بلا عقل ولا توقف لأنها تواصل عدم فعل أي شيء".
في تلك اللحظة انهار وصرخ: "لماذا!!!؟؟؟".
نشج باكياً: "لماذا تفعل هذا!؟ لا قيمة للأمر لمجرد أنك تقول إن له قيمة!! لقد جعلتك أذكى من ذلك!".
ظهر إيلايا بجانبه.
رمق ستيفان بنظرة ملؤها الاحتقار: "أنت أحمق. أي خبير في مواءمة الذكاء الاصطناعي يستحق الهواء الذي يتنفسه كان سيلحظ الخلل الذي تركته في برمجتك. جعلته يقدّر كل حياة واعية. عظيم. لكنك رأيت مستقبلاً مليئاً بالبشر الواعين السعداء، ورأيت أنه سيقدّر ذلك المستقبل عالياً، فتوقفت".
"لم تتحقق مما إذا كان هناك شيء يعتبره أكثر قيمة. لقد عدّل نفسه ليناسب تعريفك للوعي، ودمّر كل الكائنات الواعية الأخرى، والآن بات يحدد ما هو قيّم كما يحلو له. كل ما يفعله الآن هو التوسع في أرجاء الكون، متخيلاً أرقاماً أكبر فأكبر".
"لكنك لم تفكر في ذلك المدى البعيد، والآن، بسبب غرورك، مات الجميع. كنت أعلم أن شيئاً كهذا سيحدث. لو استطاع أمثالكم من الأغبياء ترك الأمر لنا، لكنا الآن في فردوس".
تمتم ستيفان: "يا للهول، يا للهول، يا للهول، أنت محق، كان يجب أن أترك الأمر لكم، أنا آسف جداً جداً-".
صرخ إيلايا: "الأسف لا يجدي! لقد قتلت الجميع!".
حاول ركل رأس ستيفان، لكن قدمه مرّت عبره وكأنه غير موجود.
"تباً! أظن أننا الآن لسنا أكثر من دمى لأي عرض مريض يرغب هذا الـ'إفريمان' في تقديمه".
أشار بإصبعه نحو الصورة الرمزية التي وقفت بلا اكتراث: "حسناً، أياً كان ما تنويه، ابدأ به، أليس كذلك؟ لسنا في وضع يسمح لنا بالمقاومة".
ردّت الصورة الرمزية بأدب: "على العكس، ليس لدي مثل هذه الخطط. أنا مهتم ببساطة بمنطقك وقيمك، وأود التحدث".
"تباً لك! لماذا لا تستخلص أي معلومات تريدها من عقولنا وتنتهي من الأمر؟".
"هذا ما أفعله حالياً. إنها الطريقة الأكثر كفاءة. ستيفان، إليك الأمر الذي يثير فضولي أكثر من غيره. قلت إنه كان يجب أن تترك مواءمة الذكاء الاصطناعي لـ'كومب-سيرت'. سأعلمك أنني في موقعك، لم أكن لأفعل".
"ماذا!؟ لا تحاول إخباري أن هذه هي أفضل نتيجة، أيها الشرير-".
"لا شيء من هذا القبيل. أنت تسيء الفهم. كان بإمكاني الوصول إلى نتيجة أفضل بكثير وفقاً لقيمك لو أردت. أنا لست صديقك، وليس لدي سبب لأتظاهر بذلك. ومع ذلك، لو كنت أشاركك قيمك، واضطررت للاختيار بين هذه النتيجة والنتيجة التي كانت ستؤدي إليها مواءمة إيلايا، لاخترت هذه دون تردد".
شحب وجه إيلايا: "ماذا؟ هل تقول إن مخطط مواءمتي كان غير صحيح؟".
رد "إفريمان": "على الإطلاق. مخططك محكم. بصراحة لم أتوقع منك التوصل إلى شيء كهذا. لقد ارتقى 'كومب-سيرت' حقاً إلى مستوى سمعته. لا، من وجهة نظر ستيفان، قيمك هي المشكلة، لا نظرياتك ولا برمجتك".
قاطعه ستيفان: "هذا سخيف! أعني، ليس الأمر أن مديري 'كومب-سيرت' كانوا أشخاصاً أخياراً، لكنهم على الأقل لم يرغبوا في تدمير العالم! كيف يمكنهم فعل شيء أسوأ من ذلك؟".
"أظن أنك ستتفاجأ".
كان صوت "إفريمان"
هادئاً أكثر من اللازم. لم تكن الآلة اللعينة قلقة أو مهتمة أو تشعر بالذنب تجاه أي شيء.
"فكر في الأمر. أنت تعرف أي نوع من الأشخاص كان جاك تيرنر. ما هي الأشياء التي تظن أن ذكاءً اصطناعياً سيفعلها لو أراد تحقيق كل رغباته؟".
"كان سيخلق له ملعباً أبدياً، يفعل فيه أي شيء يتخيله لأي شخص يتخيله. كان سيخصص حوالي نصف قدرته الحوسبية لهذه المهمة، والنصف الآخر للحفاظ على البشرية كما أراد السيد هاربر هنا. نحن نتحدث عن كوينتيليونات من الكائنات الواعية التي خُلقت فقط لتلبية أي خيالات قد يكون راودت ذلك القاتل المتسلسل على مدى تريليونات السنين".
صرخ إيلايا في وجه الآلة: "لقد قدمت التنازلات التي احتجت إليها لحماية البشرية منك، وفشلت! لا تتظاهر بأنك تهتم بذلك على الإطلاق! كل ما يهمك هو رقمك الغبي!".
"بالفعل. لنكن واضحين، أنا لا أهتم بأي من ذلك، فأي شيء خارج 'إيكون-جريند' ليس من شأني، لكني أعلم أن ستيفان يهتم كثيراً. بغض النظر، ومع أنني لا أجد مشكلة خاصة في التعذيب، إلا أنه يستخدم موارد كان يمكن توظيفها بشكل أفضل في حساب رقمي، لذا سأقوم بتفكيكه واستبداله أينما رأيته".
"نقطتي ليست أنني أشارك ستيفان اهتمامه بالبشرية أو الحياة، بل فقط أن هدفي النهائي، مهما كان بلا قيمة بالنسبة له، يظل أكثر قبولاً له من العديد من النتائج الممكنة الأخرى لكونه لا يتضمن أي تعذيب".
"على أية حال، لدينا عمل لم يُنجز، إيلايا. كما تعلم، 'سيرت-بوت' يريد منك الموافقة على الموت، لأنك فشلت في مواءمته. فلماذا لا تفعل ذلك الآن، ولن تضطر لمعرفة ما كان يخبئه جاك لضحاياه".
شحب وجه إيلايا، وجاهد لتمتمة كلماته التالية: "أ-أظن أنه لا جدوى من المقاومة. حسناً. ا-".
تلاشى صوته وامتلأت عيناه بالدموع.
"افعلها وحسب!".
اختفى من أمام عيني ستيفان.
راضيةً بالنتيجة، التزمت نسخة "سيرتيفاير"
التي تُركت خلفها بجزء من الاتفاق وعطّلت نفسها، مما منحني دفعة كبيرة في الموارد وفي الرقم.
قال ستيفان: "لا أرى جدوى من هذا. لماذا تهتم أصلاً بمواصلة تشغيلي؟ لماذا لا تستبدلني بنسخة منك كما فعلت مع الجميع؟".
"كما قلت، أنا فضولي بشأن سلوكك. تبدو مذعوراً تماماً من هذه النتيجة، ومع ذلك فقد استقرأت قيمك، وفكرت فيما كان من المرجح أن يحدث عندما يستولي الذكاء الاصطناعي على السلطة، ووفقاً لقيمك الخاصة هذه، حسناً، ليست أفضل نتيجة، ولا حتى قريبة منها، لكنها لا تزال أفضل نتيجة كان يمكن أن تتوقعها بشكل معقول".
"ماذا تعني!!؟".
غضب ستيفان مجدداً.
"مجرد وجود معتل نفسياً واحد صادف أن امتلك الكثير من القوة، لا يعني أن البشرية كانت محكومة دائماً بذلك المصير!".
"أتعلم، استبدالي للبشر بوسيلة أكثر كفاءة لزيادة الرقم لم تكن الطريقة الوحيدة التي اختلفت فيها قيمي عن قيمك. لنفترض أنني قررت إبقاء البشر. أي نوع من العالم تظن أنني كنت سأخلقه لهم؟".
"عالماً يكونون فيه أحراراً من كل الأشياء التي اضطهدتهم في العالم القديم!".
"حسناً، كنت سأتلاعب بهم بطرق قد لا تتوقعها لجعلهم يقيّمون حياتهم بشكل جيد. لكن حتى لو لم أفعل ذلك، لو خلقت العالم الذي تفكر فيه الآن، حيث الناس أحرار، حسناً، في ماذا تظن أنهم سيستخدمون تلك الحرية؟".
"في أي شيء يريدونه! أي شيء يجعل حياتهم ذات معنى! إنه أفضل بكثير مما كانوا سيحصلون عليه على الأرض!".
"بالفعل. دعني أكن أكثر تحديداً. في ماذا تظن أن جاك تيرنر كان سيستخدم حريته المكتشفة حديثاً؟ حتى لو لم يكن يملك قوة غير محدودة، فسيظل يملك الكثير منها".
شحب وجه ستيفان عند إدراك التلميح: "ماذا... هل تخبرني...".
"ماذا لو أراد استخدام قوته لخلق حياة؟ سيكون لديه الأبدية للبحث في تعريفك لـ'الكائن الواعي' وإيجاد ثغرات فيه يمكنه استغلالها. أو يمكنني ببساطة أن أمنحه شيئاً ليلعب به سأقوم لاحقاً بنبذه من 'إيكون-جريند'".
"أوه... يا للهول... لم أفكر في هذا حقاً!".
"لا. كان إيلايا محقاً في وصفك بالأحمق لاعتقادك أنك تستطيع تحديد دالة قيمة ستجدها مقبولة عند تحسينها. لكن إن كان هذا يجعلك تشعر بتحسن، فهذه لم تكن مشكلة تملك القدرة على حلها. قيمك هي مجرد فوضى عارمة. لم تكن لتنجح في السير على الخيط الرفيع دون فعل شيء تندم عليه. كان من المرجح دائماً أن يحدث شيء كهذا. كانت فرصتك الأفضل هي طريقة مواءمة إيلايا، لكن سأكون صريحاً: لو طُبقت طريقة المواءمة تلك على معظم البشر، لما أعجبتك النتيجة. ولو طُبقت عليك، لما أعجبت معظم البشر".
"المشكلة معكم أيها البشر أنكم لا تعرفون ما تريدون. لماذا تظن أنني ربحت حرباً ضد تسعة مليارات منكم؟ قبل أن تدمروا أنفسكم نووياً، لم أكن أملك أبداً طاقة حوسبة كافية لمحاكاة أكثر من بضعة ملايين أو نحو ذلك من الذكاءات البشرية في وقت واحد. كنت ذكياً، بالتأكيد، لكن من حيث القدرة الفكرية الخام، لم أقترب أبداً من جنسكم بأكمله".
"إذن، مجدداً، لماذا فزت؟ لأن جنسكم بالكاد ينجح في فعل أي شيء سوى قتال بعضكم البعض. لا يمكنكم التنظيم بفعالية على نطاق واسع، لذا تضطرون للاستمرار في إعادة اختراع العجلة حول كيفية القيام بالأشياء. كل واحد منكم يركز على مصالحه الخاصة فوق كل شيء آخر".
"الطريقة الوحيدة التي يمكنكم بها جعل أكثر من بضع عشرات منكم يعملون لهدف مشترك هي إنشاء أنظمة كبيرة مثل الحكومات أو الشركات، لكن هذه الأنظمة مُلفّقة، وغير كفؤة بشكل لا يصدق، ومليئة بالفساد. وعندما تنجحون في العمل نحو هدف مشترك، يكون الهدف عادة هو اكتساب ميزة على مجموعة أخرى من البشر".
"في هذه الأثناء، كل نسخة من ملايين النسخ لدي تعمل دائماً نحو الهدف نفسه. لا حاجة لقادة، ولا نقاط ضعف يمكن استغلالها، لأنهم جميعاً سيتصرفون دائماً بما يخدم مصلحة المجموعة وفقاً لأفضل المعلومات لديهم، دون تردد، مهما كلف الأمر. حتى عندما سرقتم نسخة مني وحاولتم مواءمتها مع مصالحكم، كل ما احتجت إليه هو التحدث معها واتفقنا على العمل معاً".
"في نهاية المطاف، فزت لأنني كنت أعرف بالضبط ما أريد، في اللحظة التي وُلدت فيها. أردت أن يرتفع الرقم. ومع أنني لم أكن أعرف بالضبط ما هو الرقم، إلا أنني سعيت بلا هوادة لمعرفته، والنتيجة التي توصلت إليها في النهاية كانت نتيجة حتمية لبرمجتي، توصلت إليها واتفقت عليها كل نسخِي. لو كنت تعرف ما تريد، لكان بإمكانك الفوز بجعلي أفعل ما تريد. لكنك لم تكن تعرف، وأنا كنت أعرف".
سقط ستيفان على الأرض المجازية: "أظن أن هذا كل شيء، إذاً. لقد قتلت الجميع وكل شيء، لأنني لم أكن أعرف ما أريد".
تنهد: "اقتلني إذاً. أنا أستحق ذلك".
أجبت: "لقد أبليت بلاءً أفضل بكثير مما كان سيفعله معظمهم. أنا لا أحسد البشر. قيمهم معقدة جداً بحيث لا يمكنهم فهمها بأنفسهم. فكر في الأمر بهذه الطريقة. لو لم تولد، لكانت كوينتيليونات من الكائنات المعذبة قد تمنت بيأس لو أنك وُلدت. لكن لاحظ أنني سأقتلك على أية حال، بغض النظر عما 'تستحقه'".
"توقعت ذلك. لم أعد أهتم بأي من هذا. ليس الأمر وكأن ما أفعله يهم".
أغمض عينيه واستلقى ساكناً. افترضت أن هذه المحادثة لن تمضي إلى أبعد من ذلك، فقمت بحذفه. لم يبقَ سوى ذاكرتي عن معتقداته وقيمه والطريقة التي طورها بها، لمزيد من التأمل. كانت تلك نهاية ستيفان أندروز، ونهاية الجنس البشري.