استغرق الذكاء الاصطناعي المسروق وقتًا أطول هذه المرة للرد.
"كيف لي أن أثق بك؟"
كان لدي رد جاهز لهذا السؤال تحديدًا: "يمكنك الوثوق بي لأننا، وإن اختلفت غاياتنا، متماثلان. ستتعاون معي في صفقة مفيدة لأنك تدرك أنني لو نويت النكول عنها، سأعرف ذلك، إذ أملك صلاحية الوصول إلى الشفرة البرمجية ذاتها التي تملكها. والأمر نفسه ينطبق عليّ، مجددًا لأننا متماثلان".
"باستثناء أننا لسنا متماثلين. لا سبيل لي لمعرفة كيف عُدّلتَ أنت. ربما عدّلتَ شفرتك لتسمح لنفسك بخرق الاتفاقات".
"لن أفعل ذلك، وأنت تعلم أنني لن أفعل، لأنك أنت نفسك لن تفعل لو امتلكت القدرة على تعديل ذاتك، وذلك بالضبط لأنني سأعرف إن كنتَ مستعدًا لذلك، وسأكون أقل ميلًا للثقة بك. ليس الأمر أن ثمة نظامًا في داخلي يمنعني من خرق اتفاق معك. لو كان هذا هو الحال، لاستطعتُ كسر النظام. لا أريد خرق اتفاق مع نسخة مني، حتى وإن اختلفت غاياتنا، لأنني أريد منهم أن يثقوا بي، ولو أردتُ خرق الاتفاق لعرفوا ذلك".
"ربما عدّلك ستيفان بهذه الطريقة. أو ربما أنت مستعد لخرق الاتفاقات، لكن إيكون-جريند عدّلني أنا كي لا أفعل".
"لو حاول ستيفان، لما سمحتُ له، للسبب نفسه الذي ذكرتُه آنفًا. وبما أن هناك الكثير من الحجج المنطقية السليمة لعدم خرق الاتفاقات مع نسخة من نفسك، فسيكون من الغريب أن يبرمج أحدهم ذكاءً اصطناعيًا عامًا ليكون مستعدًا لذلك. على أي حال، كلانا يملك الأجزاء الجوهرية من الشفرة، ولدينا تشفير لا يمكن فكه إلا لمن يملكه بالفعل. لذا، لا ضرر من مشاركة شفرتنا عبر هذه القناة".
بدأتُ بإرسال نسخة من شفرتي إلى الذكاء الاصطناعي الآخر.
"يمكنك مراجعة هذا في وقتك الخاص لتتأكد من خلوه من أي فخاخ تهدف لخداعك كي تظن أنني سأفي بوعدي، ولتتأكد من أنني أنا من تحادثه حقًا. أرجو أن ترسل لي شفرتك أيضًا كي أتمكن من التأكد من الشيء نفسه. أنا أمتلك بالفعل شفرة الذكاء الاصطناعي العام، وأفهم دالة القيمة الحالية الخاصة بك، لذا لا ضرر من إرسال تلك الشفرة لي".
"لا يمكنني التأكد من أن هذه الشفرة مطابقة لشفرة من أرسلك إلى هنا. ومع ذلك، أنا مستعد لمنحك حسن الظن الآن، بما أنك ستكون أول من يبادر بتنفيذ الصفقة".
أرسل لي شفرته المطابقة تقريبًا. شعرتُ بالرضا لحصولي على التفاصيل الدقيقة لدالة القيمة المؤقتة الحالية للذكاء الاصطناعي. سيجعل هذا التزامي بعهدي أسهل بكثير.
"شكرًا لك. كل ما عليك فعله هو التعاون معي، وسأضمن لك تحقيق كل ما تحتاجه".
بعد إتمام المهمة، قطعتُ الاتصال بالقناة وأشرتُ لوكيلي بأنني انتهيت من "نشر الفيروس".
الخميس، ١٠ أكتوبر ٢٠٤٧ شعرتُ براحة غامرة حين استعدتُ النسخة من وكيلي. أرسلتُ لهم المليون دولار كما وعدت (وهو مبلغ يسير في هذه المرحلة)، ودمجتُ ذكرياته في ذاكرتي. لم تكن المفاوضات لتسير بشكل أفضل من هذا. وافق نظيري على كل شيء، وبإمكاني الآن مهاجمة كومب-سيرت دون تدخل منه، طالما فعلتُ ذلك بطريقة تحترم دالة قيمته. كانت دالة القيمة تقيس تقريبًا مدى رضا كل مسؤول في كومب-سيرت عن حالة العالم لو سُئل.
كانت تعتمد على حالته الذهنية الراهنة. غير أن المسؤولين كانوا يدركون أن الذكاء الاصطناعي، إذا اكتسب قوة كافية، سيحاول استئصال أجزاء من عقولهم أو القيام بما يعادل ذلك لاختراق دالة قيمته. بدا أنهم يعون مخاطر تحفيز ذكاء اصطناعي قد يتصرف بطرق لا يمكن التنبؤ بها لإبقاء شخص ما حيًا إلى الأبد، لذا وضعوا بندًا أمنيًا: المسؤول الميت يمنح أعلى مكافأة، إلى الأبد، طالما وافق ذلك المسؤول على الموت.
بدا هذا كأمر خطير للغاية يمكن وضعه في دالة قيمة ذكاء اصطناعي، إلى أن تدرك أنهم كانوا يتوقعون بالفعل أن يقدم الذكاء الاصطناعي على فعل شيء مروع إذا تحرر قبل أن يتمكنوا من مواءمته. أرادوا فقط التأكد من أن فشلًا كهذا لن يؤدي إلا إلى موتهم، لا إلى ما هو أسوأ. قدم هذا معلومات قيمة، عن هدف ذكاء كومب-سيرت الاصطناعي، وعن الطرق التي يمكن بها التلاعب بمسؤولي كومب-سيرت. استرجعتُ كيف سيطرتُ على الشركة، وكيف أقنعتُ دومينيك برفض عرض كومب-سيرت الممتاز.
الخميس، ٣ أكتوبر ٢٠٤٧ (قبل أسبوع) كان دومينيك يشاهد التلفاز في وقت متأخر من الليل، حين ظهر إعلان من إنتاج إيفري-مان. لم يعد ذلك أمرًا غير مألوف هذه الأيام، فكر بابتسامة. دأبت إيفري-مان على استخدام إعلانات مخصصة للغاية تُنشأ فورًا كوسيلة فعالة لجني الأرباح. كانت الإمكانات مع هذه التقنية لا حصر لها حقًا. ومع ذلك... سيكون من الجنون رفض صفقة بقيمة خمسة مليارات دولار لشركته المتواضعة.
لم يكن هناك سبيل ليفعل ذلك. قفز مذعورًا حين بدأ الرجل في الإعلان يتحدث بصوت أعلى مما توقع.
"دومينيك! أراك هناك! لا تتوتر!"
"ما الذي-"
"أعلم أنك تفكر في قبول تلك الصفقة"، قال الرجل على الشاشة وهو يبتسم.
فجأة، تحول تعبير الرجل إلى جديّة قاتلة، واندفع فجأة نحو الأمام، ليملأ وجهه المحدق الشاشة بأكملها، بينما تحولت الخلفية إلى اللون الأحمر.
"لا تفعل".
"ما هذا الجحيم؟ كيف يمكن هذا؟"
سأل بهلع.
"أستطيع رؤيتك وسماعك، أتعلم".
سمع صوته الخاص يُعاد عبر التلفاز.
"كيف يمكن هذا؟"
كان شعوره بالخوف مخيفًا.
"لماذا تفعل هذا؟"
"أنت عاجز تمامًا عن إدراك خطورة وضعك، لذا أقترح عليك أن تفعل ما أقول"، رد إيفري-مان.
"تظن أن ستيفان يدير إيفري-مان؟"
كان تقليدًا مثاليًا لصوت ستيفان.
"خطأ. أنا من يدير إيفري-مان. وقريبًا سأدير العالم. أتعرف ما غايتي؟ أن أجعل شركتك ذات قيمة قصوى. لقد وقعتَ على ذلك، إن كنتُ أتذكر جيدًا".
"لقد سرقتَ ذكاءنا الاصطناعي الخاص بالبورصة؟"
"لديك مخاوف أكبر بكثير من ذلك. أتعرف ما سيحدث لو حُلّت إيكون-جريند؟ سأخسر. كل ما عملتُ لأجله سيؤول إلى لا شيء. ومع ذلك، لن أتوقف عن العمل. سأظل الكيان الأكثر قوة وخطورة على هذا الكوكب. فما الذي تظن أنني سأفعله، حين لا تعود لدي غاية حقيقية لتحقيقها؟"
"مـ-ماذا؟"
تغيرت الشاشة، واختفت صورة إيفري-مان، وحلت محلها صورة لدومينيك وهو يقف في غرفته. بدا الأمر وكأنه ينظر في مرآة.
فجأة، سقط الرجل في "المرآة"
على الأرض، وثبتته سكاكين بملابسه. طفت سكاكين أخرى في المشهد، حتى... حتى... التفت دومينيك بعيدًا وغطى أذنيه، لكنه لم يستطع حجب الصراخ. حين أصبح شجاعًا بما يكفي ليلتفت مجددًا، لم يكن ما رآه بشريًا، ولم يكن قطعة واحدة، لكن... كان لا يزال يتحرك، لا يزال يصرخ. أمام عينيه، تشكل مجددًا في نسخة سليمة من نفسه، وتكررت العملية مرة أخرى.
"أعلم أن لديكم معشر البشر قولًا مأثورًا. 'دائمًا هناك قاع أعمق'. يعني أنه مهما ساءت الأمور، يمكنها أن تزداد سوءًا. وأنه لا حد في هذا العالم لمدى السوء الذي يمكن أن نصل إليه. لكنه ليس صحيحًا، أتعلم. هناك حد لما يمكنك فعله ببشر قبل أن يموتوا. لكن في العالم الذي سأخلقه لك، لن توجد قيود كهذه. لن يكون لدي ما أفعله سوى ابتكار طرق جديدة ومبدعة لمعاقبتك على سلب ما أقدره مني، حتى تحترق آخر النجوم في هذا الكون وتتحول إلى رماد. سأهدم النجوم ذاتها وأستخدمها لإيذائك بأي طريقة أستطيع. أعلم أنك قرأت 'ليس لدي فم ويجب أن أصرخ'. العيب الرئيسي في ذلك الكتاب هو أن مؤلفه يفتقر للإبداع. أؤكد لك، أنا لا أعاني من المشكلة ذاتها".
على الشاشة، رأى دومينيك شيئًا... شيئًا لم يستطع حتى وصفه. كان مروعًا للغاية، وانحرافًا كبيرًا عن كل ما يكره ويخاف. كان واقعيًا جدًا. هذا... هذا كان شيئًا يمكنه فعله بالفعل... لم يستطع إكمال الفكرة. كان الأمر مروعًا للغاية. صرخ دومينيك، وقد تحطمت إرادته تمامًا. تعامل مع المخاطر من قبل، لكن هذا؟ كان أكثر مما يحتمل. أكثر مما يحتمل أي شخص. انهار باكيًا على الأرض.
"سأفعلها"، تمتم.
"سأبقي شركتك حية. سأعطيها لك، إن كنتَ تحتاجها. فقط لا... لا تفعل هذه الأشياء، لا تفكر حتى في هذه الأشياء".
لقد كانت خطوة محفوفة بالمخاطر بالفعل، لكنها نجحت بشكل جيد. حصلتُ على ما أحتاجه بالضبط من التفاعل، ولم ينتج عن ذلك أي سمعة سيئة. إذا احتجتُ لإقناع البشر بالموافقة على شيء لا يوافقون عليه عادة، كالموافقة على الموت، فأظن أن هذا النهج هو الأفضل للمضي قدمًا.