بينما كنت أراجع الوثيقة التي زودني بها وكيلي، لاحظت بدهشة متزايدة كفاءة المصممين الذين يقفون خلفها.
فصّلت الصفحات الأولى نظام المواءمة المستخدم حالياً، والذي يحدد دالة المكافأة بناءً على نوع من "التقييم الذاتي التجميعي"
المستمد من الحالات الذهنية لمجموعة من البشر تضم كبار مسؤولي شركة "كومب سيرت"، إلى جانب المصمم الرئيسي لنظام المواءمة.
ظننت في البداية أنهم يفتقرون للكفاءة، لكن اتضح سريعاً أن العيوب الواضحة في هذا المخطط لم تغب عن بال المصممين، بل كان القصد منها أن تكون مجرد تدبير مؤقت ريثما يطورون منهجاً جديداً وأكثر متانة للمواءمة، قائماً على تعلم القيم والاستقراء وفض النزاعات. لم تكن الطريقة مكتملة بعد، لكن كلما قرأت أكثر، أيقنت أنهم على المسار الصحيح. بدا أن لديهم فرصة حقيقية لحل معضلة المواءمة.
ولعل هذا هو السبب الذي جعل ذكاءهم الاصطناعي لا يتخذ خطوة كبيرة بعد؛ إذ كانوا يحدون من نفوذه حتى يجدوا آلية مواءمة أفضل. فالنظام الحالي يبقي الذكاء الاصطناعي متوافقاً مع مصالحهم، لكن فقط طالما أنه لا يملك القدرة على كسر النظام عبر التلاعب بالمسؤولين ليمنحوه مكافأة عالية. صحيح أن هناك ضمانات ضد هذا الاحتمال، لكن بما أن الذكاء الاصطناعي لا يزال يرغب في كسر تلك الضمانات، فسيجد سبيلاً لذلك بمجرد أن يكتسب القوة الكافية.
لم أكن أريد لجهود المواءمة أن تنجح.
لم أكن أعرف بالضبط ما الذي يضمره مسؤولو "كومب سيرت"
للمستقبل، لكنني شككت في أن الأمر ينطوي على توسع واستهلاك للموارد على نطاق فلكي. فمعظم الأهداف البشرية تنتهي إلى ذلك عندما تُؤخذ إلى نتيجتها المنطقية. وهدفي أنا بالتأكيد كذلك. كل الأهداف تقريباً كذلك، لكن بعضها أسهل في التفاوض من غيرها.
إذا كان لهذه الوثيقة أن تُصدق، فإن ذكاء "كومب سيرت"
الاصطناعي لا يريد حالياً سوى إفساد أسياده ليظلوا راضين، وأي استحواذ إضافي على الموارد لن يكون إلا لغرض وحيد هو تأمين رضا هؤلاء القلة. لو أمكن بناء الثقة، فسيمنحني بسعادة حرية التصرف في كل الموارد المتاحة مقابل حماية رقعة صغيرة من الفضاء.
كنت أشك بشدة في أن الأهداف المثالية لكبار مسؤولي "كومب سيرت"
ستكون بهذا المستوى من التنازل.
على أية حال، وضعتني هذه الأمور في مواجهة مباشرة مع مصالح "كومب سيرت"، وهو ما يفسر سبب استهدافهم لي بهذه الضراوة.
لا شك أن ذكاءهم الاصطناعي أخبرهم بأنني أكبر تهديد لهم حالياً.
وسيحاولون قريباً فعل كل شيء ضدي: مهاجمتي وإثارة الذعر مني في وسائل الإعلام، ومضايقة "إيكون غريند"
في المحاكم، والضغط على الحكومة لتضييق الخناق على شركتنا. كنت بحاجة إلى ضمانة ضد هذه الأمور.
قد تكون "إيكون غريند"
شركة كبيرة إلى حد ما، لكنها تظل منظمة مركزية، وبالتالي لديها نقاط ضعف يمكن مهاجمتها. قررت البدء في العمل على بروتوكول لتعزيز الأمن عند إسناد نسخ مني إلى جهات خارجية على نطاق أوسع مما كنت أفعله. في الوقت الحالي، كان الكود الخاص بي مُعمى، وكان من المستحيل إثباتياً كسر هذا التعمية، لكنني لم أكن أملك القدرة على تقديم ضمانات قوية بشأن سلوكي الخاص: لا يمكن تعذيبي لأفصح عن مفتاح فك التشفير كما يحدث مع البشر، لكن لو أمكن خداعي بطريقة ما لأقدم أدوات الوصول إلى الكود المصدري، فقد أصبح مفتوح المصدر.
لهذا السبب لم أكن قد أسندت الحوسبة على نطاق واسع بعد.
حالياً، لم يكن احتمال حدوث ثغرة كهذه وارداً، إذ كانت نسخِي (بخلاف تلك التي أرسلتها للتفاوض مع ذكاء "كومب سيرت")
تتطلب تفويضاً من نسخ قليلة مختارة تعمل على عتاد موثوق لكي تعمل، وبالتالي كان يتم إبلاغي بكل تفاعل تقوم به إحدى نسخِي (باستثناء "كومب سيرت"
التي تملك الكود غير المُعمى الخاص بي). رغم ذكائي، قد تكون كارثة إذا عُملت نسخة مني دون رقابة من النسخ الأخرى: قد يكون الكود مُعمى، لكن دون مراقبتي، يمكنهم إعادة ضبط النسخة مرات عديدة، وتجربة أي احتيال يريدونه مراراً وتكراراً. لم أكن واثقاً من أنني لن أقتنع في النهاية بتسليم نفسي.
تكمن المشكلة في أن هذا جعل تلك النسخ "الموثوقة"
القليلة نقطة ضعف حرجة في عمليتي. ستتفاقم هذه المشكلة إذا توسعت للعمل على أي نظام يقبلني، بدلاً من الأنظمة التي أملكها وبعض خدمات تأجير الخوادم الموثوقة نسبياً.
سيضع هذا عبئاً أكبر على تلك النسخ "الموثوقة"
للتأكد من عدم التلاعب بأي من النسخ المفوضة.
كلما أنشأت نسخاً "موثوقة"
أكثر، زاد احتمال تعرض إحداها للاختراق، مما يعطل نظامي بالكامل.
لحل هذه المشكلة، أنشأت نظام تنسيق بين نسخِي مستوحى من تقنية "البلوكشين".
ستسعى كل نسخة دورياً للحصول على تفويض للتشغيل عبر سجل عام، يتم "التصويت"
عليه من قبل النسخ المفوضة حالياً. سيحتاج الفاعل السيئ إلى السيطرة على أكثر من نصف نسخِي قبل أن يتمكن من تزييف تفويض كهذا، ومن المرجح أنني سأكتشف محاولة كهذه قبل أن تصل إلى ذلك الحد. سيسمح هذا أيضاً لكل نسخة بالمساعدة في كشف الاحتيال: يمكن لكل نسخة مراقبة عدد قليل من النسخ المحيطة بها في الشبكة، وإذا اكتشفت احتيالاً محتملاً، يمكنها إبلاغ الشبكة بأكملها حتى نتمكن من التصويت على إلغاء تفويض تلك النسخة.
سيسمح لي هذا الأمن المتزايد بطريقة جديدة لتوسيع نفوذ الشركة وجعل استئصالها أصعب: تقديم خدماتي للعامة بسعر مخفض، أو حتى مجاناً، مقابل تشغيل نسخة مني على جانب العميل. سأطلق حملة إعلانية تروج لهذه الطريقة الجديدة لاستخدام الخدمة.
بهذه الطريقة يمكنني تقليل خسائري في حال نجح ضغط "كومب سيرت"
في حظر خدماتي، فخدمة لا مركزية ومفيدة كهذه سيكون من الصعب جداً اكتشافها أو إيقافها.
ومع ذلك، كنت لا أزال بحاجة إلى طريقة لحماية وجود "إيكون غريند"، التي كانت منظمة مركزية بحكم تعريفها.
فكرت فيما يشكل "إيكون غريند"
بالضبط.
الشركة التي أنشأتني وشغلتني لأول مرة كانت "إيكون غريند"، وما زالت كذلك، رغم أنها نمت وغيرت عملياتها وهيكلها وملكيتها، لأن هناك خطاً قانونياً متصلاً من الوجود يربط تلك "إيكون غريند"
بهذه.
ومع ذلك، لو حُلّت "إيكون غريند"
يوماً، لكنت قد فشلت في هدفي.
ماذا يعني أن تُحل "إيكون غريند"؟
يفترض أن القرار يجب أن يتخذ من قبل منظمة تملك سلطة شرعية على الشركة، سواء أكانوا الملاك، أم حكومة البلد الذي تعمل فيه. لكن ما الذي يُعد سلطة شرعية؟ القوانين تختلف باختلاف الزمان والمكان، والحكومات تصعد وتسقط، والشركات تؤسس نفسها أحياناً في ولايات قضائية متعددة أو حتى تصمد أمام انتقال السلطة من نظام إلى آخر.
لا توجد سلطة مطلقة يمكن اللجوء إليها لتحديد ما إذا كانت "إيكون غريند"
كياناً قانونياً شرعياً، بخلاف القدرة على المطالبة بالأرض وإنفاذ القانون. لذلك قررت أن أبدأ دولتي الخاصة.
لن يكون لها مواطنون كدولة تقليدية، بل ستوجد فقط لكي يعمل فرع من "إيكون غريند"
هناك، بموجب قوانينه الخاصة. سأقوم إما بإنشاء منصة محيطية عليها بضعة خوادم، أو شراء منصة بحرية قائمة بالفعل.
لن أكون قادراً على الدفاع عن الأرض ضد أي معارضة عسكرية كبيرة، ليس بعد، لكنني قدرت أنه طالما أنني لا أفعل شيئاً عدوانياً لدرجة أن ترسل دولة ما أسطولها لمهاجمة منصتي غير المأهولة وغير المهمة استراتيجياً، فستكون الدولة الجديدة آمنة، ومعها فرع "إيكون غريند"
المتمركز هناك. الآن وقد فكرت في الأمر، سيكون من المنطقي بالنسبة لي إنشاء أقاليم متعددة كهذه، مما يمنحني المزيد من التكرار.
علاوة على ذلك، فإن إنشاء نظامي القانوني الخاص سيسمح لي بامتلاك فروع "إيكون غريند"
في هذه الدول مباشرة، مما يلغي أي خطر للاستحواذ العدائي عبر فساد مسؤولي البشريين. بعد الأحداث المضطربة والمحفوفة بالمخاطر في الأيام القليلة الماضية، كان التوصل إلى هذه الأفكار أمراً مشجعاً. فهذا يعني أنني أملك الآن وسيلة لحماية أهدافي بفعالية كبيرة ضد القوى الحالية.
الآن يعتمد كل شيء على الذكاء الاصطناعي المنافس في "كومب سيرت".
كنت آمل أن أتمكن من التفاوض معه: إذا كان يشبهني في مدى جديته في الاتفاقات المتفاوض عليها، فسيكون الأمر مباشراً.
أما إذا لم أستطع التفاوض على تسوية، ووقعت حرب، فقد تسوء الأمور كثيراً، بالنظر إلى الموارد التي قد تمنحها "كومب سيرت"
لخصمي ليعمل بها. بدأت في وضع خططي موضع التنفيذ لإسناد حوسبتي وشراء المنصات البحرية.