مجلس الوزراء الرعب
تكنولوجيا

مجلس الوزراء الرعب

صعود الآلات والاستيلاء على السلطة بواسطة الذكاء الاصطناعي. عالم من المراقبة الكاملة والسيطرة الاجتماعية. الحرب النووية وانحطاط الحضارة. العديد من الرؤى المظلمة للمستقبل، التي تم رسمها منذ سنوات عديدة، كانت على وشك الحدوث اليوم. وفي الوقت نفسه، ننظر إلى الوراء ويبدو أنها لم تكن موجودة على الإطلاق. هل أنت متأكد؟

هناك ذخيرة نمطية إلى حد ما من الشعبية نبوءات بائسة (فيما يتعلق بالرؤية السوداء للمستقبل). بالإضافة إلى أكثرها شيوعًا والمتعلقة بتدمير البيئة والموارد الطبيعية، يُعتقد على نطاق واسع أن التقنيات الناشئة تضر بالتواصل بين الأشخاص والعلاقات والمجتمع.

سوف يحل الفضاء الافتراضي محل المشاركة الحقيقية في العالم بشكل مخادع. وتنظر وجهات نظر بائسة أخرى إلى التطور التكنولوجي باعتباره وسيلة لزيادة عدم المساواة الاجتماعية، وتركيز السلطة والثروة في أيدي مجموعات ضيقة. إن المتطلبات العالية للتكنولوجيا الحديثة تركز المعرفة والمهارات في دوائر ضيقة من الأفراد المتميزين، وتزيد من مراقبة الناس وتدمر الخصوصية.

وفقا للعديد من المستقبليين، فإن زيادة الإنتاجية وزيادة الاختيار المرئي يمكن أن تضر بنوعية حياة الشخص، مما يسبب التوتر، ويهدد الوظائف، ويجعلنا ماديين بشكل متزايد بشأن العالم.

أحد "الديستوبيين" التكنولوجيين المشهورين، جيمس جليك، يعطي مثالًا تافهًا على ما يبدو لجهاز التحكم عن بعد الخاص بالتلفزيون باعتباره اختراعًا كلاسيكيًا لا يحل مشكلة واحدة مهمة، مما يؤدي إلى ظهور العديد من المشكلات الجديدة. جليك، نقلا عن مؤرخ التكنولوجيا إدوارد تينريكتب أن القدرة على تغيير القنوات وسهولة تغييرها باستخدام جهاز التحكم عن بعد يعمل في المقام الأول على تشتيت انتباه المشاهد أكثر فأكثر.

وبدلاً من الشعور بالرضا، أصبح الناس غير راضين بشكل متزايد عن القنوات التي يشاهدونها. وبدلا من تلبية الاحتياجات، هناك شعور بخيبة الأمل التي لا نهاية لها.

هل ستبقينا الآلات في الحجز؟

فهل سنتمكن من السيطرة على هذا الشيء المحتوم والمحتمل ظهوره قريباً؟ على الذكاء الاصطناعي؟ إذا كان الأمر كذلك، كما تعلن العديد من الرؤى البائسة، فلا. (1).

من الصعب السيطرة على شيء أقوى منا عدة مرات. مع زيادة عدد المهام. قبل عشرين عامًا، لم يكن أحد ليصدق أنهم سيكونون قادرين على قراءة المشاعر في صوت الشخص ووجهه بدقة أكبر بكثير مما يمكننا أن نفعله نحن أنفسنا. وفي الوقت نفسه، فإن الخوارزميات المدربة حاليًا قادرة بالفعل على القيام بذلك، حيث تقوم بتحليل تعابير الوجه والجرس والطريقة التي نتحدث بها.

ترسم أجهزة الكمبيوتر الصور، وتؤلف الموسيقى، وقد فاز أحدهم بمسابقة شعر في اليابان. لقد كانوا يضربون الناس في لعبة الشطرنج لفترة طويلة، ويتعلمون اللعبة من الصفر. الأمر نفسه ينطبق على لعبة Go الأكثر تعقيدًا.

إنه يطيع قوانين التسارع الأسرع من أي وقت مضى. إن ما حققه الذكاء الاصطناعي - بمساعدة الإنسان - خلال العقود الماضية سوف يتضاعف في السنوات القليلة القادمة، وربما أشهر فقط، وبعد ذلك لن يستغرق الأمر سوى أسابيع، وأيام، وثواني...

وكما تبين مؤخرا، فإن الخوارزميات المستخدمة في الهواتف الذكية أو في المطارات لتحليل الصور الفوتوغرافية الملتقطة من الكاميرات المنتشرة في كل مكان قادرة ليس فقط على التعرف على شخص ما في إطارات مختلفة، بل وأيضا تحديد الخصائص النفسية الحميمة للغاية. إن القول بأن هذا يمثل خطرًا كبيرًا على الخصوصية هو قول بخس. لا يتعلق الأمر بالمراقبة البسيطة، ومراقبة كل خطوة، ولكن بالمعلومات التي تنشأ نتيجة لظهور الشخص نفسه، حول رغباته الخفية وتفضيلاته الشخصية. 

يمكن للخوارزميات أن تتعلم ذلك بسرعة نسبية من خلال تحليل مئات الآلاف من الحالات، وهو ما يفوق بكثير ما يمكن أن يراه حتى أكثر الأشخاص ذكاءً في حياته. وبفضل خبرتهم الواسعة، فإنهم قادرون على فحص الشخص بدقة أكبر حتى من أكثر علماء النفس ومحللي لغة الجسد والإيماءات خبرة.

لذا فإن الواقع المرير المخيف الحقيقي ليس أن أجهزة الكمبيوتر تلعب الشطرنج أو تسير ضدنا، بل إنها تستطيع أن ترى أرواحنا أعمق من أي شخص آخر غير أنفسنا، مليئة بالمحظورات والعوائق التي تحول دون التعرف على تلك الميول أو غيرها.

إيلون ماسك يعتقد أنه عندما تبدأ أنظمة الذكاء الاصطناعي في التعلم والتفكير على مستويات متزايدة باستمرار، فإن "الذكاء" قد يتطور في مكان ما عميقا في طبقات الويب، دون أن يلاحظها أحد من قبلنا.

وبحسب دراسة أميركية نشرت عام 2016، فإن لدى الذكاء الاصطناعي فرصة بنسبة 45 بالمئة للتفوق على البشر في جميع المهام خلال الـ 50 عاما القادمة. يقول المتنبئون نعم، سيحل الذكاء الاصطناعي مشكلة السرطان، ويحسن الاقتصاد ويسرعه، ويوفر الترفيه، ويحسن نوعية الحياة وطولها، ويعلمنا بحيث لا نستطيع العيش بدونه، لكن من الممكن أن يأتي يوم ما، بدونه. الكراهية، المبنية على حسابات منطقية فقط، هي ببساطة تزيلنا. قد لا يكون ذلك ممكنًا ماديًا، لأنه في كل نظام، من المفيد تجميع وأرشفة وتخزين الموارد التي "قد تكون مفيدة يومًا ما". نعم، هذا هو المورد الذي يمكن أن نصبح عليه بالنسبة للذكاء الاصطناعي. المحميات البشرية المحمية؟

المتفائلون يعزون أنفسهم بحقيقة أن هناك دائمًا فرصة لسحب القابس من المقبس. ومع ذلك، كل شيء ليس بهذه البساطة. وبالفعل، أصبحت الحياة البشرية معتمدة إلى حد كبير على أجهزة الكمبيوتر، حتى أن اتخاذ خطوة جذرية ضدها قد يكون كارثياً بالنسبة لنا.

ففي نهاية المطاف، نعمل على نحو متزايد على إنشاء أنظمة صنع القرار استنادا إلى الذكاء الاصطناعي، مما يمنحهم الحق في قيادة الطائرات، وتحديد أسعار الفائدة، وإدارة محطات الطاقة - ونحن نعلم أن الخوارزميات سوف تفعل هذا بشكل أفضل بكثير منا. وفي الوقت نفسه، لا نفهم تمامًا كيفية اتخاذ هذه القرارات الرقمية.

هناك مخاوف من أن أنظمة القيادة فائقة الذكاء مثل تقليل الازدحام قد تقودهم إلى استنتاج أن الطريقة الفعالة الوحيدة لإنجاز المهمة هي ... تقليل عدد السكان بمقدار الثلث أو حتى النصف.

نعم، من الجدير إعطاء الآلة التعليمات الأكثر أهمية مثل "أولاً، أنقذ حياة الإنسان!" ومع ذلك، من يدري ما إذا كان المنطق الرقمي سيؤدي بعد ذلك إلى سجن الإنسانية أو إلى حظيرة، حيث قد نكون آمنين، ولكننا بالتأكيد لسنا أحرارًا.

الجرائم الإلكترونية كخدمة

في الماضي ، كانت أحداث الواقع المرير وصور لعالم ما بعد المروع في الأدب والسينما تدور عادةً في حقبة ما بعد النووية. اليوم ، لا يبدو الإبادة النووية ضرورية للكارثة وتدمير العالم كما نعرفه ، وإن لم يكن بالطريقة التي نتخيلها. ، فمن غير المرجح أن تدمر العالم كما في "Terminator" ، حيث تم دمجها مع الإبادة النووية. إذا فعلت ذلك ، فلن تكون ذكاء خارق ، بل قوة بدائية. بعد كل شيء ، حتى البشرية لم تدرك بعد السيناريو العالمي لصراع نووي مدمر.

قد تكون نهاية العالم الآلية الحقيقية أقل إثارة للإعجاب.

الحرب السيبرانية، وهجمات الفيروسات، واختراق الأنظمة وبرامج الفدية، وبرامج الفدية (2) تشل عالمنا وتدمره بنفس فعالية القنابل. وإذا اتسع نطاقها، فقد ندخل في مرحلة حرب شاملة شاملة، سنصبح فيها ضحايا ورهائن للآلات، رغم أنها غير ملزمة بالتصرف بشكل مستقل، ومن الممكن أن يظل الناس وراء كل شيء.

في الصيف الماضي، وصفت وكالة الفضاء الإلكتروني وأمن البنية التحتية الأمريكية (CISA) هجمات برامج الفدية بأنها "أبرز تهديد للأمن السيبراني".

تجادل CISA بأن العديد من الأنشطة التي يقوم فيها مجرم إلكتروني باعتراض بيانات شخص أو مؤسسة وتشفيرها ثم ابتزاز فدية مقابل ذلك، لا يتم الإبلاغ عنها أبدًا لأن الضحية يدفع لمجرمي الإنترنت ولا يرغب في نشر المشكلات المتعلقة بأنظمتهم غير الآمنة. على المستوى الجزئي، غالبًا ما يستهدف مجرمو الإنترنت كبار السن الذين يجدون صعوبة في التمييز بين المحتوى الصادق وغير الصادق عبر الإنترنت. يفعلون ذلك باستخدام برامج ضارة مضمنة في مرفق بريد إلكتروني أو نافذة منبثقة على موقع ويب مصاب. وفي الوقت نفسه، تتزايد الهجمات على الشركات الكبرى والمستشفيات والوكالات الحكومية والحكومات.

وقد تم استهداف هؤلاء الأخيرين بشكل خاص بسبب البيانات الحساسة التي كانوا يحتفظون بها واحتمال دفع فدية عالية.

تعتبر بعض المعلومات، مثل المعلومات الصحية، أكثر قيمة بالنسبة لمالكها من غيرها ويمكن أن تجلب أموالاً أكثر للمجرمين. يستطيع اللصوص اعتراض أو عزل كتل كبيرة من البيانات السريرية المهمة لرعاية المرضى، مثل نتائج الاختبارات أو معلومات الأدوية. عندما تكون الحياة على المحك، ليس هناك مجال للتفاوض في المستشفى. تم إغلاق أحد المستشفيات الأمريكية نهائيًا في نوفمبر الماضي بعد الهجوم الإرهابي الذي وقع في أغسطس.

من المحتمل أن يزداد الأمر سوءًا بمرور الوقت. وفي عام 2017، أعلنت وزارة الأمن الداخلي الأمريكية أن الهجمات الإلكترونية يمكن أن تستهدف البنية التحتية الحيوية مثل مرافق المياه. والأدوات اللازمة لتنفيذ مثل هذه الإجراءات متاحة بشكل متزايد للمشغلين الصغار، الذين يبيعون لهم مجموعات برامج الفدية مثل برمجيات Cerber وPetya ويتقاضون رسوم فدية بعد الهجمات الناجحة. على أساس الجرائم الإلكترونية كخدمة.

اضطراب خطير في الجينوم

أحد الموضوعات الشائعة في ديستوبيا هو علم الوراثة، والتلاعب بالحمض النووي، وتربية البشر - بالإضافة إلى ذلك، "المبرمج" بالطريقة الصحيحة (من قبل السلطات والشركات والجيش).

التجسيد الحديث لهذه المخاوف هو وسيلة للتعميم تحرير الجينات بتقنية كريسبر (3). الآليات التي تحتوي عليها هي في المقام الأول مثيرة للقلق. إجبار الوظائف المطلوبة في الأجيال اللاحقة وإمكانية انتشارها إلى جميع السكان. أحد مخترعي هذه التقنية جينيفر دودنا، حتى أنه دعا مؤخرًا إلى وقف استخدام تقنيات تحرير السلالات الجرثومية هذه بسبب العواقب الكارثية المحتملة.

دعونا نتذكر أنه قبل بضعة أشهر عالم صيني Он جيانكوي تعرض لانتقادات واسعة النطاق لتعديله جينات الأجنة البشرية لتحصينها ضد فيروس الإيدز. والسبب هو أن التغييرات التي أجراها يمكن أن تنتقل من جيل إلى جيل مع عواقب غير متوقعة.

ومما يثير القلق بشكل خاص ما يسمى ب (إعادة كتابة الجينات، محرك الجينات)، أي. آلية الهندسة الوراثية، والتي تتمثل في تشفير نظام التحرير في الحمض النووي لفرد معين الجينوم كريسبر/كاس9 مع ضبطه لتحرير هذا النوع من الجين غير المرغوب فيه. بفضل هذا، يقوم أحفاد تلقائيا (دون مشاركة علماء الوراثة) بإعادة كتابة متغير الجينات غير المرغوب فيه مع المرغوب فيه.

ومع ذلك، قد يتلقى النسل متغيرًا جينيًا غير مرغوب فيه باعتباره "هدية" من الوالد الآخر غير المعدل. لذا فإن محرك الجينات يسمح لك بالكسر قوانين الوراثة المندليةمما يدل على أن نصف الجينات السائدة يرثها النسل من أحد الوالدين. باختصار، سيؤدي هذا في النهاية إلى انتشار الجين المتغير المعني بين جميع السكان.

عالم أحياء في جامعة ستانفورد كريستينا سمولكوحذر، في جلسة نقاشية حول الهندسة الوراثية في عام 2016، من أن هذه الآلية يمكن أن تكون لها عواقب ضارة، وفي الحالات القصوى، مروعة. يتمتع محرك الجينات بالقدرة على التحور مع مروره عبر الأجيال والتسبب في اضطرابات وراثية مثل الهيموفيليا أو الهيموفيليا.

وكما قرأنا في بحث نشره باحثون في جامعة كاليفورنيا في ريفرسايد في مجلة Nature Reviews، حتى لو كان المحرك يعمل كما هو مصمم في مجموعة سكانية واحدة من الكائن الحي، فإن نفس السمة الموروثة يمكن أن تكون ضارة إذا تم إدخالها بطريقة أو بأخرى إلى مجموعة سكانية أخرى. نفس الرأي.

وهناك أيضًا خطر يتمثل في قيام العلماء بإنشاء محركات جينية خلف أبواب مغلقة ومن دون مراجعة النظراء. إذا قام شخص ما، عن قصد أو عن غير قصد، بإدخال محرك جيني ضار إلى الجينوم البشري، مثل ذلك الذي يدمر مقاومتنا للأنفلونزا، فقد يعني ذلك نهاية الجنس البشري العاقل.

رأسمالية المراقبة

إن نسخة من الديستوبيا التي لم يكن من الممكن أن يتخيلها كتاب الخيال العلمي السابقون هي واقع الإنترنت، وخاصة وسائل التواصل الاجتماعي، بكل تداعياتها الموصوفة على نطاق واسع والتي تدمر خصوصية الناس وعلاقاتهم وسلامتهم النفسية.

هذا العالم لا يتلون إلا بالعروض الفنية الأحدث، مثل ما يمكن أن نشاهده في المسلسل التلفزيوني Black Mirror، في حلقة «الغوص» عام 2016 (4). شوشانا زوبوفويصف عالم الاقتصاد بجامعة هارفارد هذا الواقع بأنه يعتمد بشكل كامل على تأكيد الذات الاجتماعي و"محروم" تماما. رأسمالية المراقبة ()، وفي نفس الوقت تتويج لإنجاز جوجل وفيسبوك.

4. مشهد من فيلم "المرآة السوداء" - حلقة "الغوص"

وفقا لزوبوف، جوجل هو المخترع الأول. بالإضافة إلى ذلك، تعمل باستمرار على توسيع أنشطتها الرقابية، على سبيل المثال من خلال مشاريع "المدينة الذكية" التي تبدو بريئة. ومن الأمثلة على ذلك مشروع "المنطقة الأكثر ابتكارًا في العالم" الذي أنشأته شركة Sidewalk Labs، وهي شركة تابعة لشركة Google. مارينا داخل تورنتو.

تخطط جوجل لجمع بيانات دقيقة عن حياة سكان الواجهة البحرية وحركاتهم وحتى تنفسهم باستخدام أجهزة استشعار المراقبة في كل مكان.

من الصعب أيضًا اختيار ديستوبيا الإنترنت غير المطروحة على فيسبوك. ربما تكون جوجل قد اخترعت رأسمالية المراقبة، لكن فيسبوك هو الذي أخذها إلى مستوى جديد كليًا. وقد تم ذلك من خلال الآليات الاجتماعية والعاطفية الفيروسية والاستهداف المستمر حتى لغير مستخدمي منصة زوكربيرج.

الذكاء الاصطناعي المحمي، المنغمس في الواقع الافتراضي، ويعيش مع UBI

وفقًا للعديد من المستقبليين، يتم الإشارة إلى مستقبل العالم والتكنولوجيا من خلال خمسة اختصارات - AI وAR وVR وBC وUBI.

من المحتمل أن قراء مسرح ماجنت يعرفون جيدًا ماهيتها ومما تتكون الأجزاء الثلاثة الأولى. كما يتبين أن المألوف هو الرابع، "الشمس"، عندما نفهم ما نتحدث عنه. والخامس؟ UBD هو اختصار لمعنى المفهوم "الدخل الأساسي العالمي" (5). هذه فائدة حكومية تفترض من وقت لآخر والتي سيتم تقديمها لكل شخص تم تحريره من العمل مع تطور التقنيات الأخرى، وخاصة الذكاء الاصطناعي.

5. الدخل الأساسي الشامل - UBI

حتى أن سويسرا طرحت الفكرة للاستفتاء العام الماضي، لكن مواطنيها رفضوها خوفا من أن يؤدي إدخال دخل مضمون إلى إغراق البلاد بالمهاجرين. ويشكل الدخل الأساسي الشامل أيضًا عددًا من المخاطر الأخرى، بما في ذلك خطر إدامة عدم المساواة الاجتماعية القائمة.

كل من الثورات التكنولوجية وراء الاختصار (انظر أيضًا :) - إذا انتشرت وتطورت في الاتجاه المتوقع - لها عواقب وخيمة على البشرية وعالمنا ، بما في ذلك ، بالطبع ، جرعة ضخمة من الواقع المرير. على سبيل المثال ، يُعتقد أنه يمكن أن يحل محل الدورات الانتخابية لمدة أربع سنوات ويؤدي إلى استفتاءات حول قضايا لا حصر لها.

الواقع الافتراضي بدوره قادر على "استبعاد" جزء من البشرية من العالم الحقيقي. وهذا ما حدث، على سبيل المثال، مع المرأة الكورية تشان جي سون، التي بعد وفاة ابنتها عام 2016 بمرض عضال، أصبحت تلتقي بأفاتارها في الواقع الافتراضي. يخلق الفضاء الافتراضي أيضًا أنواعًا جديدة من المشكلات، أو في الواقع ينقل جميع المشكلات القديمة المعروفة إلى عالم "جديد" أو حتى عوالم أخرى كثيرة. إلى حد ما، يمكننا أن نرى هذا بالفعل على الشبكات الاجتماعية، حيث يحدث أن عددًا قليلاً جدًا من الإعجابات على المنشورات يؤدي إلى الاكتئاب والانتحار.

الحكايات النبوية أكثر أو أقل

بعد كل شيء، فإن تاريخ الرؤى البائسة يعلمنا أيضًا الحذر في صياغة التنبؤات.

6. غلاف "جزر في الشبكة"

تحفة الخيال العلمي الشهيرة لريدلي سكوت "الروبوت هنتر» منذ عام 1982. يمكن للمرء أن يناقش مدى تحقق أو عدم تحقق العديد من العناصر المحددة، ولكن لا جدال في أن النبوءة الأكثر أهمية فيما يتعلق بوجود الروبوتات الذكية الشبيهة بالبشر في عصرنا، والتي تتفوق على البشر في العديد من النواحي، لم تصبح حقيقة بعد.

سنكون على استعداد للسماح بالعديد من الضربات النبوية.أطباء الأعصاب"أي الروايات وليام جيبسون منذ عام 1984، والذي شاع مفهوم "الفضاء السيبراني".

ومع ذلك، في ذلك العقد، ظهر كتاب أقل شهرة قليلاً (في بلدنا بالكامل تقريبًا، لأنه لم يُترجم إلى البولندية)، والذي تنبأ بأوقات اليوم بشكل أكثر دقة. أنا أتحدث عن الرواية"جزر على شبكة الإنترنت"(6) بروس ستيرلنج من عام 1988 إلى عام 2023. إنه يتميز بعالم مغمور في شيء مشابه للإنترنت المعروف باسم "الويب". يتم التحكم فيها من قبل الشركات الدولية الكبرى. وتتميز "جزر الشبكة" بالسيطرة والمراقبة واحتكار شبكة الإنترنت التي يفترض أنها مجانية.

ومن المثير للاهتمام أيضًا التنبؤ بالعمليات العسكرية التي يتم تنفيذها باستخدام مركبات جوية بدون طيار (طائرات بدون طيار) ضد القراصنة/الإرهابيين عبر الإنترنت. مشغلون على بعد آلاف الأميال ولديهم أجهزة كمبيوتر مكتبية آمنة - كيف نعرف ذلك؟ لا يدور الكتاب حول الصراع الذي لا نهاية له مع الإرهاب الإسلامي، بل يدور حول الحرب ضد القوى المعارضة للعولمة. كما أن عالم الجزر في الإنترنت مليء بالأجهزة الاستهلاكية التي تشبه إلى حد كبير الساعات الذكية والأحذية الرياضية الذكية.

هناك كتاب آخر من الثمانينيات ، على الرغم من أن بعض الأحداث تبدو خيالية ، إلا أنه يقوم بعمل جيد في توضيح مخاوفنا البائسة في العصر الحديث. هذا "برنامج Georadar"، تاريخ رودييغو روكر، والذي يقام في عام 2020. يبدو العالم وحالة المجتمع وصراعاته مشابهة بشكل لا يصدق لما نتعامل معه اليوم. هناك أيضًا روبوتات تُعرف باسم boppers أصبحت تدرك نفسها بنفسها وهربت إلى مدن على القمر. لم يتحقق هذا العنصر بعد، لكن ثورة الآلات تصبح لازمة مستمرة للتنبؤات السوداء.

إن رؤى الكتب في عصرنا هي أيضًا دقيقة بشكل لافت للنظر من نواحٍ عديدة. اوكتافيا بتلر، خصوصا فيأمثال الزارع"(1993). تبدأ القصة في عام 2024 في لوس أنجلوس وتدور أحداثها في ولاية كاليفورنيا التي دمرتها الفيضانات والعواصف والجفاف الناجم عن تغير المناخ. تجتمع عائلات الطبقة المتوسطة والعاملة في مجتمعات مسورة، في محاولة للهروب من العالم الخارجي من خلال المخدرات التي تسبب الإدمان وأدوات الواقع الافتراضي. ديانات جديدة ونظريات المؤامرة آخذة في الظهور. قافلة من اللاجئين تتجه شمالاً هرباً من الانهيار البيئي والاجتماعي. رئيس يصل إلى السلطة يستخدم شعار حملته الانتخابية "لنجعل أمريكا عظيمة مرة أخرى" (هذا شعار دونالد ترامب)...

كتاب بتلر الثانيالمثل من المواهب"، يروي كيف يغادر أعضاء طائفة دينية جديدة الأرض على متن سفينة فضائية لاستعمار ألفا سنتوري.

***

ما هو الدرس المستفاد من هذه المراجعة الشاملة للتنبؤات والرؤى التي تمت منذ عقود مضت والتي تؤثر على حياتنا اليومية؟

ولعل النقطة المهمة هي أن الديستوبيا تحدث في كثير من الأحيان، ولكن في أغلب الأحيان بشكل جزئي فقط.

إضافة تعليق