من قبل سيرجيو أماديو دا سيلفيرا *
الكارثة الخوارزمية وسحابة "التعتيم"
1.
لقد أفرز سوسيولوجيا الحداثة مجموعة من التأملات التي تحتاج إلى التعمق، خاصة في زمن انتشار الموجات الرجعية التي تتعايش وتتغذى على ظهور التقنيات التي تقترح التوسط في جميع الأنشطة الإنسانية. عالم الاجتماع أولريش بيك مجتمع المخاطرحذر تقرير نشر في ألمانيا عام 1986 من أن المخاطر والشكوك أصبحت مركزية في المجتمعات الحديثة التي يقودها التقدم التكنولوجي والصناعي.
وقد أشار أولريش بيك بالفعل إلى أن مثل هذه المخاطر سوف تصبح غير مرئية على نحو متزايد وأن تصورها سوف يتشكل من خلال المؤسسات العلمية ووسائل الإعلام. سيتم دمج ديناميكيات المخاطر والبحث المستمر عن المسؤولين والمذنبين عن الكوارث سيقودنا إلى سياسة معينة تدعمها إدارة المخاطر.
إن تصور أولريش بيك لا يمكن أن يكون أكثر واقعية، حيث أن التقنيات الرقمية هيمنت على الاقتصاد والشركات الكبرى التي تسيطر عليها وتتحكم في تطورها فرضت أسلوب إدارة المخاطر. افتتح الفيلسوف يوك هوي نصه كارثة خوارزمية – الانتقام من الطوارئفي عام 2020، الكوارث التكنولوجية ليست مجرد إخفاقات مادية، ولكنها إخفاقات منطقية. مستوحى من بول فيريليو، يفكر يوك هوي في الأنظمة التكنولوجية المعاصرة باعتبارها حاملة للكوارث وتقنيات للتخفيف من المآسي التي تولدها ديناميكياتها وأغراضها.
الكوارث أمر لا مفر منه بسبب طبيعة الأتمتة وتقنيات الأتمتة. تتجه أنظمتنا نحو الاستخدام المتزايد لحلول الذكاء الآلي القائمة على الإحصائيات والاحتمالات التي يتم تحويلها إلى أنظمة خوارزمية تعمل بقوة حسابية هائلة، وتولد نماذج تُستخدم لأتمتة الأنشطة ومخاطرها.
نوربرت وينر، في النص بعض العواقب الأخلاقية والفنية للأتمتة، نشرت في مايو 1960 في المجلة علومأعلن أن الآلات يمكنها تطوير استراتيجيات غير متوقعة، لأنها تحمل خوارزميات التعلم، والتي لا يمكن دائمًا فهمها واتباعها من قبل مبرمجيها.
2.
ما حدث يومي 18 و19 يوليو 2024 هو مثال على كارثة خوارزمية. لقد فشل نظام إدارة المخاطر، أو بالأحرى نظام التخفيف من الهجمات السيبرانية. أدى خطأ في تحديث البرنامج من شركة CrowdStrike للأمن السيبراني، والذي تم تطبيقه على نظام تشغيل Microsoft، إلى ما أسمته الصحافة العالمية التعتيم الإلكتروني أو الرقمي. قالت رسالة من Microsoft على Twitter السابق، X الآن: "نحن على علم بوجود مشكلة في أجهزة الكمبيوتر السحابية التي تعمل بنظام التشغيل Windows 365 والتي نتجت عن التحديث الأخير لبرنامج CrowdStrike Falcon Sensor."
يتضمن كل نظام رقمي بطريقة ما محاولة اكتشاف واحتواء الأخطاء والإخفاقات والهجمات، وبعبارة أخرى، المخاطر والحوادث. ولذلك، هناك أنظمة خوارزمية أخرى تعمل طوال الوقت لتحليل حالات الفشل والأخطاء والهجمات. تعد برامج مكافحة الفيروسات مثالاً على الإجراء الوقائي لحماية النظام من إرسال ملفات ضارة يمكنها تدمير المعلومات وحتى تشفير قاعدة البيانات للحصول على فدية من المجرمين الذين يمتلكون مفتاح فك تشفير المعلومات. ومن المثير للاهتمام أن المشكلة التي حدثت والتي تسمى "التعتيم" حدثت عندما انتهى نظام الحماية أو منع الهجوم إلى الترويج لهجوم على النظام الذي كان من المفترض أن يدافع عنه.
كتب أنتوني جيدينز وأولريش بيك أنه في أواخر الحداثة، تنتج المخاطر إلى حد كبير عن طريق المجتمع نفسه، وذلك بشكل رئيسي عن طريق التكنولوجيا والتصنيع والعولمة. ومع ذلك، فقد كنا في أواخر الحداثة لفترة طويلة، ونحن في نظام رأسمالي متعفن. إن حلم الرأسمالي هو حلم بائس ويسعى إلى استبدال العمل البشري إلى أقصى الحدود بالأنظمة الآلية بهدف تقليل التكاليف وزيادة جودة ودقة الخدمات والمنتجات من خلال زيادة الإنتاجية.
وهكذا، في الرأسمالية المعاصرة، تتقدم شركات التكنولوجيا الكبرى في الجمع المتواصل للبيانات لتحسين استخلاص الأنماط من العمليات البشرية والاجتماعية والآلية. ومع ذلك، فإن لهذا الحلم عواقب اجتماعية وتقنية لا يمكن التنبؤ بها ولا يمكن السيطرة عليها.
ومن المهم الإشارة هنا إلى أن المخاطر مقترنة بأهداف تزيدها، ومن بينها البحث عن الهيمنة على السوق التي تروج لها احتكارات القلة الرقمية، أو ما يسمى شركات التكنولوجيا الكبرى. في العقد الأول من القرن الحادي والعشرين، انتشر نموذج الأعمال القائم على ما يسمى بالحوسبة السحابية، مما أدى إلى تسريع تركيز قوة الحوسبة وتخزين البيانات، وبالتالي توسيع التركيز الاقتصادي.
كيف تبدو الأعمال السحابية؟ ماذا تعني عبارة "بياناتي في السحابة"؟ السحابة هي كناية عن أعمال تخزين ومعالجة البيانات والأنظمة الموجودة فيها مراكز البيانات والتي يمكن الوصول إليها عن بعد عبر الإنترنت. كما تقول النكتة "السحابة هي أجهزة كمبيوتر الآخرين".
تخصص عدد قليل من الشركات وانتهى بها الأمر بالسيطرة على أعمال التزويد السحابي. استحوذ Amazon Web Server وMicrosoft Azure، في عام 2021، على 60% من السوق السحابية العالمية التي تقدم البنية التحتية كخدمة. ماذا يعني ذالك. أن العديد من الشركات والمؤسسات والحكومات استبدلت البنية التحتية لمعالجة البيانات والتخزين المحلية الخاصة بها بعقود مع أمازون ومايكروسوفت "للاعتناء" و"استئجار" مساحة تخزين البيانات وخدمات الحوسبة.
وكانت تكاليف التعاقد السحابي للشركات والحكومات جذابة. وأدى ذلك إلى نمو هائل في هذا السوق. وكانت النتيجة المزيد من التركيز الاقتصادي.
وفقًا لمجموعة Gartner Group، كان التركيز في سوق البنية التحتية السحابية كخدمة (IaaS) على النحو التالي في عام 2023: امتلكت أمازون 39%، ومايكروسوفت 23%، وجوجل 8,2%، وعلي بابا 7,9%، وهواوي 4,3%. وسيطرت هذه الشركات الخمس على 82,4% من السوق السحابية العالمية. علاوة على ذلك، فإن هذا السيناريو يزداد سوءًا بسبب تدريب نماذج لغوية كبيرة، LLMs، والتي تتطلب العديد من أجهزة الكمبيوتر المتاحة ذات قدرة معالجة عالية جدًا أو قوة حسابية. ولذلك، فإن الذكاء الاصطناعي التوليدي القائم على استخلاص الأنماط من كميات كبيرة من البيانات يساهم في تركيز القوة الحسابية التي تعني القوة الاقتصادية.
3.
وفي يوم انقطاع التيار الكهربائي، توجهت العديد من الشركات للوصول إلى تطبيقاتها وأنظمتها في سحابة مايكروسوفت وواجهت الشاشة الزرقاء الشهيرة، مما يعني عدم قدرة نظام التشغيل على العمل. العديد من الأشخاص الذين لديهم Microsoft 365 لديهم أيضًا إمكانية الوصول إلى ملفاتهم مقفلة. يشبه Microsoft 365 خدمة اشتراك تتيح للمستخدمين الوصول إلى مجموعة Office والخدمات الأخرى عبر الإنترنت، بدلاً من تثبيتها محليًا على أجهزتهم الخاصة.
وهذا يعني أنه يتم تخزين بيانات وملفات المستخدمين في سحابة Microsoft، مما يسمح لهم بالوصول إلى مستنداتهم ومعلوماتهم من أي مكان متصل بالإنترنت. إلا في حالة تعرض الشركة التي تقدم الخدمة لفشل أو هجوم أو حظر سواء كان ذلك بقصد أم بغير قصد.
أظهر التعتيم القوة الهائلة التي يمتلكها وسيط العلاقات الرقمية ومشغل معالجة البيانات مثل Microsoft. ومما لا شك فيه أن الفشل غير المقصود هو الذي تسبب في انقطاع التيار الكهربائي. ولكن، من الواضح أن مايكروسوفت لديها القدرة على منع الشركات والمؤسسات من الوصول إلى البيانات الخاصة بها الموجودة على مواقعها مراكز البياناتبعيدًا عن اختصاصنا وقدرتنا على الوصول إليه فعليًا.
لدينا مشكلة السيادة الرقمية هناك. يحتاج قادة الدولة البرازيلية إلى تقييم مخاطر الاستمرار في استضافة بياناتهم الإستراتيجية واستخدام البرامج اليومية في البنى التحتية خارج بلدنا. تحتاج جامعاتنا إلى مناقشة ما إذا كان من الضروري الاحتفاظ ببيانات اتصالاتها وأبحاثها في البنى التحتية المثبتة في بلدنا، وفي نطاق ولايتنا القضائية، وتقديمها إلى لجان الأخلاقيات لدينا. إن الاستقلالية اللازمة للتنمية تنطوي على نحو متزايد على السيادة الرقمية.
* سيرجيو أماديو دا سيلفيرا هو أستاذ في الجامعة الفيدرالية ABC. المؤلف ، من بين كتب أخرى ، من استعمار البيانات: كيف يعمل الخندق الخوارزمي في الحرب النيوليبراليةالاستقلالية الأدبية). [https://amzn.to/3ZZjDfb]
المراجع
بيك، أولريش. جيدينز ، أنتوني. لاش، سكوت. إعادة اختراع السياسة: نحو نظرية التحديث الانعكاسي. مطبعة جامعة ستانفورد، 1994.
بيك، أولريش. مجتمع المخاطرة. ساو باولو: Editora 34 ، 2010.
مؤسسة جارتنر تقول إن إيرادات الخدمات السحابية العامة IaaS في جميع أنحاء العالم ارتفعت بنسبة 16.2% في عام 2023
ستامفورد، كونيتيكت، 22 يوليو 2024. الرابط: https://www.gartner.com/en/newsroom/press-releases/2024-07-22-gartner-says-worldwide-iaas-public-cloud-services-revenue-grew-16-point-2-percent-in-2023
هوي، يوك. كارثة خوارزمية. الانتقام من الطوارئ. Parrhesia: مجلة الفلسفة النقدية، لا. 34 ، 2020.
وينر، نوربرت. بعض العواقب الأخلاقية والفنية للأتمتة: عندما تتعلم الآلات، فإنها قد تطور استراتيجيات غير متوقعة بمعدلات تحير مبرمجيها. علوم، الخامس. 131 ، لا. 3410 ، ص. 1355-1358، 1960.
الأرض مدورة هناك الشكر لقرائنا وداعمينا.
ساعدنا على استمرار هذه الفكرة.
يساهم
