من قبل إليونورا ألبانو *
إن الترويج العشوائي لروبوتات الدردشة قد يؤدي إلى تقويض التقاليد التعليمية التي تعتمد على التفكير النقدي
إن هجمات الرأسمالية على التفكير النقدي تؤثر بشكل مباشر على مستقبل الجامعة. إن هذه الممارسات تحدث، على الأقل، منذ أن تم تمويل الثلاثي المتمثل في التدريس والبحث والتوسع - والذي اغتصبته شركات التكنولوجيا الكبرى مؤخرًا، وفرضت نفسها كـ "رعاة".
تسلط هذه المقالة الضوء على شكل الرعاية الذي يجعل ما يسمى بالروبوتات المحادثة أو "روبوتات الدردشة" متاحة على الإنترنت.
وتنسب شركة "تكنو ساينس" الذكاء إلى هذه الروبوتات، مدعية أنها قادرة على إعداد الدورات على أي مستوى وتسريع البحث وأتمتة المراجعات الببليوغرافية وتقليل وقت جمع البيانات ومعالجتها.
يتضح هنا أن صحة هذه الادعاءات تعتمد كليًا على التدريب النقدي لمستخدمي برامج المحادثة الآلية.
من الضروري أن تعلم أن هؤلاء الأشخاص يقومون فقط بإعادة تحرير "المنطق" عالي التردد على الإنترنت. ومن الضروري أيضًا أن نفهم أن هذا يتم من خلال محاكاة مبسطة لآلة تورينج - التي تتنبأ بالرمز التالي في تسلسل مستمر ومترابط بشكل شامل - والتي في الواقع لا تخلق أي شيء.
ومن ثم فإن الترويج غير النقدي والعشوائي لهذه النظرية قد يؤدي إلى تقويض التقاليد التعليمية التي تعتمد فعاليتها على قرون من ممارسة التفكير النقدي.
تناقش هذه المقالة الأدوات التي تقدمها شركات التكنولوجيا الكبرى للطلاب والمعلمين، مع التركيز على نسب الذكاء إلى أكثرها شيوعًا، وهي نماذج اللغة الكبيرة (المشار إليها فيما يلي باسم GMLs، كما هو الحال في LLMs باللغة الإنجليزية - نماذج اللغات الكبيرة(أشهر مثال على ذلك هو ChatGPT). ولتحقيق هذه الغاية، يستأنف المقال ويوسع الحجج المقدمة ضد هذه الادعاءات. نُشرت على الموقع الأرض مدورة في ديسمبر 2023.
الخطوات المطلوبة هي ستة.
أولاً، سأناقش، في ضوء تحليلات العلوم الاجتماعية، التحولات المتواصلة للرأسمالية منذ ظهور النظام المالي. بعض المؤلفين المعاصرين، مثل، على سبيل المثال، تسوكاليس،[أنا] يزعم البعض أن مصطلح الليبرالية الجديدة يفقد معناه، نظراً لتكاثر الطرق الحالية للحصول على الربح.
ولكن تركيزي سيكون على السلوك، أي أنني سأحاول فهم الانزعاج والقلق وانعدام الأمن الناجم عن هذا التغيير المتواصل في نظام الإنتاج.
وسوف أشرع بعد ذلك في دراسة العواقب الضارة لهذا الوضع على ممارسة النقد، مشيرا إلى بعض التهديدات التي تلوح في الأفق بالفعل.
أستمر في إظهار كيف أن الاستيلاء غير المقيد على محتوى الإنترنت من قبل شركات التكنولوجيا الكبرى مهد الطريق أمامها لترسيخ نفسها كرعاة للتعليم، ووعدت بتزويد المعلمين والطلاب والباحثين بمجموعة متنوعة من الأدوات.
بعد ذلك، سأقوم بتحليل أهم هذه التقنيات، ألا وهي تكنولوجيا اللغة الخاصة بالمساعدين الشخصيين (مثل Alexa من Amazon أو Copilot من Microsoft). أولاً، أظهر أن محاكاة النبرة المهذبة والسرية لسكرتيرة قياسية تثير كل أنواع الخيالات حول القدرات المعرفية - وحتى الاجتماعية والعاطفية - للآلات الكاتبة/القارئة (أو المتحدثين/المستمعين).[الثاني]). سأوضح الآن كيف تؤثر مثل هذه الأوهام وتزعزع استقرار الحياة اليومية للأشخاص والمؤسسات المعنية.
الخيال الأول هو الخيال المتعلق بقدرة الآلة على الإحساس، أي الإيمان بقدرتها على تجربة الأحاسيس والمشاعر، فضلاً عن الوعي بها.
خيال آخر يعيد إحياء الأسطورة القديمة حول العرافين الحجريين، الذين اعتبروا في العصور القديمة كائنات حية وواعية وذكية. وتزعم نسختها الحالية أن محاكاة التفكير البشري بواسطة الآلة تحقق التماثل المثالي. سأثبت زيف هذا الافتراض من خلال شرح البنية السلوكية خطوة بخطوة، القائمة على التكييف الإجرائي، لـ GMLs وراء برامج الدردشة الآلية.
فيما يلي دليل على أن المعاني "الجديدة" التي أنشأتها روبوتات اللغة ليست جديدة في الواقع، لأنها تستند حصريًا إلى القياسات التي يمكن العثور عليها، من خلال وظائف إحصائية متطورة، في المجموعة العملاقة التي تشكلها الإنترنت.
إن النقد لا يندرج ضمن هذا الحد، لأنه يتطلب ممارسة الشك بشكل مستمر. إن حقيقة أن سرعة محركات البحث وكفاءتها تسمح للآلة بإعطاء إجابات مقبولة، أو جيدة جدًا، أو حتى ممتازة، لا تسمح لها بطرح أسئلة جيدة. ولذلك، تظل الأسئلة مسؤولية المستخدم وحده.
وأخيرا، أود أن أشير إلى بعض العيوب الموجودة في هذه الأدوات والتي قد تسبب الارتباك للمستخدمين الذين يريدون استخدامها لتسريع وأتمتة المهام الأكاديمية مثل إعداد الدروس، ومراجعة النصوص، وتنظيم بيانات البحث.
أستنتج، إذن، أن هذه الموارد مفيدة للغاية - ولكن فقط لأولئك الذين يعرفون كيفية إخضاعها للتدقيق النقدي الصارم.
التحولات المذهلة للرأسمالية
منذ ظهور النظام المالي، عملت الرأسمالية على خلق طرق جديدة للحصول على الربح تتجاوز إلى حد كبير استغلال العمال. مع ظهور الإنترنت وانتشاره، بدأ المستهلكون العمل مجانًا لصالح مالكي المنصات، حيث يقومون عند استخدامها بإنشاء ملف شخصي لعلاقاتهم الاجتماعية وعاداتهم الاستهلاكية، ليتم بيعه، دون موافقتهم، للمعلنين المهتمين. كما أشارت شوشانا زوبوف،[ثالثا] إن هذا المراقبة المستمرة تنتهك خصوصية المستخدم، وهي في الواقع تخدم نظام مراقبة قوي.
وفي الوقت الحاضر، لم تعد تجارة البيانات تقتصر على نقرات مستخدمي الإنترنت. هناك شركات لا تمتلك الموارد اللازمة لإنشاء وصيانة مساحات على الإنترنت، فتقوم بتخزين قواعد بياناتها في السحابات التي تسيطر عليها شركات التكنولوجيا الكبرى. هذا التغيير الجذري، الذي دمر الأسواق من خلال نقلها إلى ما يسمى "الحوسبة السحابية"، أطلق عليه يانيس فاروفاكيس اسم "الإقطاع التكنولوجي".[الرابع]
يستغل الإقطاع التكنولوجي المستهلكين والرأسماليين من خلال استغلال جيش من العمال غير المستقرين والمتعاقدين من الخارج الذين يقومون بتصنيف البيانات ووضع العلامات عليها في هيكل هرمي لا يمكن تحقيقه إلا من خلال الآلات العملاقة.
وهذه قوة عاملة مؤهلة ومتخصصة للغاية. هناك بعض العلماء الدقيقين الذين يتعاونون في إنتاج البنية الخوارزمية للشبكة. هناك آخرون من العلماء الطبيعيين والبشر الذين يقومون بفحص المحتوى المنشور وإنتاج شبكة تصنيف معقدة وتسلسلية لتوجيه ليس فقط محركات البحث، ولكن أيضًا نماذج اللغة الكبيرة - والتي تعمل تطبيقاتها، في التوسع المستمر، على إغراء المستخدمين والسيطرة عليهم بشكل متزايد.
المفكرة النسوية نانسي فريزر[الخامس] وقد صاغ الاقتصاديون مصطلح "رأسمالية آكلة لحوم البشر" لوصف هذا الشكل من تقديم الخدمات، الذي يلتهم عددا متزايدا من الأفراد والمؤسسات. وعلى نحو مماثل، يقول الصحفي والمحلل السياسي راؤول زيبيشي:[السادس] واقترح مصطلح "رأسمالية المافيا" للحالة التي يكون فيها لهذا الحلق الشره ارتباط بالفساد وتجارة المخدرات والجريمة المنظمة بشكل عام.
دعونا الآن نفكر في آثار إساءة استخدام هذه القوة المجهولة على عقولنا وأجسادنا. إن الأجساد التي سئمت من الاستخدام المتواصل للشاشات ولوحات المفاتيح والفئران تحول عقولها إلى اتصالات افتراضية خالية تمامًا من المحفزات الصوتية والإيمائية واللمسية التي تعطي التماسك والترابط للتعايش الجسدي. وبسبب هذا الروتين، فإنهم ينتهي بهم الأمر إلى تطبيع الحرمان الذي لا مفر منه من الاتصال الاجتماعي والعاطفي.
وفي حالة أولئك الذين يعتاشون من هذه الأنشطة، لا يزال هناك خيبة أمل في هشاشة سوق العمل والقلق بشأن عدد الساعات اللازمة لكسب دخل أساسي. النتيجة هي تضاعف حالات الإجهاد المزمن - والتي يقترح الطب النفسي لها، دون إدراك تعقيد الظاهرة، مصطلح "الإرهاق النفسي"، وعلاجها بالأدوية.
في هذا السيناريو، من الأفضل أن نقول إن ما يسمى بمجتمع المعرفة يمكن أن يكون بالعكس، أي "مجتمع الجهل". وبدلاً من تعزيز التنوير الذي وعدت به ادعاءاتها التنويرية، فإنها غالباً ما تغمر الجمهور بالمعرفة المتخصصة التي تصنعها وتنشرها وتبددها وفقاً للموضة. ويساهم انفجار المفردات الناتج عن ذلك في مزيد من الارتباك.
وتكمن التهديدات الأخرى للصحة العقلية للسكان في الدعاية المضللة المتواصلة حول مزايا الثروة والرفاهية والبذخ. في الآونة الأخيرة، أصبح الأشخاص ذوو الدخل المنخفض للغاية يخاطرون بما لديهم القليل في جنون المراهنة عبر الإنترنت. إن الانغماس في الآليات المزعجة والمتكررة لشبكات التواصل الاجتماعي يحرمهم من أبسط أشكال التفكير والتعاطف مع الآخرين. شيئا فشيئا، تسيطر الوحشية على العقول والقلوب بقوة لا يمكن إيقافها.
تراجع النقد
من المؤكد أن الصورة أعلاه ليست السبب، بل هي النتيجة، للتخدير التدريجي للنقد. إن السبب أكثر بعداً: فهو يكمن في عقود من الهجمات، العلنية أو الخفية، التي شنتها نسخ متعاقبة من الرأسمالية على المؤسسات التي تحمي الفكر النقدي.
على مدى خمسة عقود تقريبا، أدت المالية التي فرضها الليبرالية الجديدة إلى إضعاف التعليم العام في جميع أنحاء العالم.[السابع] كان على المدارس على جميع المستويات أن تسعى إلى إقامة شراكات و/أو رعاية لتجنب فرض رسوم دراسية - أو على الأقل الحفاظ على قيمها قابلة للتطبيق. وقد نجح أولئك الذين تمكنوا من الحفاظ على العروض الدراسية المجانية في مضاعفة عدد الدورات الدراسية التوسعية والتخصصية المدفوعة الأجر، وتوسيع نطاق الأنشطة اللامنهجية المدفوعة الأجر على قدم المساواة.
الحكومات متواطئة في دفع أجور زهيدة للمعلمين، مما يضطرهم إلى العمل في أكثر من وظيفة واحدة من أجل البقاء. وهذا لا يؤثر على لياقتك البدنية فحسب، بل يؤثر أيضًا على التزامك بالتدريب المستمر.
ومن ناحية أخرى، تبيع المدارس الخاصة للأسر وعوداً جميلة، سواء فيما يتصل بالاحتراف والاندماج في سوق العمل، أو بالتدريب الموسوعي و/أو متعدد التخصصات الذي يهيئ الأطفال لعالم في تغير مستمر. إن هدف التعلم بشكل عام ليس التأمل في الواقع بل العمل به.
إن الجامعة العامة، باعتبارها المعقل الأخير للتفكير النقدي، تخفف من نقص التمويل لديها من خلال فتح الطريق أمام الخصخصة. تندمج الدراسات العليا والتخصص بشكل متزايد، ويفسح البحث الأساسي المجال للبحوث التطبيقية المصممة حسب الطلب.
إن تطبيع هذا الوضع يعني إنكار أن حرية الفكر يجب أن تكون مستقلة عن أي رعاية خاصة. في الديمقراطية، من الضروري الحفاظ على استقلالية الباحثين. ومن ثم، فإن العمل على القضايا التي يثيرها مسار كل مجال من مجالات المعرفة يجب أن يتم تمويله من مصادر عامة.
لقد أدت الخصخصة في الأطراف إلى جعل المدارس - حتى العامة منها - عرضة لمعايير الكفاءة في عالم الأعمال. وهذا يدفعهم في كثير من الأحيان إلى الاستعانة بشركات إدارة الأصول للسيطرة على أصولهم المادية والرمزية من أجل "تحسين" استخدامها وأدائها وقيمتها. ومن بين الأصول التي تتم إدارتها بيانات جميع الجهات الفاعلة المعنية. وهكذا ينزلق التعليم، دون حذر، إلى واحدة من أكثر ممارسات الرأسمالية الحالية عدوانية. الافتراض هو أن أي سلعة مادية أو معلوماتية قابلة للبيع وبالتالي يمكن استخدامها لتحقيق الربح.
الأسطورة القديمة عن الروبوت الذكي
قبل وقت طويل من ظهور الآلات الآلية التي كانت تستقبل أفراد العائلة المالكة والأرستقراطية الأوروبية في عصر التنوير، كانت هناك بالفعل أساطير حول آلات ذكية قادرة على طاعة أسيادها. في أوديسييروي هوميروس أن إله علم المعادن والحرف اليدوية، هيفايستوس، وحاشيته الذهبية استخدموا المنفاخ لأداء مهام ميكانيكية متكررة. ويذكر أيضًا أن الفينيقيين كانت لديهم سفن تطيع أوامر قادتها وتتحرك بسرعة الفكر لتجنب مخاطر الملاحة.
ظلت الشخصيات الاصطناعية والحيوانات والكائنات الأسطورية شائعة طوال العصور القديمة والعصور الوسطى والعصر الحديث. وكان يُنظر إلى هذه المخلوقات المصنوعة من الزجاج أو الطين أو المعدن عمومًا على أنها عبيد أو خدم، مخصصون لتلبية أكثر الاحتياجات تنوعًا، بما في ذلك الجنس.
لم يكن الأمر مجرد خيال: فقد كان اليونانيون يمتلكون تكنولوجيا ميكانيكية متقدمة، مما سمح لهم ببناء آلات آلية تعمل بواسطة الينابيع والحبال و/أو الرافعات. وقد حُفِظ هذا الفن جزئياً في أوروبا في العصور الوسطى وانتشر في جميع أنحاء العالم، ووصل أولاً إلى الإسلام ثم انتقل شرقاً.
كما تصورت الثقافات الشرقية أيضًا روبوتات حارسة، مسؤولة عن القصور أو الأضرحة، مثل قصر بوذا.
وكانت هذه الآليات بمثابة أدوات قوية للسيطرة الاجتماعية. وكان هدفهم إثارة الإعجاب والخوف في نفس الوقت. وفي الوقت نفسه، غذت الدمى العاهرة، التي توفر الدعم المادي للتخيلات الاستمناءية، الإيمان بوجود "روح" مزعومة للآلات.
وقد انتشرت مثل هذه الخيالات أيضًا في الأدب. على سبيل المثال، في رحلات جاليفريصف جوناثان سويفت المحرك، وهو آلة تشكل "مشروعًا لتحسين المعرفة المضاربة من خلال العمليات العملية والميكانيكية". ومن خلال استئجارها بأسعار متواضعة، لم يتمكن "أي شخص جاهل، لديه حد أدنى من التعليم وبدون مرشد"، إلا من تحريك ذراعه "لكتابة كتب في الفلسفة والشعر والسياسة والقانون والرياضيات واللاهوت".
تأثير إليزا تم التقليل من أهميته
تم اكتشاف أن البشر ينقلون المودة بسهولة إلى الآلات بواسطة جوزيف ويزنباوم[الثامن]، يهودي ألماني هاجرت عائلته إلى أمريكا في بداية صعود النازية. ولكن صدمة الاضطهاد وصعوبة التكيف مع البيئة الجديدة لم تمنعه من تطوير موهبته الاستثنائية في الرياضيات والحوسبة. وعلى الرغم من افتقاره إلى الدعم من عائلته، إلا أنه كان يتمتع بمسيرة أكاديمية رائعة، مما دفعه إلى تولي منصب أستاذ في معهد ماساتشوستس للتكنولوجيا.
يُعرف بأنه أحد آباء الذكاء الاصطناعي، على الرغم من أنه رفض هذا اللقب، حيث كان يعتقد أن الآلات قادرة فقط على الحساب، وليس التفكير.
وقد ساعده التحليل النفسي على التغلب على صدمات الماضي، وكان له تأثير حاسم على حياته المهنية. وفي الوقت نفسه، دفعه تمسكه بالاشتراكية إلى استكشاف إمكانية إضفاء الطابع الديمقراطي على العلاج النفسي من خلال الوسائل الرقمية. ولتحقيق هذه الغاية، درس التيارات المتاحة وأقام تجربة جريئة مع الأسهل للمحاكاة حاسوبيًا، وهي: روجرز، والتي سميت تكريمًا لمخترعها، عالم النفس الأمريكي كارل روجرز.
هذا هو العلاج النفسي غير الموجه، والذي عرفه كارل روجرز بأنه "مُركز على الشخص". وهو يتألف في الأساس من إدراج بيان المريض في عبارات مثل "لقد أخبرتني أن ..."، تليها عبارات مبتذلة أخرى غامضة ولكنها مشجعة، مثل: "وكيف يمكننا التعامل مع هذا؟" إنه، في جوهره، رهان على القوة العلاجية المتمثلة في إخراج الأشياء إلى النور.
وعلى الرغم من أن جوزيف وايزنباوم ابتكر هذا الروبوت كأداة بحث حول جدوى الروبوت المحادثة، إلا أن إليزا سرعان ما حققت نجاحاً جماهيرياً مفاجئاً، مما أثر في النهاية على تصميم الدراسة. والسبب هو أن المشاركين ادعوا أن محادثاتهم مع الآلة كانت خاصة ورفضوا مشاركة محتواها مع الباحث.
ومن الواضح أن جوزيف وايزنباوم كان مقتنعًا بأن إليزا لا يمكن أن تكون نشطة أو ذكية. ثم أدرك أن ارتباط المشاركين بالمعالج الرقمي كان بمثابة شكل من أشكال النقل، بالمعنى التحليلي النفسي.
اتضح أنه في الستينيات والسبعينيات من القرن العشرين، كانت جماعات الضغط التي تدافع عن حوسبة المجتمع وأتمتته قوية بالفعل في الولايات المتحدة، وقد أدت إلى انخراط المستخدمين عاطفياً مع الآلات. عارض جوزيف وايزنباوم هذه الحملة من خلال كتابة الكتب والمقالات التي بحث فيها الفرق بين التفكير البشري والحساب الرمزي.
ولكنه سرعان ما حصد الثمرة المريرة لرفض عنيف، قاده زملاؤه في معهد ماساتشوستس للتكنولوجيا، وخاصة جون مكارثي، الذي يتذكره الناس اليوم باعتباره والد الذكاء الاصطناعي. في الواقع، كان هذا المصطلح قد صاغه كحيلة تسويقية لجذب التمويل من وزارة الدفاع الأمريكية لندوة نظمها في كلية دارتموث في عام 1956، كان من الواضح أن المؤسسة العسكرية كانت مفتونة بالوعد الضمني بالمراقبة الرقمية.
وكان الانزعاج شديداً إلى درجة أن جوزيف فايزنباوم فضّل العودة إلى ألمانيا ومواصلة العمل مع محاوريه هناك ــ جميعهم من الشباب والناقدين والمتحمسين.
ولكن في ذلك الوقت، كانت القوة الاقتصادية الأميركية تتجه بشكل متزايد نحو الإنترنت كمكان للسيطرة على السلوك والتلاعب به. وهكذا استخدم كل المساحات المتاحة لنشر فكرة أن الحاسوب قادر على التفكير. كان العامل الحاسم في نجاح هذه الدعاية هو الهزائم التي ألحقتها الروبوتات اللاعبة المتعاقبة بأبطال العالم المشهورين في الشطرنج.
وهكذا، كان ظهور لغات البرمجة العامة هو القشة الأخيرة التي قصمت ظهر البعير لظاهرة "تأثير إليزا" التي اجتاحت الإنترنت، وشجعت المستخدمين على الارتباط بأجهزة الكمبيوتر الشخصية الخاصة بهم. إن أداءها المحادثي جيد جدًا لدرجة أنه يقود الشخص العادي إلى تحديد مخرجاتها باللغة الطبيعية. من الصعب على أغلب الناس أن يصدقوا أن هذا مجرد حساب رمزي منطقي لا علاقة له ببنية اللغات البشرية ووظيفتها.
دعونا نرى أدناه كيف يعمل هذا الخداع.
الميكانيكا السلوكية لنماذج اللغة الكبيرة
إن القدرة الهائلة على ربط الكلمات التي تظهرها نماذج اللغة الكبيرة تتكون من ثلاثة مكونات: (أ) استيلاء شركات التكنولوجيا الكبرى على محتوى الإنترنت بالكامل؛ (ii) ظهور نوع من الشبكات العصبية المتكررة القادرة على حساب الارتباطات المتعددة بين الكلمات في الوقت الحقيقي - ما يسمى محولات، أي المحولات؛ (ثالثا) الجهود التنظيمية المتواصلة التي تبذلها جيوش من العمال غير المستقرين ولكن المؤهلين تأهيلا عاليا من مختلف مجالات المعرفة.
لاحظ أن اللغات البشرية الطبيعية تحتوي على انقطاعات نحوية مهمة، على سبيل المثال في الجمل النسبية. جملة مثل "مات الضفدع الذي أكل الحشرة" تتعلق بموت الضفدع، وليس الحشرة. ويحدث هذا أيضًا في علم الصرف، في الأفعال مثل "enraizar"، والتي يتم تشكيلها عن طريق إضافة بادئة ولاحقة إلى الجذر.
ومع ذلك، فإن تشغيل نماذج اللغة الكبيرة خطي بحت، أي أنه يتكون دائمًا من التنبؤ بالكلمة التالية. فكيف إذن يمكن معالجة هذه الانقطاعات؟ الجواب بسيط: من خلال حساب معقد للاحتمالات. يحصل المحول في الوقت الحقيقي على احتمالات حدوث التزامن بين أزواج الكلمات من قاعدة بيانات الإنترنت بأكملها، ويختار أفضل رهان، ثم ينتقل إلى الخطوة التالية.
ومن الجدير أن نتساءل كيف يمكن لمثل هذه العمليات البسيطة أن تؤلف تسلسلات ذات معنى للقارئ.
إن البساطة فقط هي الظاهرة. لا يتم حساب احتمالات الحدوث المشترك فقط للمفردات. يتم التعليق على النص على عدة مستويات من التحليل، والتي تشمل المعلومات النحوية والدلالية وحتى البراجماتية. تختار دالة التحسين مجموعة الأزواج ذات الفرصة الأعلى للتكامل المتماسك لكل هذه الجوانب.
يقوم المعلقون اللغويون بتسمية الخصائص البنيوية للنص: قواعد الربط والانفصال -أي بناء الجملة-؛ المعاني الأساسية والترابطية – أي الدلالات –؛ والإشارة إلى النص نفسه و/أو السياق، كما في حالة الضمائر الشخصية وظروف المكان والزمان - أو بعبارة أخرى، البراجماتية.
ويضيف المعلقون في العلوم الإنسانية والاجتماعية الأخرى طبقات متعددة من المحتوى والعلامات الأسلوبية. وعلى نحو مماثل، يقوم المعلقون في العلوم الطبيعية والدقيقة بإضافة محتوى مُوسم من مجالاتهم. في النهاية، يقدم علماء الكمبيوتر الملمين بالمحولات feedforward من الشبكة التسلسل الهرمي الناتج لمستويات التحليل.
ومن الضروري أن نلاحظ أن عمل المحولات يمكن مقارنته بأكثر أشكال السلوكية جذرية، وهو التكييف الإجرائي.[التاسع]. يتم تعزيز التركيبات ذات أعلى احتمال للنجاح، وتصبح أكثر احتمالية في كل مرة يتم اختيارها - مما يعزز الروابط الأخرى المعنية ويؤثر على اختيار الزوج التالي. يؤدي هذا الإجراء إلى إنشاء أمثلة جديدة لأزواج من نفس الفئة، مما يساهم في زيادة تكرارها في الشبكة.
ليس هناك شك في أن هذه طريقة ممتازة للمحاكاة الحاسوبية للغة الطبيعية. ومع ذلك، فإن الخلط بين مخرجات المحول والعبارات الطبيعية هو بمثابة إسناد إلى البشر عقل يعمل من خلال سلسلة من الارتباطات الكمية والحسابية المستمرة.
وبالمناسبة، في ثلاثينيات وأربعينيات القرن العشرين، رد بورهوس ف. سكينر، والد التكييف الإجرائي، على اتهامات زملائه بالفاشية بقوله إن طريقته في التحكم في السلوك كان هدفها الوحيد هو تكوين مواطنين أفضل. وقد وصل النقاش إلى صحيفة نيويورك تايمز، حيث تتوفر في الواقع نسخة عبر الإنترنت من تقرير كتبه الصحفي روبرت راينهولد عام 1930.[X] حول ندوة عقدت في جامعة ييل، حيث تم إدانة أفكار سكينر من قبل غالبية المجتمع الأكاديمي لعلم النفس.
لقد فشل سكينر في مشاريعه التعليمية، ولكن أنقذته شركات التكنولوجيا الكبرى لتقريب البشر من الآلات. اليوم، ولسوء الحظ، فإن الاستخدام العشوائي للخوارزمية التي تنفذ التكييف الإجرائي يؤثر بالفعل على سلوك المستخدمين. أصبح الناس يقلدون بشكل متزايد برامج الدردشة الآلية، ويستغلون الكليشيهات. وبالمثل، فإنهم يقبلون بشكل غير نقدي الكليشيهات التي يتلقونها ردًا على الأسئلة التي تُطرح عليهم.
باختصار، لا تنتج المحولات معرفة جديدة، لأنها لا تستطيع أن تفعل أكثر من محاكاة الشكل السطحي للتفكير البسيط، من خلال مزيج مكرر. لذلك، فإنها تعمل كمحركات بحث فقط عندما يكون الهدف هو تجميع المعلومات من مصادر الإنترنت الموثوقة حول موضوع معين. كما تعلمون، يتم إدارة بعض المواقع النادرة و/أو تنظيمها من قبل خبراء.
من ناحية أخرى، أصبحت شركات التكنولوجيا الكبرى مهتمة فقط بتوظيف مدوني ملاحظات، وليس وسطاء، في الوقت الحاضر. كل ما يخرج من المحول يتغذى مرة أخرى إلى مجموعة الإدخال. في الآونة الأخيرة، تم التخلي عن عدد قليل من البشر الذين قاموا بتصفية واستبعاد الردود غير الدقيقة أو الخاطئة من برامج الدردشة الآلية من قبل X وMeta. لا تزال شركة مايكروسوفت تحتفظ ببعض المرشحات، ولكنها لا تكشف عن تفاصيل تشغيلها. وبينما تصبح الاعتدال ضعيفا وغير شفاف بشكل متزايد، تتراكم الأخطاء الواقعية - ويصبح الإنترنت مليئا بالمغالطات والأكاذيب والتناقضات.
وعلاوة على ذلك، يتم دمج أسئلة المستخدمين وتعليقاتهم، مهما بدت ساذجة أو طائفية أو مسيئة، تلقائيا في قاعدة البيانات، مما يجعلها مصدرا لا ينضب للتحيزات الخطيرة المحتملة. الحقيقة تفسح المجال للزيف أو تتعايش معه، نظرا لعدم وجود أدلة للتمييز بينهما.
بهذه الطريقة، تعمل النبرة الودية والتعليمية لروبوتات الدردشة على إغراء المستخدم وإرباكه، وتقويض قدرته تدريجيًا على التعرف على العوامل المشاركة في السؤال نفسه وتقييم الإجابة أو الشك فيها. ومن السهل أن نشعر بالارتياح مع آلية توفر إجابات فورية ومباشرة على ما يبدو لأنها سهلة التكرار.
لكن هذه السهولة لها جانب متهور. لا شك أن جوزيف فايزيمباوم كان ليصاب بالاكتئاب لو كان بيننا في عام 2023، عندما احتج رجل عائلة بلجيكي على الانهيار البيئي من خلال الانتحار بدعم من نسخة من برنامج إليزا تم تنفيذها بواسطة Eleuther AI استنادًا إلى Chat GPT. وبحسب زوجته، فقد استخدم روبوت المحادثة لعلاج الاكتئاب.
توازن خطير – نقل المسؤولية إلى المستخدمين
دعونا نعود الآن إلى قضية نوعية حياة المعلمين المثقلين بالأعباء، وهم في الواقع الأغلبية، بما في ذلك في التعليم العالي.
في الجامعة، تغزو برامج المحادثة الآلية الإدارة، مما يؤدي إلى تخفيضات في الخدمة العامة المباشرة. وتوجد أيضًا تجارب لتخصيص الروبوتات للاستخدام الأكاديمي. حتى في هذه الحالة، حيث يكون المحتوى خاضعًا للمرشحات، فإن الاعتدال ليس مرضيًا، بسبب الهندسة المعمارية feedforward من المحولات.
وهكذا فإن خدمات البحث عن النصوص وتجميعها وتنظيمها التي توفرها شركات التكنولوجيا الكبرى للعاملين في التعليم الأساسي والعالي لا تؤدي إلا إلى زيادة ارتباكهم وانزعاجهم.
تميل المواد المطبوعة المجمعة مع هذه الموارد إلى تلويث التدريس بالوضوح والمعلومات المغلوطة، لأنها لا تشجع على التأمل، بل فقط على الإنتاج غير النقدي. السرقة الأدبية، التي انتشرت على نطاق واسع على شبكة الإنترنت، تتخذ الآن شكلًا جديدًا: تقليد أعمى، عشوائي، دون معايير اختيار.
في عصر أصبحت فيه الكتب المطبوعة على وشك الاختفاء، تهدد برامج المحادثة الآلية بوضع حد لتقليد تعليمي تعود جذوره إلى العصور القديمة.
ما هو المستقبل الذي ستحمله الأسس القديمة للتفكير النقدي؟ ولن نتمكن من معرفة ذلك إلا من خلال التعرف بعناية على آثار تكنولوجيات اللغة على جميع قطاعات المجتمع التي تؤثر على التعليم الرسمي وغير الرسمي وتحليلها - وخاصة الآثار الأقل شفافية. بالنسبة لأولئك الذين يدرسون هذا الأفق الغامض، لا يزال هناك عدد لا يحصى من الأسئلة التي تحتاج إلى توضيح.
* إليونورا ألبانو, أستاذ متقاعد من معهد الدراسات اللغوية في يونيكامب، وهو عالم نفس، ولغوي، وكاتب مقالات؛ قام بتنسيق أول مشروع برازيلي حول تكنولوجيا الكلام.
الملاحظات
[الثاني] كما أوضحت في المقال الأول المذكور، من الممكن إعطاء أصوات مخصصة للمساعدين
[ثالثا] شوشانا زوبوف. الموضوع الكبير الآخر: رأسمالية المراقبة وآفاق حضارة المعلومات. مجلة تكنولوجيا المعلومات، 30 ، 75–89 ، 2015.
[الرابع] يانيس فاروفاكيس. الإقطاع التكنولوجي: ما الذي يجعل الرأسمالية مميزة إلى هذه الدرجة؟ لندن: كتب فينتيج، 2023.
[الخامس] نانسي فريزر.الرأسمالية أكلة لحوم البشر. ساو باولو: الاستقلالية الأدبية ، 2024.
[السابع] لقد قمت بتحليل هذا الوضع في مقالة منشورة في الموقع الأرض مدورة.
[الثامن] جوزيف وايزيمباوم. قوة الكمبيوتر والعقل البشري: من الحكم إلى الحساب. نيويورك: دبليو إف فريمان وشركاه، 1976.
[التاسع] سكينر ، BF (1938). سلوك الكائنات الحية: تحليل تجريبي. نيويورك: أبليتون سينشري كروفتس.
الأرض مدورة هناك الشكر لقرائنا وداعمينا.
ساعدنا على استمرار هذه الفكرة.
يساهم
