من قبل SLAVEJ IŽEK *
المشكلة ليست أن روبوتات المحادثة غبية ؛ هو أنهم ليسوا "أغبياء" بما فيه الكفاية
لا يوجد شيء جديد في "روبوتات الدردشة" القادرة على الحفاظ على محادثة بلغة طبيعية ، وفهم نوايا المستخدم الأساسية وتقديم ردود بناءً على قواعد وبيانات محددة مسبقًا. ومع ذلك ، فقد زادت قدرتها بشكل كبير في الأشهر الأخيرة ، مما أدى إلى إصابة الكثيرين بالذعر واليأس.
لقد قيل الكثير عن برامج الدردشة الآلية كونها نذير نهاية أطروحات الطلاب. لكن إحدى القضايا التي تحتاج إلى مزيد من الاهتمام هي كيف يجب أن تستجيب روبوتات المحادثة عندما يستخدم المحاورون البشريون عبارات عدوانية أو متحيزة جنسيًا أو عنصرية لإغراء الروبوت ليبتكر تخيلاته السيئة ردًا على ذلك. هل يجب برمجة الذكاء الاصطناعي بحيث يجيب على نفس مستوى الأسئلة المطروحة عليهم؟
إذا قررنا أنه يجب تطبيق نوع من السيطرة ، فيجب علينا تحديد المدى الذي يجب أن تذهب إليه الرقابة. هل سيتم حظر المواقف السياسية التي تعتبرها بعض القطاعات "مسيئة"؟ ماذا عن التعبير عن التضامن مع فلسطينيي الضفة الغربية؟ التأكيد على أن إسرائيل هي دولة تمييز عنصري (ما الذي وضعه الرئيس السابق جيمي كارتر ذات مرة في عنوان كتاب)؟ هل سيتم حظر كل هذا لكونه "معاد للسامية"؟
المشكلة لا تنتهي هنا. كما يحذرنا الكاتب والفنان جيمس برايدل ، فإن الذكاء الاصطناعي الجديد "يقوم على الاستيلاء الجماعي للثقافة القائمة" ، والاعتقاد بأنهم "على دراية فعلية أو ذو مغزى هو أمر خطير للغاية". لذلك ، يجب أن نكون حذرين للغاية مع مولدات الصور الجديدة بواسطة الذكاء الاصطناعي. يلاحظ Bridle أنه "في محاولتهم لفهم وتكرار الثقافة البصرية البشرية في مجملها ، يبدو أنهم أعادوا خلق مخاوفنا الكبرى. ربما تكون هذه مجرد علامة على أن هذه الأنظمة جيدة جدًا في الواقع في محاكاة الوعي البشري ، حتى الوصول إلى الأهوال الكامنة في أعماق وعينا: مخاوفنا من القذارة والموت والفساد ".
ولكن ما مدى جودة الذكاء الاصطناعي الجديد في التشابه مع الوعي البشري؟ ضع في اعتبارك الشريط الذي أعلن مؤخرًا عن عرض ترويجي خاص بموجب الشروط: "اشترِ بيرة واحدة بسعر اثنين واحصل على بيرة ثانية مجانًا!" من الواضح أن هذه مزحة لأي إنسان. تمت إعادة صياغة عرض "اشترِ واحدًا واحصل على الآخر مجانًا" النموذجي لإلغاء نفسه. إنه تعبير عن السخرية يُقدَّر باعتباره صدقًا هزليًا من أجل زيادة المبيعات. واحد chatbot هل ستتمكن من فهم ذلك؟
"اللعين" يمثل مشكلة مماثلة. على الرغم من أن الكلمة تشير إلى شيء يحب معظم الناس القيام به (الجماع) ، إلا أنها تكتسب أيضًا قيمة سلبية ("لقد مارسنا الجنس!" ، "اللعنة!"). اللغة والواقع مرتبطان. هل الذكاء الاصطناعي جاهز لتمييز هذه الاختلافات؟
في مقالته التي صدرت عام 1805 بعنوان "حول التكوين التدريجي للأفكار في عملية الكلام" (نُشرت بعد وفاته عام 1878) ، عكس الشاعر الألماني هاينريش فون كلايست القول الشائع بأنه لا ينبغي للمرء أن يفتح فمه للتحدث ما لم يكن لديه فكرة واضحة عن ماذا أقول: إذا كان الأمر كذلك ، إذا تم التعبير عن فكرة بطريقة مشوشة ، فهذا لا يعني على الإطلاق أن مثل هذه الفكرة قد تم تصورها بطريقة مشوشة. على العكس من ذلك ، من الممكن أن تكون الأفكار التي يتم التعبير عنها بأكثر الطرق إرباكًا هي تلك الأفكار التي تم التفكير فيها بشكل أوضح. "
هذه العلاقة بين اللغة والفكر معقدة للغاية. في مقطع من إحدى خطاباته في أوائل الثلاثينيات من القرن الماضي ، اقترح جوزيف ستالين تدابير جذرية "للكشف عن ومكافحته بلا رحمة حتى أولئك الذين يعارضون التجميع في أفكارهم فقط - نعم ، هذا ما أعنيه ، يجب أن نقاتل". حتى أفكار الناس." يمكننا أن نفترض بأمان أن هذه الجملة لم يتم تحضيرها مسبقًا. عندما ترك نفسه ينجرف بعيدًا ، أدرك ستالين على الفور ما قاله للتو. لكن بدلاً من التراجع ، قرر مواصلة المبالغة.
كما ذكر جاك لاكان لاحقًا ، كانت هذه واحدة من تلك الحالات التي تظهر فيها الحقيقة على حين غرة من خلال فعل النطق. حدد لويس ألتوسير ظاهرة مماثلة في العلاقة بين مع الأخذ e مفاجأة. شخص يدرك فجأة ("مع الأخذ") لفكرة ما ستندهش مما حققته. مرة أخرى ، هل هناك أي روبوت محادثة قادر على القيام بذلك؟
المشكلة ليست أن روبوتات المحادثة غبية ؛ هو أنهم ليسوا "أغبياء" بما فيه الكفاية. ليس الأمر أنهم ساذجون (غير قادرين على الكي والتأمل) ؛ هو أنهم ليسوا ساذجين بدرجة كافية (عدم ملاحظة اللحظات التي تخفي فيها السذاجة البصيرة). الخطر الحقيقي ، إذن ، ليس أن الناس يخلطون بين روبوتات المحادثة وأشخاص حقيقيين ؛ ولكن عن روبوتات الدردشة التي تجعل أناسًا حقيقيين يتحدثون مثل روبوتات الدردشة - غير قادرين على ملاحظة الفروق الدقيقة والمفارقات ، والقول بقلق شديد ما يعتقدون أنهم يريدون قوله بالضبط.
عندما كنت أصغر سنًا ، ذهب أحد الأصدقاء إلى محلل نفسي للعلاج بعد تجربة مؤلمة. كانت فكرة هذا الصديق عما يتوقعه هؤلاء المحللون من مرضاهم فكرة مبتذلة ، وقد أمضى الجلسة الأولى في إنتاج "ارتباطات حرة" كاذبة حول كيف كره والده وتمنى موته. كان رد فعل المحلل ساذجًا: لقد تبنى موقفًا ساذجًا "ما قبل فرويد" ووبخ صديقي لعدم احترامه لوالده ("كيف يمكنك التحدث بهذه الطريقة عن الشخص الذي جعلك ما أنت عليه؟"). أرسلت هذه البراءة الزائفة رسالة واضحة: أنا لا أشتري "جمعياتك" المزيفة. هل سيتمكن برنامج الدردشة الآلي من فهم هذا النص الفرعي؟
ربما لن يفهم ، لأنه مثل تفسير روان ويليامز للأمير ميشكين من الكتاب الغبي بواسطة Dostoyevsky. وفقًا للتفسير التقليدي ، فإن ميشكين ، "الأبله" ، "رجل طيب إيجابيًا وجميلًا" تم دفعه إلى الجنون الانفرادي بسبب الوحشية والعواطف القاسية في العالم الحقيقي. ومع ذلك ، في إعادة تفسير ويليامز الجذرية ، يمثل ميشكين عين العاصفة: بغض النظر عن مدى روعته وقدسه ، فهو الشخص الذي يسبب الفوضى والوفيات التي يشهدها بسبب دوره في شبكة العلاقات المعقدة من حوله.
ليس الأمر أن ميشكين ساذج ساذج. لكن هذا النوع الخاص من البلاغة يجعله غير قادر على إدراك آثاره الكارثية على الآخرين. إنه شخصية مسطحة يتحدث حرفياً مثل روبوت المحادثة. يستند "صلاحها" إلى حقيقة أنه ، مثل روبوت الدردشة ، يتفاعل مع التحديات دون سخرية ، ويقدم أفكارًا تافهة خالية من أي انعكاسية ، ويأخذ كل شيء حرفيًا ويعتمد على آلية عقلية لإكمال الاستجابات الذاتية بدلاً من تكوين الجمل والأفكار. لهذا السبب ، ستعمل روبوتات المحادثة الجديدة بشكل جيد للغاية مع الأيديولوجيين من جميع الأطياف ، من الجمهور "استيقظ"المعاصر للقوميين" ماغا "، الذين يفضلون البقاء نائمين.
* سلافوي جيجيك, أستاذ الفلسفة في كلية الدراسات العليا الأوروبية ، وهو المدير الدولي لمعهد بيركبيك للعلوم الإنسانية بجامعة لندن. المؤلف ، من بين كتب أخرى ، من دفاعا عن الأسباب الضائعة (boitempo).
ترجمة: دانيال بافان.
نشرت أصلا على البوابة نقابة المشروع.
يوجد موقع A Terra é Redonda الإلكتروني بفضل قرائنا وداعمينا.
ساعدنا على استمرار هذه الفكرة.
انقر هنا واكتشف كيف
