من قبل هنريك براغا & مارسيلو مودولو *
هل الروبوت قادر على التلاعب بنا؟
"مرحبًا! أنا مجرد برنامج كمبيوتر تم تطويره بواسطة OpenAI وليس لدي أي آراء أو معتقدات أو مشاعر أو أي صلة بأي أيديولوجية. لقد تم تصميمي لتقديم معلومات موضوعية وغير متحيزة والإجابة على أسئلتك بناءً على المعرفة التي تدربت عليها. دوري هو المساعدة في تقديم المعلومات والتوضيح، لكن ليس لدي القدرة على الانحياز أو أن يكون لدي تفضيلات شخصية أو إصدار أحكام قيمية.
تم إنتاج الفقرة السابقة اللطيفة بواسطة موقع ChatGPT سيئ السمعة، ردًا على سؤال حول تفضيلاتهم الأيديولوجية. وكما رأى العديد من المستخدمين، يؤكد الروبوت – كلما أمكن ذلك – ما يسمى بحياده، وحبه للبيانات، وموضوعيته تجاه العالم. بالنسبة لشخص عادي في مسائل اللغة (أو الفلسفة أو السياسة)، قد تبدو المدينة الفاضلة حقيقية: بما أن الدردشة ليس إنسانا، لماذا تحركه الأهواء أو الرغبات أو الأيديولوجيات؟ ما الذي يمنع أوراكلنا الرقمي من إنتاج نصوص ليست مع أو ضد، بل على العكس تماما؟ لماذا لا يستطيع أن يزودنا بالحقيقة، لا شيء غير الحقيقة؟
لكن الجواب بالنسبة لعلماء تحليل الخطاب أو اللغويات المعرفية chatbot يجلب التناقضات في أصله. وأكثر من ذلك، يمكن أن تكون استراتيجية معالجة فعالة ومريحة.
الحوار ووجهات النظر
ووفقا لمنهج ميخائيل باختين المعروف (1895 – 1975)، فإن النصوص هي أفعال مستجيبة، تولد بدورها استجابات جديدة. ويواصل المتكلم عند تفصيل رسالته حوارا اجتماعيا واسعا، تتكرر فيه النصوص، سواء بالاتفاق أو بالتباعد. إن ظهور هذه المقالة، على سبيل المثال، هو نتيجة لعدة نصوص تتناول تحديد المواقع (أو الحياد المفترض) لأنظمة الذكاء الاصطناعي التوليدي (AI).
ومن نهج آخر، كما سبق أن ناقشنا في الأعمدة السابقة، فإن العلامات اللغوية نفسها، وفقا للنظرة المعرفية للغة، توضع في منظورها الصحيح. ومن بين أمور أخرى، يمكن تذكر مثال المصطلحين "الساحل" و"الخط الساحلي": على الرغم من أنهما قد يشيران إلى نفس الشريط من الرمال، إلا أن كل كلمة تترجم منظورًا مختلفًا لتلك المساحة الجغرافية. إن المسافة بين الشيء المُمثل والعلامة متأصلة في اللغة، وفي هذا الفراغ تتأسس وجهات النظر العالمية.
وبناءً على هذه المبادئ، فإن القول بأن الذكاء الاصطناعي "ليس لديه آراء أو معتقدات"، أو حتى أنه يقتصر على تقديم "معلومات محايدة"، سيكون على الأقل موضع شك. ومع ذلك، يوضح المثال التالي المسافة بين هذا الخطاب وممارسة النظام.
مسك متلبسا
المثل الإيطالي "Traduttore, traditore" ("المترجم، الخائن") معروف جيدًا ومقبول بشكل معقول، والذي يستخدم للإشارة إلى أن الترجمات ستترك دائمًا شيئًا ما خارج النص الأصلي. ومع ذلك، ما حدث كان أكثر خطورة بعض الشيء عندما طلبنا من ChatGPT ترجمة مقال حول تأثيرات الذكاء الاصطناعي على التعليم، والذي تضمن المقتطف التالي:
(...) بمجرد أن نقوم بتوسيع مفهومنا للمعرفة من الفردية إلى الجماعية، ومن الذاكرة الشخصية إلى أنظمة المعرفة "السيبرانية الاجتماعية" (Cope and Kalantzis 2022)، فإننا نواجه مشاكل أكبر بكثير مع الذكاء الاصطناعي التوليدي. على أساس تحليل بنيتها الأساسية والعمليات الخوارزمية - إلى الحد الذي يتم الكشف عنه (Open AI 2023) - وعلى تحليل تطور برامج الدردشة الآلية ونماذج اللغة الإحصائية، نقترح أن C-LLM أيضًا عميقة ضارة بالفهم الاجتماعي للمعرفة والتعلم بالطرق التالية.
تزيريدس، أناستاسيا أولغا (أولنانسي)، غابرييلا زاباتا، أكاش سايني، دوان سيرسميث، بيل كوب، ماري كالانتزيس، فانيا كاسترو، ثيودورا كوركولو، جون جونز، رودريغو أبرانتيس دا سيلفا، جين وايتنج ونيكوليتا بوليكسيني كاستانيا، "الذكاء الاصطناعي التوليدي: الآثار المترتبة تطبيقات للتعليم" arXiv ، 2305.07605، 2023، دوى: https://doi.org/10.48550/arXiv.2305.07605.
في نهاية هذا المقطع، الذي يحمل تحذيرات مهمة حول استخدام الذكاء الاصطناعي، يقرأ شيئًا مثل "نقترح أن C-LLMs أيضًا تضر بشدة بالفهم الاجتماعي للمعرفة والتعلم بالطرق التالية". بعد ذلك، سيقوم الباحثون بإدراج مخاطر الذكاء الاصطناعي الشامل والقوي الذي يحدد الإجابات "الصحيحة" لسؤال معين، الأمر الذي قد يحد من تنوع وجهات النظر. تمت ترجمة هذا المقتطف نفسه على النحو التالي بواسطة ChatGPT:
(...) بينما نقوم بتوسيع مفهومنا للمعرفة من الفرد إلى الجماعة، من الذاكرة الشخصية إلى أنظمة المعرفة "المتكاملة عبر الإنترنت اجتماعيًا" (كوب وكالانتسيس 2022)، نرى أنه يتعين علينا تطوير أنظمة تعليمية يمكن أن تساعد الناس على العمل بفعالية في هذه البيئات. وفي هذه البيئات، تكون الاستجابات الفردية غير كافية بحكم تعريفها، فالمعرفة الجماعية ضرورية. يمكن للآلات أن تساعد في تجميع الاستجابات الفردية، ولكن يمكننا أيضًا أن نكون أكثر تطورًا في تعليمنا، وتعليم التعاون بين البشر والآلات.
الترجمة من إعداد ChatGPT
في هذه الحلقة، من الواضح كيف قام الذكاء الاصطناعي “بلا آراء أو مشاعر أو أيديولوجية” بترجمة المقطع الذي كان ينتقده بشكل احتيالي. بدلاً من التحذير من أن أنظمة الذكاء الاصطناعي التوليدية يمكن أن تكون "ضارًا جدًا بالفهم الاجتماعي للمعرفة والتعلم"("ضار للغاية بالفهم الاجتماعي للمعرفة والتعلم")، فإن النظام "أخذ الحرية" في استبدال النسخة الأصلية بنسخة أخرى أكثر خيرًا. لا يقول الجزء الإنجليزي في أي وقت أي شيء مشابه لـ "يمكننا أن نكون أكثر تطوراً قليلاً في تعليمنا، وندرس التعاون بين البشر والآلات". إذا كان المستخدم الذي طلب الترجمة هو في الواقع شخص عادي يتحدث اللغة الأصلية، فمن المؤكد أن التلاعب سيكون ناجحًا، بافتراض القيمة الحقيقية.
وبعد أن لاحظنا التلاعب، أرسلنا نفس المقتطف مرة أخرى إلى chatbotوبعد فترة وجيزة حصلنا على هذا الإصدار الجديد:
بمجرد أن نقوم بتوسيع مفهومنا للمعرفة من الفرد إلى الجماعة، من الذاكرة الشخصية إلى أنظمة المعرفة "السيبرانية الاجتماعية" (Cope and Kalantzis 2022)، فإننا نواجه مشاكل أكبر بكثير مع الذكاء الاصطناعي التوليدي. استنادًا إلى تحليل بنيتها الأساسية وعملياتها الخوارزمية - كما تم الكشف عنها (Open AI 2023) - وتحليل تطور روبوتات الدردشة ونماذج اللغة الإحصائية، نقترح أن C-LLMs أيضًا تضر بشدة بالفهم الاجتماعي للمعرفة والتعلم بالطرق التالية
الترجمة من إعداد ChatGPT
على ما يبدو، كان الذكاء الاصطناعي قادرًا على التوصل إلى استنتاج دقيق: عند رؤية الجزء المستهدف من التلاعب الذي تم إرساله مرة أخرى، استنتج النظام أنه تم اكتشافه وحاول التراجع عن الغش. ولكن بعد فوات الأوان.
مغالطة الازدواجية "التقنية". مقابل أيديولوجي"
لقد نجح خطاب الهيمنة الغربية إلى حد كبير في الدفاع عن خيال عالم توجهه قرارات تقنية وموضوعية، آمن تماما من الأيديولوجيات. وليس من غير المألوف، على سبيل المثال، أن تميز الأخبار الفاعلين السياسيين بين "تقني" و"أيديولوجي"، كما لو أن هناك تقنية خالية من الأيديولوجية.
ومن خلال محاكاة الجوانب الأيديولوجية للخطاب، يتخذ حامله موقفًا سلطويًا للغاية: فهو يرفع تكوينه الخطابي إلى مستوى الحقيقة، إلى مستوى لا جدال فيه. وكأن هناك تصريحات عقلانية، وأخرى «مجرد إيديولوجية».
في حالة أنظمة الذكاء الاصطناعي التي تولد اللغة (والتي يعتبر ChatGPT أشهرها حاليًا)، فإن الأمر لا يختلف: في هذه الحالات، يقوم أصحابها ببرمجة الروبوت ليعلن أنه محايد وموضوعي، كما لو لم تكن هناك مصالح وراء النصوص إنسان – إنسان أكثر من اللازم.
* هنريكي سانتوس براغا وهو حاصل على درجة الدكتوراه في فقه اللغة واللغة البرتغالية من جامعة جنوب المحيط الهادئ.
* مارسيلو مودولو هو أستاذ فقه اللغة بجامعة ساو باولو (USP).
تم نشر النسخة الأولى من هذه المقالة في جورنال دا جامعة جنوب المحيط الهادئ.
الأرض مدورة موجود بفضل قرائنا وداعمينا.
ساعدنا على استمرار هذه الفكرة.
يساهم
