من قبل يوفال نوح هراري *
A غزا الذكاء الاصطناعي نظام تشغيل الحضارة الإنسانية
الخوف من الذكاء الاصطناعي (AI) يطارد البشرية منذ فجر عصر الكمبيوتر. حتى الآن ، تركزت هذه المخاوف على الآلات التي تستخدم الوسائل المادية لقتل الناس أو استعبادهم أو استبدالهم. ومع ذلك ، في العامين الماضيين ، ظهرت أدوات ذكاء اصطناعي جديدة تهدد بقاء الحضارة الإنسانية بطريقة غير متوقعة. اكتسب الذكاء الاصطناعي بعض القدرات الرائعة للتعامل مع اللغة وتوليدها ، سواء كانت كلمات أو أصواتًا أو صورًا. بهذه الطريقة ، غزا الذكاء الاصطناعي نظام التشغيل في حضارتنا.
اللغة هي المادة التي تتكون منها الثقافة البشرية كلها تقريبًا. حقوق الإنسان ، على سبيل المثال ، ليست منقوشة في حمضنا النووي. بل هي قطع أثرية ثقافية نبتكرها من خلال سرد القصص وكتابة القوانين. الآلهة ليست حقائق مادية. بل هي قطع أثرية ثقافية نخلقها من خلال اختراع الأساطير وكتابة الكتب المقدسة.
المال هو أيضا قطعة أثرية ثقافية. الأوراق النقدية هي مجرد قطع من الورق الملون ، واليوم أكثر من 90٪ من الأموال ليست حتى أوراقًا ورقية ، إنها مجرد معلومات رقمية على أجهزة الكمبيوتر. ما يعطي المال قيمته هي القصص التي يخبرنا بها المصرفيون ووزراء المالية وخبراء العملات المشفرة عنها. لم يكن سام بانكمان-فرايد وإليزابيث هولمز وبيرني مادوف جيدين بشكل خاص في خلق قيمة حقيقية ، لكنهم كانوا جميعًا رواة قصص أكفاء للغاية.
ماذا سيحدث عندما يصبح الذكاء غير البشري أفضل من الإنسان العادي في سرد القصص وتأليف الألحان ورسم الصور وكتابة القوانين والنصوص المقدسة؟ عندما يفكر الناس في ChatGPT وأدوات الذكاء الاصطناعي الجديدة الأخرى ، غالبًا ما ينجذبون إلى أمثلة مثل أطفال المدارس الذين يستخدمون الذكاء الاصطناعي لكتابة مقالاتهم. ماذا سيحدث للنظام المدرسي عندما يفعل الأطفال ذلك؟ لكن هذا النوع من الأسئلة يفتقد إلى صورة أكثر عمومية. ننسى المقالات المدرسية. فكر في السباق الرئاسي الأمريكي القادم ، في عام 2024 ، وحاول تخيل تأثير أدوات الذكاء الاصطناعي التي يمكن إنشاؤها لإنتاج محتوى سياسي وأخبار مزيفة وكتاب مقدس للطوائف الجديدة.
في السنوات الأخيرة ، اندمجت عبادة QAnon حول الرسائل المجهولة عبر الإنترنت والمعروفة باسم "س قطرات". قام المتابعون بجمع هذه وتبجيلها وتفسيرها س قطرات كنص مقدس. على الرغم من ذلك ، على حد علمنا ، كل شيء س قطرات السابقة كانت تتألف من البشر و البوتات ساعدت فقط في نشرها ، في المستقبل قد نرى الطوائف الأولى في التاريخ التي كتبت نصوصها الموقرة من قبل ذكاء غير بشري. ادعت الأديان عبر التاريخ أنها مصدر غير بشري لكتبها المقدسة. قريبا هذا يمكن أن يصبح حقيقة واقعة.
على مستوى أكثر تعقيدًا ، قد نجد أنفسنا قريبًا نجري مناقشات مطولة عبر الإنترنت حول الإجهاض أو تغير المناخ أو الغزو الروسي لأوكرانيا مع كيانات نعتقد أنها بشرية ولكنها في الواقع ذكاء اصطناعي. تكمن المشكلة في أنه من غير المجدي تمامًا بالنسبة لنا قضاء الوقت في محاولة تغيير الآراء المعلنة. بوت الذكاء الاصطناعي ، بينما يمكن للذكاء الاصطناعي صقل رسائله بدقة شديدة بحيث يكون لديه فرصة جيدة للتأثير علينا.
من خلال إتقانه للغة ، يمكن للذكاء الاصطناعي تكوين علاقات حميمة مع الناس واستخدام قوة العلاقة الحميمة لتغيير آرائنا ووجهات نظرنا للعالم. على الرغم من عدم وجود ما يشير إلى أن الذكاء الاصطناعي لديه ضمير أو مشاعر خاصة به ، فمن أجل تعزيز العلاقة الحميمة الزائفة مع البشر ، يكفي أن تجعلهم الذكاء الاصطناعي يشعرون بالارتباط العاطفي بها.
في يونيو 2022 ، صرح Blake Lemoine ، وهو مهندس في Google ، علنًا بأن ملف chatbot أصبح LaMDA ، الذي كان يعمل عليه ، واعيًا. كلفه هذا الادعاء المثير للجدل وظيفته. الشيء الأكثر إثارة للاهتمام في هذه الحلقة لم يكن السيد. Lemoine ، والذي ربما كان مزيفًا. بدلاً من ذلك ، كان رغبته في المخاطرة بوظيفته المربحة من أجل chatbot الذكاء الاصطناعي. إذا كان بإمكان الذكاء الاصطناعي التأثير على الناس للمخاطرة بوظائفهم من أجلها ، فما الذي يمكن أن يدفعهم إلى القيام به أيضًا؟
في معركة سياسية من أجل كسب العقول والقلوب ، تعتبر العلاقة الحميمة هي السلاح الأكثر فاعلية ، وقد اكتسب الذكاء الاصطناعي للتو القدرة على تكوين علاقات حميمة على نطاق واسع مع ملايين الأشخاص. نعلم جميعًا أنه على مدار العقد الماضي ، أصبحت وسائل التواصل الاجتماعي ساحة معركة للسيطرة على انتباه الإنسان. مع الجيل الجديد من الذكاء الاصطناعي ، تتحول جبهة المعركة من الاهتمام إلى العلاقة الحميمة. ماذا سيحدث للمجتمع البشري وعلم النفس البشري عندما يحارب الذكاء الاصطناعي الذكاء الاصطناعي في معركة لتزييف العلاقات الحميمة معنا والتي يمكن استخدامها لإقناعنا بالتصويت لبعض السياسيين أو شراء منتجات معينة؟
حتى بدون خلق "علاقة حميمة زائفة" ، سيكون لأدوات الذكاء الاصطناعي الجديدة تأثير هائل على آرائنا ووجهات نظرنا للعالم. يمكن للناس أن يستخدموا مستشارًا واحدًا للذكاء الاصطناعي باعتباره أوراكل كامل المعرفة. لا عجب أن جوجل مرعوب. لماذا تهتم بالبحث عنها عندما يمكنني فقط أن أسأل أوراكل؟ يجب أن تكون صناعة الأخبار والإعلان مرعوبة أيضًا. لماذا أقرأ صحيفة بينما يمكنني فقط أن أطلب من أوراكل إخباري بآخر الأخبار؟ وما الفائدة من الإعلانات عندما أطلب من أوراكل أن تخبرني ماذا أشتري؟
وحتى هذه السيناريوهات لا تلتقط الصورة الكبيرة. ما نتحدث عنه هو احتمال نهاية التاريخ البشري. ليست نهاية القصة ، فقط نهاية الجزء الذي يسيطر عليه الإنسان. التاريخ هو التفاعل بين علم الأحياء والثقافة. بين احتياجاتنا ورغباتنا البيولوجية لأشياء مثل الطعام والجنس وإبداعاتنا الثقافية مثل الأديان والقوانين. التاريخ هو العملية التي تشكل بها القوانين والأديان الطعام والجنس.
ماذا سيحدث لمسار التاريخ عندما يتولى الذكاء الاصطناعي الثقافة ويبدأ في إنتاج القصص والألحان والقوانين والأديان؟ ساعدت الأدوات السابقة مثل الطباعة والراديو على نشر الأفكار الثقافية للبشر ، لكنها لم تخلق أبدًا أفكارًا ثقافية جديدة خاصة بهم. الذكاء الاصطناعي يختلف اختلافًا جوهريًا. يمكن للذكاء الاصطناعي أن يخلق أفكارًا جديدة تمامًا وثقافة جديدة تمامًا.
في البداية ، من المرجح أن يحاكي الذكاء الاصطناعي النماذج البشرية الأولية التي تم تدريبها عليها في مهدها. ولكن مع مرور كل عام ، ستذهب ثقافة الذكاء الاصطناعي بجرأة حيث لم يذهب أي إنسان من قبل. منذ آلاف السنين ، عاش البشر داخل أحلام البشر الآخرين. لعقود قادمة ، قد نجد أنفسنا نعيش داخل أحلام ذكاء فضائي.
لم يطارد الخوف من الذكاء الاصطناعي البشرية إلا في العقود القليلة الماضية. ولكن منذ آلاف السنين ، كان البشر يطاردونهم خوف أعمق بكثير. لطالما قدرنا قوة القصص والصور في التلاعب بعقولنا وخلق الأوهام. وبالتالي ، منذ العصور القديمة ، يخشى البشر الوقوع في شرك عالم من الأوهام.
في القرن السابع عشر ، كان رينيه ديكارت يخشى أن يكون شيطانًا خبيثًا يحاصره في عالم من الأوهام ، ويخلق كل ما يراه ويسمعه. في اليونان القديمة ، أخبر أفلاطون قصة الكهف الشهيرة ، حيث يتم تقييد مجموعة من الأشخاص بالسلاسل داخل كهف مدى الحياة ، في مواجهة جدار فارغ. شاشة. على هذه الشاشة ، يرون العديد من الظلال المتوقعة. يخلط السجناء بين الأوهام التي يرونها والواقع.
في الهند القديمة ، أشار الحكماء البوذيون والهندوس إلى أن جميع البشر عاشوا محاصرين مايا - عالم الأوهام. ما نعتبره عادة حقيقة هو في كثير من الأحيان مجرد خيال في أذهاننا. يمكن للناس أن يشنوا حروبا كاملة ، ويقتلون الآخرين ويريدون أن يقتلوا ، لإيمانهم بهذا الوهم أو ذاك.
ثورة الذكاء الاصطناعي تضعنا وجهاً لوجه مع شيطان ديكارت ، مع كهف أفلاطون ومعه مايا. إذا لم نكن حذرين ، فيمكننا أن نجد أنفسنا محاصرين خلف ستار من الأوهام التي لن نتمكن من تمزيقها ، أو حتى ندرك أنها موجودة.
بالطبع ، يمكن أيضًا استخدام القوة الجديدة للذكاء الاصطناعي لأغراض جيدة. لن أتوسع في هذا ، لأن الأشخاص الذين يطورون الذكاء الاصطناعي يتحدثون عنه كثيرًا بالفعل. مهمة المؤرخين والفلاسفة مثلي هي توضيح المخاطر. لكن بالتأكيد ، يمكن أن يساعدنا الذكاء الاصطناعي بطرق لا حصر لها ، من إيجاد علاجات جديدة للسرطان لاكتشاف حلول للأزمة البيئية. السؤال الذي نواجهه هو كيفية التأكد من أن أدوات الذكاء الاصطناعي الجديدة تُستخدم للخير وليس للشر. للقيام بذلك ، نحتاج أولاً إلى تقييم القدرات الحقيقية لهذه الأدوات.
منذ عام 1945 ، عرفنا أن التكنولوجيا النووية يمكن أن تولد طاقة رخيصة لفائدة البشر ، لكنها قد تدمر الحضارة البشرية ماديًا. لذلك قمنا بإصلاح النظام الدولي بأكمله لحماية البشرية والتأكد من استخدام التكنولوجيا النووية بشكل أساسي من أجل الخير. الآن علينا التعامل مع سلاح جديد للدمار الشامل يمكن أن يقضي على عالمنا العقلي والاجتماعي.
لا يزال بإمكاننا تنظيم أدوات الذكاء الاصطناعي الجديدة ، لكننا بحاجة إلى التصرف بسرعة. في حين أن القنابل النووية لا يمكنها اختراع قنابل نووية أكثر قوة ، يمكن للذكاء الاصطناعي أن يخلق ذكاءً اصطناعيًا أكثر قوة. تتمثل الخطوة الأولى الحاسمة في المطالبة بفحوصات أمنية صارمة قبل طرح أدوات الذكاء الاصطناعي القوية في المجال العام.
مثلما لا تستطيع شركة الأدوية إطلاق عقاقير جديدة قبل اختبار آثارها الجانبية قصيرة وطويلة المدى ، يجب على شركات التكنولوجيا ألا تطلق أدوات ذكاء اصطناعي جديدة قبل اعتبارها آمنة. نحن بحاجة إلى ما يعادل الغذاء والدواء للتقنيات الجديدة ، وكنا بحاجة إليها بالأمس.
ألن يتسبب التباطؤ في نشر الذكاء الاصطناعي العام في تخلف الديمقراطيات عن الأنظمة الاستبدادية الأكثر قسوة؟ إنه العكس تماما. من شأن النشر غير المنظم للذكاء الاصطناعي أن يخلق فوضى اجتماعية ، الأمر الذي من شأنه أن يفيد المستبدين ويدمر الديمقراطيات. الديمقراطية محادثة ، والمحادثات تعتمد على اللغة. عندما يغزو الذكاء الاصطناعي اللغة ، يمكن أن يدمر قدرتنا على إجراء محادثات هادفة ، وبالتالي تدمير الديمقراطية.
لقد وجدنا للتو ذكاء فضائي هنا على الأرض. لا نعرف الكثير عنها ، إلا أنها قد تدمر حضارتنا. نحن مدينون بإنهاء النشر غير المسؤول لأدوات الذكاء الاصطناعي في المجال العام وتنظيم الذكاء الاصطناعي قبل أن ينظمنا. وأول لائحة أقترحها هي جعل الكشف عن الذكاء الاصطناعي إلزامياً على الذكاء الاصطناعي. إذا كنت أتحدث إلى شخص ما ولا أستطيع معرفة ما إذا كان ذكاءً بشريًا أم اصطناعيًا ، فهذه هي نهاية الديمقراطية.
تم إنشاء هذا النص من قبل الإنسان. أم لا؟
يوفال نوح هراري هو أستاذ التاريخ في الجامعة العبرية في القدس. المؤلف ، من بين كتب أخرى ، من العاقل - تاريخ موجز للبشرية (كومبانيا داس ليتراس).
ترجمة: فرناندو ليما داس نيفيس.
نشرت أصلا على بوابة المجلة الاقتصادي.
الأرض مدورة موجود بفضل قرائنا وداعمينا.
ساعدنا على استمرار هذه الفكرة.
يساهم
