من قبل يوجينيو بوتشي *
إذا تم اختطاف عمليات صنع القرار في المجتمعات الديمقراطية بسبب الجهل الذي صنعه الذكاء الاصطناعي، فسوف تتعرض البشرية لتهديد خطير.
في نهاية الأسبوع الماضي، حصلنا على قصة إخبارية أخرى حول الاستخدام المظلم لتقنيات الضوء. هذه المرة، استخدمت عصابة أدوات وهمية عميقة لتنفيذ انقلاب بمليون دولار، والذي كان ناجحًا جدًا. وهمية عميقةكما تعلمون جيدًا، هو الاسم الذي يطلق على مقاطع الفيديو التي تم التلاعب بها والتي تبدو حقيقية مثل الخطاب المعدني لمذيعي الأخبار. المجلة الوطنية. إنها مقاطع فيديو احتيالية، ولكنها احتيالية بشكل رائع، وواضحة للغاية، لدرجة أنها تقدم صورًا موثوقة ومثالية ولا يمكن دحضها لأحداث لم تحدث أبدًا.
انهم في كل مكان. على شاشة الهاتف الخليوي، يقول المشاهير عبارات لم يقولوها في العالم الحقيقي، ناهيك عن الشخصيات العامة التي تؤدي حركات طقوس العربدة والتي - لحسن الحظ أو لسوء الحظ - لم تكن موجودة على الإطلاق. ما حدث الآن هو أن نفس الموارد الوهمية أقنعت موظفًا في القطاع المالي بشركة متعددة الجنسيات في هونغ كونغ بأن رئيسه، عبر مؤتمر عبر الهاتف، أمر بتحويل فوري لمبلغ 25,6 مليون دولار إلى حساب مجهول. أطاع الرجل، وهربت الثروة، وتبحث الشرطة المحلية عن الأضرار واللصوص. ويبدو أن بعض الاعتقالات قد تمت بالفعل.
قد تعتقد أن هذا لا يكفي. ربما ستقول أنه لا يوجد شيء مفاجئ في الجريمة تكنولوجيا حديثة وبما أن العالم قذر، فإن الأفعال الشريرة تتطلب خدمات الابتكارات، سواء كانت قطعة من الحجر المكسور، أو كورار، أو آلة كاتبة، أو في الوقت الحاضر، الهاتف الذكي. ومع ذلك، سيكون من الحكمة دراسة حلقة أخرى، هذه الحلقة أكثر إثارة للاهتمام قليلاً.
وفي ديسمبر/كانون الأول، هاجم روبوت مهندسًا على خط التجميع في إحدى منشآت شركة تيسلا في الولايات المتحدة. حتى أن الآلة غرزت مخالبها الفولاذية في ذراع الإنسان المطمئن. التفسيرات جاءت متحيزة وغير راغبة، وحتى الآن هناك شكوك حول ما حدث وكيف حدث. ماذا حدث هناك؟ هل كان خطأ برمجيا؟ إذا كانت الفرضية صحيحة، فإن الوحش المشحم لم يكن في خدمة مجرم عديم الضمير، بل كان سيتصرف من تلقاء نفسه، كما لو كان يتمتع بإرادة حرة، أو على الأقل تعسفًا مجنونًا. وهذا في الواقع أكثر إثارة للاهتمام.
والآن تخيل مزيجًا أو تداخلًا بين الخبر الأول والثاني. تخيل روبوتًا افتراضيًا (أ بوت(كما يقولون) الذي يأمر بخلق صور مصطنعة ترضي فضول الجمهور المتعطش. في بعض الأحيان، يعمل هذا الكائن غير المادي تحت أوامر من يفترض أنهم بشر.
ومع ذلك، في أحيان أخرى، وبفضل الإنجازات الرائعة للأتمتة، سيكون كائننا السيبراني قادرًا بشكل مستقل على ابتكار أعمال مذهلة، تمامًا مثل خوارزمية Spotify، بآلياتها الآلية المدربة جيدًا، القادرة على اختيار الموسيقى التي ستستمع إليها التالي، وقم بالأمر بشكل صحيح. تخيل إذن أ بوت الذي يتلاعب وهمية عميقة لإرضاء أعين الحشود الغاضبة المنحرفة، التي تبتهج بمعاناة أولئك الذين يكرسون لهم كراهيتهم السامة والذين، باسم كراهيتهم غير المشروطة، يعتبرون أي إساءة تؤكد تحيزاتهم وعيوبهم حقيقة نهائية.
هل تخيلت؟ اذهب الآن أبعد من ذلك. انها حاجة. وذهب المنتدى الاقتصادي العالمي إلى أبعد من ذلك. في يناير/كانون الثاني، وصف المنتدى الاقتصادي العالمي المعلومات الخاطئة وأدوات نشرها بأنها أكبر خطر ستواجهه البشرية في العامين المقبلين. هذا الخطر حقيقي وماكر ويلوح في الأفق بالقرب من منزلك. وفي عام 2024، سيتم استدعاء أكثر من ملياري ناخب لتقرير مصير 58 دولة، بما في ذلك روسيا والمكسيك والهند والولايات المتحدة. لن يذهب نصف الكوكب إلى صناديق الاقتراع إلا في عام 2024، وهو أكبر عام انتخابي على الإطلاق، وفقًا للإحصاءات. وإذا استمرت الكذبة الصناعية في إحداث الضرر الذي تسببه بالفعل، فسوف تحدث كوارث تراكمية.
لم يعد هناك أي وسيلة لعدم رؤيته. إذا تم اختطاف عمليات صنع القرار في المجتمعات الديمقراطية من قبل الجهل الذي صنعه الذكاء الاصطناعي، فإن البشرية سوف تتعرض لتهديد خطير بالفعل. إن المنتدى العالمي على حق، ولا يمكن إنكار ذلك. في الوقت الحالي، صحيح أننا نتحدث فقط عن خطر ما، لكن هذا الخطر لا يشبه "الأنفلونزا الصغيرة". إنه حقيقي. إذا انتصر التضليل، فسوف تولد الديمقراطية نقيضها وتبتلعها. وليس لدينا نقص في الاختبارات العملية التي تثبت اقتراب السيناريو الأسوأ. وفي أيامنا هذه، أصررت على هذا، فالمعلومات الخاطئة هي القوة.
هل يمكن للدوائر الإلكترونية والوسائط الرقمية أن تخدم الخير؟ نعم، من الواضح أنهم يستطيعون ذلك. هناك محاسبة حملات الأخوة، والاستشارات الافتراضية للتطبيب عن بعد، ونماذج التنبؤ بالطقس فائقة التعقيد. كل تقنية يمكن أن تخدم قضايا جيدة. ولكن، في حالة عدم الخضوع للحكم أو الاستسلام لأهواء رأس المال، فإن الأساليب الخارجة عن القانون سوف تقودنا إلى أسوأ المنحدرات. لقد شعر مفكرون مثل غونتر أندرس، الذين فهموا انقلابات عصر التنوير، بظهور نهاية العالم التي تنتجها هذه التقنية. ولكن ما سيأتي، إذا لم نفعل شيئا، هو أكثر إثارة للدهشة.
* يوجين بوتشي وهو أستاذ متفرغ في كلية الاتصالات والفنون بجامعة جنوب المحيط الهادئ. المؤلف، من بين كتب أخرى، ل عدم اليقين ، مقال: كيف نفكر في الفكرة التي تربكنا (وتوجه العالم الرقمي) (أصلي). [https://amzn.to/3SytDKl]
نشرت أصلا في الجريدة ولاية ساو باولو.
الأرض مدورة موجود بفضل قرائنا وداعمينا.
ساعدنا على استمرار هذه الفكرة.
يساهم
