أسوأ ستة سيناريوهات لتطور الذكاء الاصطناعي في العالم الحقيقي
يعرف الجميع أسوأ سيناريو للذكاء الاصطناعي (AI) من أفلام الخيال العلمي الضخمة: تكتسب الآلات العقل البشري، وتصبح واعية، وتتحول حتماً إلى أسياد أشرار يسعون إلى تدمير الجنس البشري. تستند هذه القصة إلى خوفنا الفطري من التكنولوجيا، وهي انعكاس للتغيرات العميقة التي غالباً ما ترافق التطورات التكنولوجية الجديدة.
لكن، كما يقول مالكولم مردوك، مهندس تعلم الآلة ومؤلف رواية «ثمن الكم» الصادرة عام 2019، لا يحتاج الذكاء الاصطناعي إلى أن يكون واعياً حتى يقضي علينا جميعاً. فهناك سيناريوهات كثيرة أخرى ستمحونا من على وجه الأرض قبل أن يصبح الذكاء الاصطناعي الواعي مشكلة.
«نحن ندخل أراضي خطيرة ومجهولة مع تزايد المراقبة وتتبع البيانات، ونكاد لا نفهم العواقب المحتملة»
في مقابلات مع خبراء في الذكاء الاصطناعي، حددت منصة IEEE Spectrum ستة أسوأ سيناريوهات لتطور الذكاء الاصطناعي في العالم الحقيقي، وهي أكثر عادية بكثير من تلك التي تظهر في الأفلام. لكنها لا تقل طابعها المعادي للمثالية الفاضلة.
عندما يحدد الخيال واقعنا
إذا سمحنا للخيال بأن يحدد واقعنا، فقد تقع مأساة لا داعي لها. لكن ما الخيار المتاح إذا لم نستطع التمييز بين الحقيقي والزائف في العالم الرقمي؟
في سيناريو مرعب، قد يؤدي انتشار التزييف العميق، أي الصور والفيديوهات والتسجيلات الصوتية والنصوص المزيفة التي تُنشأ بأدوات تعلم آلة متطورة، إلى دفع صناع القرار في مجال الأمن القومي يوماً ما إلى اتخاذ إجراءات حقيقية استناداً إلى معلومات كاذبة، مما قد يسبب أزمة كبرى أو، وهو أسوأ، حرباً.
قال أندرو لون، كبير الباحثين في مركز الأمن والتكنولوجيات الناشئة (CSET) بجامعة جورجتاون، إن «الأنظمة المدعومة بالذكاء الاصطناعي قادرة الآن على توليد المعلومات المضللة على نطاق واسع». ومن خلال إنشاء كميات كبيرة ومتنوعة من الرسائل المزيفة، يمكن لهذه الأنظمة أن تخفي طبيعتها الحقيقية وأن تتحسن لتحقيق النجاح، مع تعزيز التأثير المطلوب بمرور الوقت.
إن مجرد فكرة وجود تزييف عميق في وقت الأزمات قد تدفع القادة إلى التردد في أفعالهم، إذا تعذر التحقق من مصداقية المعلومات في الوقت المناسب.
قالت مارينا فافارو، باحثة في معهد الأبحاث وسياسات الأمن في هامبورغ (ألمانيا)، إن «التزييف العميق يقوض بطبيعته ثقتنا في تدفقات المعلومات». ويمكن لكل من الفعل والامتناع عن الفعل الناتجين عن التزييف العميق أن يؤديا إلى عواقب كارثية على العالم بأسره.
سباق خطير نحو القاع
عندما يتعلق الأمر بالذكاء الاصطناعي والأمن القومي، تمثل السرعة في آن واحد المعنى والتحدي. ولأن الأنظمة المدعومة بالذكاء الاصطناعي تمنح مستخدميها ميزة كبيرة في السرعة، فإن الدول التي تطور التطبيقات العسكرية أولاً ستحصل على ميزة استراتيجية. لكن ما المبادئ التي قد نضحي بها في هذه العملية؟
تقول هيلين تونر، مديرة الاستراتيجية في CSET، إن الأزمة قد «تبدأ كنقطة فشل واحدة غير ضارة تؤدي إلى توقف جميع الاتصالات، فتثير الذعر بين الناس وتوقف النشاط الاقتصادي. وقد يؤدي الغياب المستمر للمعلومات، المصحوب بأخطاء أخرى، إلى خروج الوضع عن السيطرة».
يحذر فنسنت بولانان، كبير الباحثين في معهد ستوكهولم الدولي لأبحاث السلام (SIPRI) في السويد، من أن كوارث كبرى قد تقع «عندما تختصر القوى العظمى الطرق لتحقيق الأسبقية. فإذا فضلت دولة واحدة السرعة على الأمان أو الاختبار أو الرقابة البشرية، فسيكون ذلك سباقاً خطيراً نحو القاع».
نهاية الخصوصية وحرية الإرادة
مع كل نشاط رقمي ننتج بيانات جديدة: رسائل بريد إلكتروني، ورسائل نصية، وتنزيلات، ومشتريات، ورسائل، وصوراً ذاتية، ومواقع GPS. ومن خلال منح الشركات والحكومات وصولاً غير محدود إلى هذه البيانات، نسلم أدوات المراقبة والسيطرة.
مع إضافة التعرف على الوجوه والقياسات الحيوية والبيانات الجينومية والتحليلات التنبؤية المدعومة بالذكاء الاصطناعي، يشعر لون من CSET بالقلق من أن «نحن ندخل أراضي خطيرة ومجهولة مع تزايد المراقبة وتتبع البيانات، ونكاد لا نفهم ما العواقب الممكنة».
يحذر مايكل سي. هوروفيتز، مدير Perry World House في جامعة بنسلفانيا، «من منطق الذكاء الاصطناعي وما يعنيه للقمع الداخلي. في الماضي، كانت قدرة الحكام المستبدين على قمع شعوبهم تعتمد على عدد كبير من الجنود، وكان بعضهم قادراً على الانحياز إلى المجتمع والقيام بانقلاب. وقد يقلل الذكاء الاصطناعي من هذه القيود».
إن قوة البيانات التي جُمعت وحُللت مرة واحدة تتجاوز بكثير وظائف الرصد والمراقبة، إذ تتيح الإدارة التنبؤية. فاليوم، تتنبأ الأنظمة المدعومة بالذكاء الاصطناعي بالمنتجات التي سنشتريها، والبرامج الترفيهية التي سنشاهدها، والروابط التي سننقر عليها.
صندوق سكينر البشري
تحول مستخدمو الشبكات الاجتماعية إلى فئران تجارب مختبرية، تعيش في «صناديق سكينر» بشرية (صندوق سكينر جهاز مختبري يُستخدم لدراسة سلوك الحيوانات)، ملتصقة بشاشات هواتفها الذكية، ومضطرة إلى التضحية بوقتها واهتمامها الثمينين لمنصات تربح على حسابها.
قالت هيلين تونر من CSET إن «الخوارزميات مُحسنة بحيث يبقى المستخدمون على المنصة أطول وقت ممكن». ويقول مالكولم مردوك إنها، من خلال تقديم مكافآت في شكل إعجابات وتعليقات واشتراكات، «تُحكم الخوارزميات قبضتها على عمل دماغنا، فتجعل مشاركتنا التالية لا تقاوم».
من أجل تعظيم أرباح الإعلانات، تصرف الشركات انتباهنا عن العمل والعائلة والأصدقاء والمسؤوليات، وحتى عن الهوايات. والأسوأ من ذلك أن المحتوى كثيراً ما يجعلنا نشعر بالتعاسة وبأننا أسوأ مما كنا عليه. وتحذر تونر من أن «كل وقت نقضيه على هذه المنصات يقلل الوقت الذي ننفقه في السعي إلى حياة إيجابية ومنتجة وكاملة».
استبداد تصميم الذكاء الاصطناعي
كل يوم نسلم جزءاً كبيراً من حياتنا اليومية إلى آلات تعمل بالذكاء الاصطناعي. وهذا إشكالي، لأن هوروفيتز يشير إلى أن «علينا أن ندرك بالكامل مشكلة التحيز في الذكاء الاصطناعي بعد. فحتى مع أفضل النوايا، يعكس تصميم الأنظمة المدعومة بالذكاء الاصطناعي، سواء بيانات التدريب أو النماذج الرياضية، التجربة الضيقة واهتمامات الأشخاص المتحيزين الذين يبرمجونها. ولدينا جميعاً تحيزاتنا».
تقول ليديا كوستوبولوس، نائبة الرئيس الأولى للتقنيات الجديدة في شركة KnowBe4 المختصة بأمن المعلومات، إن «كثيراً من الأنظمة المدعومة بالذكاء الاصطناعي لا تأخذ في الاعتبار التجارب المتنوعة وخصائص الأشخاص المختلفين». ولأن الذكاء الاصطناعي يحل المشكلات استناداً إلى وجهات نظر وبيانات متحيزة، لا إلى الاحتياجات الفريدة لكل فرد، فإن هذه الأنظمة توفر مستوى من التوافق غير موجود في المجتمع البشري.
حتى قبل ظهور الذكاء الاصطناعي، كان تصميم الأشياء العادية في حياتنا اليومية يخدم غالباً نوعاً معيناً من الناس. فعلى سبيل المثال، أظهرت الدراسات أن السيارات والأدوات اليدوية، بما فيها الهواتف المحمولة، وحتى معايير درجة الحرارة في المكاتب، صُممت للرجال متوسطي الطول، مما يضع الأشخاص ذوي الأطوال والبنى الجسدية المختلفة، ومن بينهم النساء، في موقف غير مريح، بل خطير أحياناً.
الخوف من الذكاء الاصطناعي يحرم البشرية من مزاياه
بما أن الذكاء الاصطناعي الحديث يعمل مع مجموعات البيانات والنماذج الإحصائية المتقدمة وخوارزميات التنبؤ، فإن عملية إنشاء الذكاء الآلي تتركز في نهاية المطاف على الرياضيات. يقول مردوك: «الجبر الخطي يمكنه أن يفعل أشياء قوية بجنون إذا لم نكن حذرين».
لكن ماذا لو خاف الناس من الذكاء الاصطناعي إلى درجة أن تنظمه الحكومات بطريقة تحرم البشرية من كثير من مزاياه؟ فعلى سبيل المثال، حققت برمجة DeepMind AlphaFold اختراقاً كبيراً في التنبؤ بكيفية طي الأحماض الأمينية لتشكل البروتينات، مما مكّن العلماء من تحديد بنية 98,5% من بروتينات الإنسان. وسيشكل هذا الإنجاز أساساً خصباً للتطور السريع لعلوم الحياة.
فكّر في فوائد التواصل المحسن والتفاهم بين الثقافات، التي أصبحت ممكنة بفضل الترجمة السلسة إلى أي مزيج من اللغات البشرية، أو باستخدام الأنظمة المدعومة بالذكاء الاصطناعي للبحث عن طرق جديدة لعلاج الأمراض.
قد تحمل الإجراءات التنظيمية التي تتخذها الحكومات للحماية من أسوأ سيناريوهات تطور الذكاء الاصطناعي عواقب سلبية، وقد تؤدي إلى عواقب سلبية غير مقصودة خاصة بها، إذ قد نخاف من قوة هذه التقنية المذهلة إلى حد نقاوم معه استخدامها للخير الذي يمكن أن تجلبه إلى العالم.
