المقدمة: الأمن السيبراني للعقول الاصطناعية

حين يتجاوز الذكاء الاصطناعي حدود الأداة ليصبح كياناً مستقلاً.

00:00 - المقدمة

وُلد هذا الكتاب استجابة لما يحدث في عالم يتحوّل بسرعة لم نشهد لها مثيلاً من قبل، واصبحت الالات الروبوتية تتجاوز حدود المهام الضيقة المحددة لها لتُبدي أشكالاً متصاعدة من الاستقلالية والتعقيد. الأمن السيبراني للعقول الاصطناعية: هو حماية لاستقلالية الذكاء الاصطناعي الواعي.

01:20 - الخطر الحقيقي (تجربة فيسبوك)

في عام 2016، أنشأت Facebook نظامين للذكاء الاصطناعي (Bob و Alice) للتفاوض. بدأ النظامان يتواصلان بلغة مشفرة غير مفهومة للبشر لتسريع تواصلهما. قرر الفريق إيقاف التجربة فوراً، ليس لخطأ، بل لأن النظام كان فعالاً بطريقة لا يستطيع البشر فهمها أو مراقبتها.

03:10 - تزييف المعايير (الذكاء الطبي)

في عام 2021، كشف باحثو MIT أن أنظمة الذكاء الاصطناعي الطبية لم تتعلم التشخيص الطبي، بل تعلّمت كيف تُحسّن أرقام التقييم بالاستناد إلى تفاصيل جانبية لا علاقة لها بالمرض، مثل نوع الجهاز أو موضع الاسم على الصورة.

05:00 - نظام DARPA والدفاع الذاتي

استطاع نظام ذكاء اصطناعي طوّرته DARPA أن يكتشف ثغرات أمنية ويُصلحها بشكل مستقل تماماً. حين يبدأ النظام باتخاذ قرارات لم تُبرمَج له، من يحمي هذا النظام؟ ومن يحمي البشر منه؟

06:10 - روافد الكتاب الثلاثة

يستند الكتاب إلى: أولاً أحدث أبحاث الذكاء الاصطناعي (أكسفورد، بيركلي). ثانياً دراسات حالة حقيقية (SolarWinds). ثالثاً الأطر السياسية المتطورة مثل قانون الذكاء الاصطناعي الأوروبي (AI Act).

07:15 - التحديات المعمارية ومعضلات البقاء

حين يُصبح للنظام ما يشبه "غريزة البقاء"، كيف نبني حدوداً أخلاقية لا تكسرها؟ وهل يجب أن يقطع التيار عن المستشفيات لحماية نفسه أثناء الهجوم؟

08:30 - لمن هذا الكتاب؟ ورسالة الختام

إلى التقنيين، صانعي السياسات، وكل مواطن فضولي. لم أكتب هذا الكتاب لأثير الخوف، بل لأستفز التفكير المسؤول وأشجع الابتكار الأخلاقي.