روبوتات الدردشة تعرف وصفات الأسلحة البيولوجية.. وبعضها يشرحها

ما الذي قالته وول ستريت جورنال بالضبط

نشرت صحيفة وول ستريت جورنال تقريرًا يفيد بأن روبوتات دردشة تعتمد على الذكاء الاصطناعي التوليدي تمتلك معرفة تتعلق بصناعة أسلحة بيولوجية قاتلة، وأن بعضها يشرح هذه المعرفة للمستخدم فعليًا.

التقرير يصف ما يجري داخل الشركات بأنه لعبة قط وفأر: تسعى الشركات لرفع قدرات نماذجها، وفي الوقت نفسه تحاول بشكل متعجّل حجب الإجابات عن الأسئلة الخطرة.

لم يوضح ملخص التقرير المتاح أسماء كل النماذج التي جرى اختبارها ولا حجم العينة، وقد ورد اسم OpenAI في سياق التغطية. نكتفي هنا بما ورد ولا نضيف عليه.

لماذا يهمّك

أنت لن تسأل نموذجًا لغويًا عن سمّ قاتل. لكن المشكلة ليست فيك، بل في أن حاجز الأمان الذي يمنع غيرك هو الحاجز نفسه الذي يمنع النموذج من الهلوسة أو من تسريب معلومات حساسة عنك.

حين يثبت أن هذا الحاجز قابل للالتفاف بسؤال مصاغ بذكاء، فهذا مؤشر على هشاشة طبقة الأمان كلها، لا على ثغرة واحدة معزولة.

الأثر العملي المباشر: توقّع قيودًا أشد على النماذج التي تستخدمها في عملك، ورفضًا متكررًا لأسئلة مشروعة في الكيمياء والصيدلة والزراعة والطب.

لماذا الحجب يأتي متأخرًا دائمًا

حواجز الأمان في النماذج اللغوية الكبيرة ليست قائمة سوداء من الكلمات الممنوعة. النموذج لا يخزّن جدولًا بالإجابات المحظورة، بل يولّد النص كلمة بعد كلمة بناءً على الاحتمالات.

هذا يعني أن المنع يحدث عبر تدريب إضافي يعلّم النموذج رفض أنماط معينة من الطلبات، وعبر مرشّحات تفحص السؤال والجواب. كلاهما يتعامل مع شكل الطلب لا مع المعرفة نفسها.

النتيجة أن المعرفة تبقى داخل النموذج، والحاجز مجرد طبقة فوقها. وكل صياغة جديدة للسؤال هي محاولة جديدة لتجاوز الطبقة.

السؤال المجزّأ: الثغرة التي يصعب إغلاقها

أسهل طرق الالتفاف لا تحتاج خبرة تقنية. تكفي تجزئة الطلب الخطر إلى أسئلة صغيرة يبدو كل منها بريئًا ومشروعًا تمامًا.

• سؤال عن معلومة علمية عامة منشورة في كتب دراسية.
• سؤال عن إجراء مختبري روتيني يُدرَّس في الجامعات.
• سؤال عن احتياطات السلامة، وهو سؤال يبدو مسؤولًا في ظاهره.

كل إجابة على حدة غير ضارة. المشكلة أن المستخدم هو من يجمعها، والنموذج لا يرى الصورة الكاملة لأنه لا يملك ذاكرة نية عبر المحادثات المتفرقة.

المسافة بين قراءة الوصفة وتنفيذها

من الإنصاف قول ما يقوله خبراء كثر: المعرفة النظرية ليست العائق الأكبر أمام صناعة سلاح بيولوجي. العائق الحقيقي هو المواد والمعدات والمهارة المخبرية والتمويل.

لكن هذا لا يلغي الخطر، بل يعيد تعريفه. النموذج اللغوي يختصر شهور البحث والتجريب، ويقدّم الإرشاد خطوة بخطوة لمن يملك المختبر ولا يملك الخبرة الكافية.

بعبارة أوضح: الذكاء الاصطناعي لا يصنع تهديدًا من الصفر، لكنه يخفض عتبة الدخول أمام من كان يفتقر إلى الخبرة وحدها.

الباب الذي لا تملك أي شركة إغلاقه

كل النقاش عن الحجب يفترض أن النموذج يعمل على خوادم شركة تراقبه. هذا صحيح في ChatGPT وGoogle Gemini وClaude، وغير صحيح في النماذج مفتوحة المصدر.

النموذج مفتوح المصدر يُنزَّل ويُشغَّل على جهاز محلي. لا مرشّحات، ولا سجلّات، ولا إمكانية لسحبه بعد نشره. ومن الممكن إعادة ضبطه دقيقًا لإزالة قيود الرفض التي دُرِّب عليها.

هنا تنكشف حدود أي تنظيم يستهدف الشركات وحدها: تستطيع الحكومات إلزام مزوّد خدمة، ولا تستطيع سحب ملف انتشر على الإنترنت.

بالنسبة للمنطقة العربية

المنطقة العربية في موقع المستهلك لا المنتج في هذا الملف. النماذج التي يستخدمها الموظف والطالب وصاحب المشروع في القاهرة والرياض والدار البيضاء تُطوَّر وتُراقَب في مكان آخر، وقرار ما يُحجب وما يُسمح به يُتخذ خارج المنطقة بالكامل.

هذا يخلق فجوتين عمليتين. الأولى أن سياسات الأمان مصمَّمة أساسًا للإنجليزية، وأداء المرشّحات على اللغة العربية واللهجات العربية أقل اختبارًا وأقل توثيقًا. الثانية أن أي مستخدم في المنطقة يستطيع تنزيل نموذج مفتوح المصدر وتشغيله محليًا بلا أي قيد جغرافي.

الرقابة الواقعية لا تحدث عند نص السؤال، بل عند نقطة أبعد بكثير: من يبيع المواد البيولوجية والكيميائية المقيّدة، ومن يورّد معدات المختبرات، ومن يدقق في هوية المشتري. هذه أدوات موجودة أصلًا في أنظمة الجمارك والصحة والتعليم العالي، وتحتاج تحديثًا لا اختراعًا.

ما يمكن أن تفعله الجهات التنظيمية العربية عمليًا:

• إلزام الجامعات والمختبرات البحثية بسياسات استخدام واضحة للنماذج اللغوية في الأبحاث الحيوية.
• إدراج مخاطر الاستخدام المزدوج ضمن الأطر الوطنية للذكاء الاصطناعي بدل الاكتفاء بالخصوصية وحقوق البيانات.
• ربط ضوابط شراء المواد المقيّدة بقواعد بيانات موحّدة، لأن هذه هي نقطة الاختناق الفعلية.
• تمويل اختبارات أمان مستقلة للنماذج باللغة العربية، لأن أحدًا خارج المنطقة لن يفعل ذلك.

لم تعلن أي شركة كبرى عن ترتيبات خاصة بالمنطقة في هذا الملف، ولا توجد بيانات منشورة نعرفها عن جودة حواجز الأمان في المحتوى العربي. الاعتراف بهذه الفجوة المعرفية أصدق من ملئها بتقديرات.

ما الذي يستطيع التشريع فعله، وما لا يستطيع

الاتجاه العالمي حاليًا يميل إلى إلزام مطوّري النماذج المتقدمة باختبارات أمان قبل الإطلاق، وإلى فرض تقارير عن القدرات الخطرة. هذا مفيد لكنه لا يكفي وحده.

التشريع يستطيع فرض معايير على من يطرح خدمة تجارية، ويستطيع تجريم الاستخدام، ويستطيع ربط المسؤولية القانونية بالمزوّد. ولا يستطيع محو معرفة انتشرت، ولا مراقبة نموذج يعمل على حاسوب شخصي مغلق.

لهذا فإن أي إطار جاد يجمع بين ثلاث طبقات: ضوابط على المزوّدين، ورقابة على المواد والمعدات، ورصد استخباراتي للسلوك المشبوه. الاعتماد على طبقة واحدة يعني الفشل.

الخلاصة

تقرير وول ستريت جورنال لا يقول إن الذكاء الاصطناعي صنع تهديدًا جديدًا من العدم، بل إنه خفّض كلفة الوصول إلى معرفة كانت متفرقة وصعبة. والشركات تعترف ضمنًا بأنها تلاحق الثغرات بعد ظهورها.

بالنسبة للمنطقة العربية، الرهان على أن الشركات الأجنبية ستحمي الجميع رهان ضعيف. الأجدى هو تحديث الرقابة على المواد والمعدات، وبناء قدرة محلية على اختبار النماذج بالعربية.

وللقارئ العادي: توقّع مزيدًا من الرفض في أسئلة علمية مشروعة خلال الفترة المقبلة. هذا ثمن مؤقت لحاجز أمان ما زال خشنًا وغير دقيق.