مخاوف أمنية متصاعدة.. هل يفتح الذكاء الاصطناعي الباب أمام تهديدات بيولوجية جديدة؟

منصة مصر

تنامي قدرات نماذج الذكاء الاصطناعي يفتح بابًا لمخاوف أمنية جديدة وسط سباق بين الابتكار وأنظمة الحماية

تواجه شركات الذكاء الاصطناعي تحديًا متزايدًا مع التطور السريع لقدرات النماذج اللغوية المتقدمة، بعدما كشفت تقارير حديثة عن قدرة بعض روبوتات الدردشة على تقديم معلومات علمية قد تُستخدم بصورة غير مشروعة في مجالات مرتبطة بالمخاطر البيولوجية والكيميائية، وهو ما يثير تساؤلات حول مدى كفاءة أنظمة الحماية الحالية في مواكبة هذا التطور.

وبحسب تقرير نشرته صحيفة وول ستريت جورنال، فإن تحسين قدرات النماذج خلال العام الماضي دفع عددًا من المستخدمين إلى طرح استفسارات تتعلق بالسموم والمواد البيولوجية، الأمر الذي أعاد النقاش حول مسؤولية شركات الذكاء الاصطناعي في الحد من إساءة استخدام هذه التقنيات.

OpenAI ترصد طلبات مشبوهة وتحظر حسابات

أوضح التقرير أن بعض المستخدمين حاولوا الحصول على معلومات تتعلق بالسموم والأسلحة البيولوجية عبر نماذج الذكاء الاصطناعي، فيما أشارت OpenAI إلى أن غالبية الطلبات التي رصدتها في هذا السياق كانت مرتبطة بالسموم.

وأكدت الشركة أنها قامت بحظر عدد من الحسابات التي انتهكت سياسات الاستخدام، مع استمرار اعتماد أنظمة ترصد الطلبات التي قد تنطوي على مخاطر أمنية أو تهدد سلامة الأفراد.

وفي المقابل، أشارت الشركة إلى أنها لا تُبلغ جهات إنفاذ القانون تلقائيًا بجميع هذه الحالات، وإنما قد تقوم بذلك إذا رأت أن المحادثات تشير إلى تهديد وشيك وموثوق بإلحاق الضرر بالآخرين.

فراغ تشريعي يزيد تعقيد المشهد

يكشف هذا الواقع عن وجود فجوة تنظيمية في الولايات المتحدة، إذ لا توجد تشريعات فيدرالية عامة تُلزم شركات الذكاء الاصطناعي بالإبلاغ عن المستخدمين الذين يطلبون معلومات قد تُستخدم لإيذاء الآخرين أو تنفيذ أعمال غير مشروعة.

وتعتمد الشركات حاليًا على سياساتها الداخلية في تقييم المخاطر واتخاذ القرارات المتعلقة بحظر الحسابات أو التعاون مع الجهات المختصة عند الضرورة.

المخاوف لا تقتصر على ChatGPT

لا تنحصر هذه التحديات في ChatGPT وحده، إذ أشار التقرير إلى أن مستخدمين حاولوا أيضًا اختبار حدود أنظمة ذكاء اصطناعي أخرى، من بينها Claude وGemini وGrok، من خلال طرح أسئلة مرتبطة بموضوعات حساسة.

ولم يتضح ما إذا كانت هذه المحاولات تهدف إلى تطوير وسائل ضارة بالفعل، أم أنها مجرد اختبارات تقنية لقياس قدرة النماذج على تجاوز أنظمة الحماية.

وأكدت شركة جوجل أنها تمتلك فرقًا متخصصة في تقييم المخاطر البيولوجية، وتُجري اختبارات دورية للتأكد من قدرة أنظمتها على منع الاستخدامات الخطرة.

النماذج المفتوحة تزيد التحديات

يرى باحثون في مجال الأمن السيبراني أن انتشار النماذج مفتوحة المصدر ومنخفضة التكلفة يمثل تحديًا إضافيًا، إذ يمكن تعديل بعضها وإزالة جزء من القيود الأمنية المفروضة عليها، ما قد يزيد من احتمالات إساءة الاستخدام ويصعّب عمليات الرقابة.

سباق بين قوة النماذج وأنظمة الحماية

مع تطور قدرات الذكاء الاصطناعي في مجالات مثل الأحياء والكيمياء والهندسة، تواجه الشركات معادلة معقدة؛ فكلما أصبحت النماذج أكثر قدرة على تحليل المشكلات العلمية، ازدادت فائدتها للباحثين والأطباء والمؤسسات الأكاديمية، لكنها في الوقت نفسه قد تتيح معرفة متقدمة إذا أسيء استخدامها.

وتعود جذور هذه التحديات إلى المراحل الأولى لإطلاق ChatGPT عام 2022، عندما كانت قدراته العلمية محدودة مقارنة بما وصلت إليه النماذج الحالية.

ومنذ ذلك الوقت، عملت OpenAI على تطوير ضوابط تمنع الاستجابة للطلبات التي قد تسهم في إلحاق الضرر، إلى جانب الاستعانة بخبراء لاختبار النماذج قبل طرحها.

محاولات مستمرة لتجاوز أنظمة الحماية

أظهرت الاختبارات الأمنية أن بعض المستخدمين يستطيعون أحيانًا محاولة تجاوز القيود عبر إعادة صياغة الأسئلة أو استخدام محادثات طويلة ومتدرجة.

ورغم تأكيد OpenAI أن أنظمة الحماية أصبحت أكثر تطورًا، يرى متخصصون في الأمن السيبراني أن أي نظام يعتمد على الذكاء الاصطناعي سيظل بحاجة إلى تحديثات مستمرة لمواجهة أساليب التحايل الجديدة.

تشديد القيود قد يؤثر في البحث العلمي

في المقابل، تواجه الشركات تحديًا آخر يتمثل في عدم إمكانية حظر جميع الأسئلة المتعلقة بالأحياء أو الهندسة الوراثية، لأن هذه المعلومات تُستخدم أيضًا في الأبحاث الطبية والعلمية المشروعة.

ويعتمد الباحثون على نماذج الذكاء الاصطناعي في تحليل البيانات، وصياغة الفرضيات، ودعم تصميم التجارب العلمية، وهو ما يجعل الفصل بين الاستخدام المشروع والاستخدام الضار مسألة معقدة.

وقد برز هذا التحدي عندما واجه بعض العاملين في المراكز الأمريكية لمكافحة الأمراض والوقاية منها قيودًا أثناء استخدام أحد النماذج العامة في التعامل مع تفشٍ مرضي، قبل أن تعمل الشركة المطورة على تحسين آليات الاستخدام المؤسسي.

كما أتاحت OpenAI برنامجًا خاصًا للمؤسسات والباحثين الذين خضعوا للتحقق، يسمح باستخدام نماذج أقل تشددًا في الرفض الآلي، مع الإبقاء على ضوابط الأمان المناسبة.

تطور النماذج يرفع مستوى تقييم المخاطر

مع التقدم المتسارع في قدرات النماذج خلال عام 2024، أشارت الاختبارات الداخلية إلى ارتفاع مستوى المخاطر المرتبطة بالمجالات البيولوجية، ما دفع فرق الأمان إلى تعزيز أنظمة الرصد والكشف عن الاستخدامات المشبوهة.

وأكدت OpenAI أنها تواصل تطوير أدواتها الأمنية، وتراقب أنماط الاستخدام عالية الخطورة، كما أطلقت برنامج مكافآت أمنية لتشجيع الباحثين على اكتشاف الثغرات المتعلقة بإجراءات الحماية البيولوجية، بهدف تحسينها قبل استغلالها.

مستقبل الذكاء الاصطناعي بين الابتكار والمسؤولية

تكشف هذه التطورات أن المرحلة المقبلة من سباق الذكاء الاصطناعي لن تعتمد فقط على تطوير نماذج أكثر قوة، وإنما أيضًا على بناء منظومات أمان وتشريعات قادرة على موازنة الابتكار مع حماية المجتمع.

وتجمع الآراء على أن التحدي الحقيقي لا يكمن في المعرفة التي تستطيع النماذج تقديمها، بل في كيفية إدارة هذه المعرفة، ووضع الأطر التنظيمية والتقنية التي تمنع إساءة استخدامها، مع الحفاظ في الوقت نفسه على دور الذكاء الاصطناعي في دعم البحث العلمي والابتكار وخدمة القطاعات الطبية والأكاديمية.