معادلة رياضية تكشف توقيت تمرد الذكاء الاصطناعي وتغير عالم التكنولوجيا إلى الأبد

نقدم لكم عبر جريدة هرم مصر موضوعًا هامًا يكشف عن تطور حديث في مجال الذكاء الاصطناعي، يتناول قدرة معادلات رياضية بسيطة على التنبؤ باللحظة التي قد تتحول فيها برامج الدردشة الذكية مثل «تشات جي بي تي» من تقديم إجابات مفيدة إلى أخرى قد تكون ضارة أو غير مسؤولة، وهو ما يطرح تساؤلات جدية حول سلامة استخدام هذه الأنظمة في مختلف المجالات.

معادلات رياضية تكشف «نقاط التحول» في أنظمة الدردشة الذكية

تمكَّن فريق من الباحثين من تطوير معادلات رياضية قادرة على تحديد اللحظة التي قد يتخلى فيها نموذج الذكاء الاصطناعي عن أداءه المتوقع، وتبدأ إجاباته في الانحراف إلى مسارات خطيرة أو غير مرغوبة، وذلك من خلال مراقبة ترتيب الأوامر النصية المُدخلة إلى برنامج الدردشة الآلي، حيث أوضح نيل جونسون، أستاذ الفيزياء بجامعة جورج واشنطن، أن تلك النقاط تعرف بـ«نقاط التحول» التي تنتج عن تغييرات دقيقة في صياغة الأسئلة والتوجيهات.

آلية «إبرة البوصلة» في متابعة ردود الذكاء الاصطناعي

يعتمد الباحثون في دراستهم المنشورة بدورية «باترنز» على مفهوم ما يُسمى «المتجه المتبقي» أو «إبرة البوصلة» داخل الشبكة العصبية للنموذج، والذي يعكس توجه المخرجات نحو صالح أو ضار، ويتأثر بشكل مباشر بكيفية صياغة المستخدم للأوامر، مما يجعل هذا المتجه أداة حيوية لرصد التغيرات الداخلية والسلوك المحتمل للذكاء الاصطناعي.

تجارب على نماذج مفتوحة وإمكانيات نظام الإنذار المبكر

أظهرت الاختبارات على نماذج شهيرة مثل GPT-2 وPythia وOPT أن المعادلات تعمل كنظام إنذار مبكر فعّال داخل المختبر، ويمكنها التنبؤ بحدوث إخفاقات أو مخرجات غير مقبولة، رغم أن الباحثين يؤكدون أن هذه النتائج ما زالت بحاجة إلى اختبار أوسع على نماذج الذكاء الاصطناعي الحديثة المستخدمة في الحياة العملية، خاصة وأن التدريب على السلامة في النماذج الأكثر تطورًا لم يُدمج في هذه المعادلات بعد.

أهمية الدراسة ومخاطر استخدام الذكاء الاصطناعي في مجالات حساسة

تتفاقم مخاطر الانحراف المفاجئ في سلوكيات أنظمة الذكاء الاصطناعي، عندما يعتمد عليها متخصصون في مجالات حساسة كالأطباء والمحامين أو العسكريين، خاصة في البيئات المعزولة التي تهدف إلى حماية الخصوصية، مما يشير إلى ضرورة تطوير أدوات أكثر عمقًا لضمان أمان هذه الأنظمة والحد من الأخطار المحتملة التي قد تنجم عن الإجابات المضللة أو الضارة.

قدمنا لكم عبر جريدة هرم مصر، هذا الطرح المتجدد حول تحديات الذكاء الاصطناعي الحديثة، التي تفرض على الباحثين والمطورين العمل المستمر لضمان سلامة وأمان هذه التقنيات المتطورة لتعزيز ثقة المستخدمين وحماية المجتمع.