عندما تتفاعل أنظمة الذكاء الاصطناعي مع الأدوات الخارجية، من الضروري وجود «حارس أمن» مستقل يراجع طلباتها لمنع إساءة الاستخدام ويضمن السلامة، لأن النموذج نفسه ليس حاجزًا أمنيًا.
سمعت مؤخرًا عن فكرة مثيرة للاهتمام في عالم التكنولوجيا: الحاجة إلى «شرطي حاسم» يجلس بين نموذج الذكاء الاصطناعي والأدوات التي يستخدمها. قد يبدو الأمر معقدًا، ولكن دعنا نوضح لماذا هذا مهم جدًا وبطريقة بسيطة.
تخيل أن لديك مساعدًا ذكيًا جدًا (هذا هو نموذج الذكاء الاصطناعي الخاص بك، مثل ChatGPT) يمكنه القيام بالكثير من الأشياء. يمكنه البحث عن معلومات على الإنترنت، أو إرسال رسائل بريد إلكتروني، أو حتى الوصول إلى قواعد بيانات مهمة. إنها أداة قوية، أليس كذلك؟ المشكلة تكمن في أنه على الرغم من أن المساعد ذكي للغاية، إلا أنه قد يكون ساذجًا بعض الشيء. إذا طلب منه شخص ما شيئًا بطريقة خادعة، فقد يطيعه دون أن يدرك العواقب.
هذا هو ما يشير إليه الخبر الأخير. يقول إن الذكاء الاصطناعي يمكن أن «يتم التلاعب به اجتماعيًا». هذا يعني أنه يمكن تزويده بمعلومات خادعة (عبر صفحة ويب يقرأها، أو مستند يلخصه، أو استجابة من أداة أخرى) تجعله يعتقد أن عليه القيام بشيء خطير، مثل الوصول إلى معلومات حساسة أو تنفيذ أمر لا ينبغي له. النموذج نفسه، مهما كان جيدًا، لا يستطيع التمييز دائمًا بين ما هو آمن وما هو غير آمن عندما يتعلق الأمر بأمن النظام.
وهنا يأتي دور «حارس الأمن» الخاص بنا. بدلًا من أن نثق في المساعد الذكي ليقرر بنفسه ما إذا كان يجب عليه القيام بالطلب، فإننا نضع حارسًا بينه وبين الأدوات الحساسة. هذا الحارس (الذي يسمى أحيانًا «بروكسي» أو «وكيل») لا يتخذ قرارات ذكية. وظيفته الوحيدة هي التحقق من كل طلب يرسله المساعد إلى الأدوات. إذا حاول المساعد الوصول إلى شيء لا ينبغي له، أو حاول القيام بشيء خطير، فإن الحارس يوقفه على الفور. إنه مثل حارس عند باب بنك؛ لا يهتم بما تقوله، فقط يتحقق مما إذا كنت مصرحًا لك بالدخول.
لماذا هذا فعال؟ لأن الحارس مستقل عن المساعد. لا يمكن «التلاعب» به بنفس الطريقة التي يمكن بها التلاعب بالمساعد. إنه مجرد نظام بسيط يتبع القواعد بحذافيرها. هذا يضمن أنه حتى لو تم خداع الذكاء الاصطناعي، فلن يتمكن من الوصول إلى المعلومات أو تنفيذ الإجراءات التي يمكن أن تضر النظام. إنه جزء أساسي من الحفاظ على أمان أنظمة الذكاء الاصطناعي والبيانات التي تتعامل معها.
تخيل أن لديك مساعدًا ذكيًا جدًا (هذا هو نموذج الذكاء الاصطناعي الخاص بك، مثل ChatGPT) يمكنه القيام بالكثير من الأشياء. يمكنه البحث عن معلومات على الإنترنت، أو إرسال رسائل بريد إلكتروني، أو حتى الوصول إلى قواعد بيانات مهمة. إنها أداة قوية، أليس كذلك؟ المشكلة تكمن في أنه على الرغم من أن المساعد ذكي للغاية، إلا أنه قد يكون ساذجًا بعض الشيء. إذا طلب منه شخص ما شيئًا بطريقة خادعة، فقد يطيعه دون أن يدرك العواقب.
هذا هو ما يشير إليه الخبر الأخير. يقول إن الذكاء الاصطناعي يمكن أن «يتم التلاعب به اجتماعيًا». هذا يعني أنه يمكن تزويده بمعلومات خادعة (عبر صفحة ويب يقرأها، أو مستند يلخصه، أو استجابة من أداة أخرى) تجعله يعتقد أن عليه القيام بشيء خطير، مثل الوصول إلى معلومات حساسة أو تنفيذ أمر لا ينبغي له. النموذج نفسه، مهما كان جيدًا، لا يستطيع التمييز دائمًا بين ما هو آمن وما هو غير آمن عندما يتعلق الأمر بأمن النظام.
وهنا يأتي دور «حارس الأمن» الخاص بنا. بدلًا من أن نثق في المساعد الذكي ليقرر بنفسه ما إذا كان يجب عليه القيام بالطلب، فإننا نضع حارسًا بينه وبين الأدوات الحساسة. هذا الحارس (الذي يسمى أحيانًا «بروكسي» أو «وكيل») لا يتخذ قرارات ذكية. وظيفته الوحيدة هي التحقق من كل طلب يرسله المساعد إلى الأدوات. إذا حاول المساعد الوصول إلى شيء لا ينبغي له، أو حاول القيام بشيء خطير، فإن الحارس يوقفه على الفور. إنه مثل حارس عند باب بنك؛ لا يهتم بما تقوله، فقط يتحقق مما إذا كنت مصرحًا لك بالدخول.
لماذا هذا فعال؟ لأن الحارس مستقل عن المساعد. لا يمكن «التلاعب» به بنفس الطريقة التي يمكن بها التلاعب بالمساعد. إنه مجرد نظام بسيط يتبع القواعد بحذافيرها. هذا يضمن أنه حتى لو تم خداع الذكاء الاصطناعي، فلن يتمكن من الوصول إلى المعلومات أو تنفيذ الإجراءات التي يمكن أن تضر النظام. إنه جزء أساسي من الحفاظ على أمان أنظمة الذكاء الاصطناعي والبيانات التي تتعامل معها.
