أمان الذكاء الاصطناعي: ما البيانات التي يجب ألا تشاركها معه؟

ما البيانات التي يجب ألا تُدخلها إلى أدوات الذكاء الاصطناعي؟

يجب الامتناع تمامًا عن إدخال فئات البيانات التالية إلى النماذج المتاحة للجمهور:

• البيانات الشخصية – أسماء العملاء والموظفين وألقابهم وعناوينهم وأرقام هوياتهم الوطنية وهواتفهم وعناوين بريدهم الإلكتروني، وكذلك بياناتك الشخصية؛
• السجلات الطبية – التاريخ المرضي ونتائج الفحوصات وتشخيصات المرضى، وهي معلومات تخضع لقوانين صارمة، مثل اللائحة العامة لحماية البيانات (GDPR) أو قانون HIPAA؛
• معلومات الشركة السرية – التقارير المالية غير المنشورة، واستراتيجيات التسويق، وقواعد بيانات العملاء، وخطط الاندماج أو الاستحواذ أو تسريح الموظفين؛
• الأسرار التجارية – الشفرات المصدرية للبرمجيات، وتركيبات المنتجات، والخوارزميات المملوكة للشركة، ووثائقها التقنية الداخلية؛
• كلمات المرور وبيانات الوصول – مفاتيح API، وبيانات تسجيل الدخول، ورموز المصادقة، وبيانات بطاقات الدفع، ومفاتيح التشفير بجميع أنواعها؛
• المواد المحمية بحقوق النشر – النصوص الكاملة للكتب أو المقالات العلمية المدفوعة أو النصوص المكتوبة التي لا يملك المستخدم ترخيصًا مناسبًا لاستخدامها؛
• المحتوى غير القانوني – المواد التي تروّج للعنف أو الكراهية، أو تتضمن تعليمات لارتكاب أفعال مخالفة للقانون.

ماذا يحدث للبيانات التي تُدخلها إلى أدوات الذكاء الاصطناعي؟

تخضع البيانات المُرسلة إلى مزوّدي الخدمات السحابية لمراحل متعددة من المعالجة والتحليل. ولا تنتهي دورة حياة هذه المعلومات بمجرد إنشاء الرد.

تدريب النماذج

كثيرًا ما تُستخدم البيانات المُدخلة إلى الإصدارات الاستهلاكية المعتادة من أدوات الذكاء الاصطناعي التوليدي لتحسين النماذج. وهذا يعني أن المعلومات المُدخلة قد تؤثر في أوزان الشبكة العصبية، وقد تظهر نظريًا لاحقًا ضمن ردّ يُقدَّم لمستخدم آخر.

المراجعة البشرية والإشراف على المحتوى

إلى جانب المعالجة الآلية، تستخدم أنظمة الذكاء الاصطناعي مرشحات أمان. وإذا صنّفت الخوارزمية طلبًا على أنه مريب، كأن ترى أنه يخالف شروط الاستخدام، فقد تُعلَّم المحادثة وتُحال إلى مراجعة بشرية. وعندئذ قد يطّلع موظفو مزوّد الخدمة أو مراجعون خارجيون، يُعرفون بمُصنِّفي البيانات، مباشرةً على محتواها لتحسين آليات الإشراف.

تخزين البيانات والنسخ الاحتياطية

يحتفظ مزوّدو خدمات الذكاء الاصطناعي بسجلات المحادثات على خوادمهم لضمان استمرارية الخدمة وتشخيص الأخطاء والحفاظ على سياق الجلسات اللاحقة. ومن المهم أن حذف المستخدم لمحادثة من الواجهة لا يعني بالضرورة إزالتها فورًا من الخوادم. فقد تبقى البيانات في أنظمة النسخ الاحتياطي لدى المزوّد لفترة محددة، ما يزيد خطر انكشاف المعلومات السرية إذا تعرّضت البنية السحابية لهجوم إلكتروني ناجح.

الحسابات الشخصية وحسابات الشركات: كيف يختلف مستوى الحماية؟

الحسابات الشخصية العادية، المجانية والمدفوعة، في كثير من الخدمات الشائعة تعالج المعلومات المُرسلة إليها افتراضيًا لأغراض تدريب النماذج. لذلك، قد تؤدي مشاركة موارد سرية عبرها إلى فقدان السيطرة على تلك المعلومات.

أما بيئات الأعمال والمؤسسات، مثل حسابات Enterprise والخدمات المُشغَّلة في سُحب خاصة عبر واجهات API لمزوّدين مثل Microsoft Azure وAWS وGoogle Cloud، فتطبّق معايير حماية أكثر صرامة. ويقدّم المزوّدون فيها التزامات بالامتثال لمعايير الأمان، مثل ISO 27001 وSOC 2، وللوائح حماية البيانات مثل GDPR، ويبيّنون في اتفاقيات الخدمة ومعالجة البيانات (SLA/DPA) أن بيانات العملاء لا تُستخدم لتدريب النماذج الأساسية المتاحة للجمهور. وقد تكون القيود على إدخال البيانات أقل صرامة في هذه البيئات، لكنها تظل تتطلب سياسة لإدارة المخاطر وضبط صلاحيات الوصول.

ما المعلومات التي يمكن إدخالها إلى أدوات الذكاء الاصطناعي بأمان؟

رغم القيود العديدة، يمكن إدخال أنواع واسعة من المعلومات غير الحساسة إلى هذه الأدوات، ومنها:

• المواد المتاحة للجمهور – المقالات المنشورة في مصادر مفتوحة، وتدوينات المدونات، والتقارير السوقية العامة، والنصوص القانونية، ومحتوى المواقع الإلكترونية مثل ويكيبيديا؛
• المعلومات غير السرية – التعليمات العامة، والأسئلة عن المفاهيم النظرية، وقواعد اللغة والإملاء، والمعادلات الرياضية، والاستفسارات المعجمية؛
• مقتطفات الوثائق بعد إزالة بيانات التعريف – قوالب الخطابات والعقود ومقاطع الشفرة البرمجية، بشرط إزالة المتغيرات المميِّزة والمفاتيح وأسماء العملاء وتفاصيل البنية الداخلية منها بالكامل؛
• نصوصك الإبداعية – مسودات الرسائل الإلكترونية، ومنشورات وسائل التواصل الاجتماعي، ومخططات العروض التقديمية، والمقالات التي لا تتضمن بيانات عمل حساسة؛
• مجموعات البيانات المفتوحة – البيانات الاصطناعية أو الإحصاءات المنشورة في مستودعات عامة، والمستخدمة لتعلّم التحليل والتنسيق.

كيف تزيل بيانات التعريف من الرسائل والملفات قبل إرسالها إلى الذكاء الاصطناعي؟

استبدال المعرّفات بقيم بديلة

تعتمد هذه الطريقة على استبدال البيانات الحساسة بمعرّفات مصطنعة. فمثلًا، يمكن استبدال اسم «أحمد علي» بالوسم “[العميل_1]”، واسم «شركة الأفق» بالوسم “[المؤسسة_أ]”. وهكذا يحتفظ المستند ببنيته وصياغته وسياقه ليستطيع النموذج اللغوي التعامل معه، دون كشف هوية الأشخاص أو الجهات الأصلية.

تقنيات إخفاء المعلومات الحساسة

يعني الإخفاء حجب سلاسل الأحرف الحساسة مباشرةً، وغالبًا باستبدال جزء منها برموز خاصة، مثل رقم البطاقة 4532 **** **** ****. ومن الأساليب الفعّالة أيضًا تعميم البيانات: بدلًا من ذكر راتب محدد، مثل 4,500 دولار أمريكي، يُذكر نطاق تقريبي، مثل «راتب يتراوح بين 4,000 و5,000 دولار أمريكي». ويساعد ذلك على الحدّ من خطر إعادة تحديد هوية صاحب البيانات.

أتمتة العملية باستخدام أدوات DLP وRegEx

قد يؤدي تنقيح النصوص الطويلة يدويًا إلى إغفال بعض المعلومات. لذلك تستخدم البيئات المهنية نصوصًا برمجية قائمة على التعابير النمطية (RegEx)، أو أنظمة منع تسرّب البيانات (DLP). ويمكن لهذه الأدوات فحص الطلب تلقائيًا قبل إرساله، ثم رصد السلاسل التي تطابق أنماط أرقام الهوية الوطنية أو أرقام التسجيل الضريبي أو عناوين البريد الإلكتروني أو أرقام الحسابات المصرفية، وحظرها أو استبدالها.

كيف تمنع استخدام بياناتك لتدريب نماذج الذكاء الاصطناعي؟

يشمل الحدّ من مخاطر مشاركة المعلومات مع أدوات الذكاء الاصطناعي ضبط إعدادات الأداة نفسها. وتتيح معظم الشركات المزوّدة خيار إيقاف مشاركة المحتوى لأغراض التدريب.

• ChatGPT (OpenAI) – ضمن إعدادات الحساب Settings، افتح قسم Data controls وأوقف خيار Improve the model for everyone. يؤدي ذلك إلى تعطيل استخدام النصوص التي تُدخلها لتدريب النموذج. وفي الواجهة الحالية، لا تؤدي هذه الخطوة إلى حذف المحادثات من عرض المستخدم؛ إذ يظل سجلها متاحًا. وبصرف النظر عن هذا الإعداد، تحتفظ OpenAI بسجلات المحادثات على خوادمها لمدة 30 يومًا لأغراض رصد إساءة الاستخدام والأمان قبل حذفها نهائيًا.
• Gemini (Google) – أوقف خيار Gemini Apps Activity ضمن إعدادات الخصوصية. وبذلك لا تُحفَظ المحادثات الجديدة في حساب Google ولا تُستخدم لتدريب النماذج. لكن هذا التغيير لا يمحو السجلات فورًا من بنية المزوّد؛ إذ تحتفظ بها Google لمدة تصل إلى 72 ساعة لأغراض أمن الخدمة.
• Claude (Anthropic) – تستخدم الإعدادات الافتراضية الحالية في الإصدارات الاستهلاكية المجانية والعادية البيانات المُدخلة لتحسين النماذج. وهذا تغيير ملحوظ مقارنةً بالفترة الأولى للشركة، حين أكدت Anthropic أنها لا تستخدم محادثات المستخدمين في التدريب. لتعطيل ذلك، انتقل إلى قسم الخصوصية في إعدادات الحساب وأوقف خيار Help improve Claude.

تذكّر أن تغييرات إعدادات الخصوصية وإيقاف الموافقة على التدريب لا تسري إلا على البيانات التي تُرسل بعد تغييرها. أما المعلومات التي أُرسلت قبل ذلك ودخلت بالفعل في دورة تدريب النموذج، فلا يزيلها تغيير الإعدادات من النموذج.