La صعود الذكاء الاصطناعي التوليدي على أجهزة iPhone و iPad و Mac إنها تُغير تمامًا طريقة كتابتنا، وبحثنا عن المعلومات، وإدارة حياتنا اليومية. وقد انضمت آبل إلى هذه الثورة من خلال Apple Intelligence، وهي مجموعة من الميزات التي تعد بأن تكون بالغة القوة، ولكنها تُثير أيضًا تساؤلات منطقية حول مصير بياناتنا الشخصية، وفي بيئات العمل، حول مصير المعلومات المؤسسية الحساسة.
في هذا السياق، من المهم فهم ما هي الإجراءات الأمنية الموجودة بالفعل في نظام أبل البيئي؟ما هي المخاطر المتبقية، وما هي الضوابط الإضافية التي يمكننا تطبيقها كمستخدمين أفراد، أو مديري تقنية معلومات، أو شركات تتعامل مع بيانات سرية؟ سنشرح بهدوء ودقة كل ما تحتاجون معرفته لاستخدام الذكاء الاصطناعي التوليدي على أجهزة Apple بمسؤولية وأمان.
ما هي تقنية Apple Intelligence وكيف تعمل من حيث الخصوصية؟
تُعرّف شركة آبل تقنية Apple Intelligence بأنها نظام وظائف الذكاء الاصطناعي التوليدي المدمج في أنظمة التشغيل الخاصة بهصُممت لمساعدتك في المهام اليومية: إعادة كتابة رسائل البريد الإلكتروني والملاحظات، وتلخيص الرسائل والإشعارات، وإنشاء ذكريات شخصية في تطبيق الصور، وإنشاء الصور (ملعب الصور، وجينموجي، وعصا الرسومات) أو حتى مساعدة تطبيقات الطرف الثالث من خلال نماذج اللغة على الجهاز.
لتقديم هذه "المعلومات الشخصية"، Apple Intelligence يعتمد ذلك على المعلومات الموجودة بالفعل على جهازك.التقويم، والتطبيقات الأكثر استخدامًا، ومحتوى الرسائل، ورسائل البريد الإلكتروني، وغيرها من البيانات المحلية. يكمن جوهر الأمر هنا في أن النظام يحاول تحديد البيانات الضرورية فقط لإتمام كل مهمة، دون أن تضطر آبل إلى تخزينها على خوادمها أو الوصول إليها بشكل دائم.
كلما أمكن ذلك، تقوم شركة Apple Intelligence بتشغيل نماذج الذكاء الاصطناعي الخاصة بها. محليًا بالكاملعلى سبيل المثال، يتم إنشاء ملخصات رسائل البريد الإلكتروني والرسائل والإشعارات باستخدام قوالب مدمجة في الجهاز، بحيث لا تغادر هذه النصوص جهاز iPhone أو iPad أو Mac الخاص بك أبدًا.
لكن بعض الطلبات تتطلب قدرة حاسوبية أكبر مما يمكن للجهاز توفيره. في هذه الحالات، ما يسمى بـ الحوسبة السحابية الخاصة: نظام معالجة خوادم قائم على شريحة أبل مصمم للمهام المعقدة، مع الحفاظ على مستوى عالٍ جدًا من الخصوصية.
عند بدء مهمة ما، يقوم نموذج محلي بتحليل ما إذا كان بإمكانه حلها بنفسه. إذا لم يكن كذلك، يقوم الجهاز بإرسالها إلى الحوسبة السحابية الخاصة. البيانات الأساسية فقط لحل الطلب. وتؤكد آبل أنها لا تخزن هذه البيانات أو تطلع عليها؛ بل تتم معالجتها لإنشاء الاستجابة، ثم تُعاد النتيجة إلى الجهاز عبر قناة آمنة، وتُحذف المعلومات من الخوادم.
الذكاء الاصطناعي على الجهاز والحوسبة السحابية الخاصة: درع أبل المزدوج
تتمثل إحدى الركائز الأساسية لاستراتيجية شركة آبل في تقسيم العمل بين المعالجة على الجهاز والحوسبة السحابية الخاصة، بحيث تبقى معظم المعلومات "في جيبك" ولا ينتقل إلى خوادم أبل إلا ما هو ضروري للغاية.
الميزات الجديدة والأكثر تطوراً - مثل أدوات الكتابة، وعصا الصور، أو Genmoji - متوفرة فقط في أجهزة حديثة ذات سعة كافية (على سبيل المثال، iPhone 16 أو iPhone 15 Pro/Max وما يماثلهما من طرازات iPad وMac). والسبب هو أن تقنية Apple Intelligence تحاول إجراء الجزء الأكبر من المعالجة محليًا، مستفيدةً من أحدث الأجهزة.
بالنسبة للعمليات التي لا يمكن إتمامها على الجهاز، يتم اللجوء إلى الحوسبة السحابية الخاصة (PCC). وقد صممت شركة آبل الحوسبة السحابية الخاصة (PCC) مع عدد من الميزات. أهداف أمنية واضحة للغاية:
- الحوسبة غير المعتمدة على الحالة لبيانات المستخدمتُستخدم البيانات فقط لتلبية الطلب المحدد، ولا يتم الاحتفاظ بأي أثر بعد إرجاع الاستجابة.
- الضمانات المطبقة والقابلة للتحققيجب على جميع مكونات النظام الحيوية احترام ضمانات الخصوصية والأمان المحددة.
- لا يوجد وصول مميز لوقت التشغيلحتى في حل الحوادث، لا يتم النظر في تجاوز حماية الخصوصية.
- استحالة الهجوم المستهدفتم تصميم البنية بحيث يصعب على المهاجم تركيز جهوده على مستخدم معين.
- شفافية قابلة للتحققبإمكان باحثي الأمن الخارجيين مراجعة البرامج التي تعمل على هذه الخوادم للتأكد من الوفاء بالوعود.
هذا المزيج من نموذج أصغر على الجهاز ونموذج أكثر قوة في السحابة الخاصة يُمكّن هذا شركة آبل من تقديم ميزات ذكاء اصطناعي متقدمة دون اللجوء إلى نموذج "تحميل كل شيء إلى الخادم ومراقبة النتائج" التقليدي. ومع ذلك، وكما سنرى لاحقًا، لا تزال هناك مخاطر ومخاوف تُثيرها المؤسسات والمستخدمون المتقدمون.
أمان الخوادم المزودة بشرائح أبل والضوابط التقنية
تعتمد الحوسبة السحابية الخاصة على خوادم مزودة بشرائح أبل مصممة مع التركيز على الأمانهذه ليست أجهزة عادية في أي مركز بيانات قديم، بل هي بنية تحتية متوافقة مع نموذج الحماية نفسه الموجود في أجهزة iPhone أو iPad.
في هذه الخوادم، يكون مكون Secure Enclave مسؤولاً عن حماية مفاتيح التشفير الحساسة تمامًا كما هو الحال على أجهزة المستخدمين. هذا يعني أنه حتى لو تمكن شخص ما من الوصول المادي إلى الخوادم، فإن استخراج المفاتيح أو البيانات المشفرة سيصبح في غاية الصعوبة.
علاوة على ذلك، يضمن نظام التشغيل الآمن ما يلي: قم بتشغيل نظام تشغيل موقّع ومعتمد من قبل شركة Apple فقط.كما هو الحال في نظام iOS. إذا تم تعديل برنامج الخادم أو اختراقه، فإن خاصية التمهيد الآمن ستمنع تحميله.
يضمن نظام مراقبة التنفيذ الموثوق به تنفيذ برامج معينة فقط. رمز موقّع ومُدقّقيمنع النظام محاولات إدخال برامج خبيثة. إضافةً إلى ذلك، توجد آلية للتحقق: إذ يمكن لجهاز المستخدم التحقق بشكل آمن من هوية وتكوين مجموعة الحوسبة السحابية الخاصة قبل إرسال البيانات إليها.
كطبقة إضافية من الثقة، تسمح شركة آبل بذلك يقوم خبراء مستقلون في مجال الأمن والخصوصية بفحص الشفرة والتي تعمل على هذه الخوادم. هذه الشفافية المحدودة، ولكنها حقيقية، تستجيب للحاجة إلى إثبات أن الوعد بعدم تخزين أو استغلال البيانات المرسلة إلى PCC ليس مجرد بيان تسويقي.
خيارات التحكم في البيانات والشفافية والتدقيق من الجهاز
من جانب المستخدم، قامت شركة آبل بتمكين العديد من الميزات لـ فهم أفضل لما يتم فعله ببياناتك وجزئياً، للتحكم في هذا الاستخدام. ومن أكثرها إثارة للاهتمام ما يُسمى بتقرير أبل الاستخباراتي.
في أنظمة iOS و iPadOS و visionOS، يمكنك تفعيل هذا التسجيل بالانتقال إلى الإعدادات > الخصوصية والأمان > تقرير استخبارات Apple واختيار المدة المطلوبة. على أجهزة ماك، يكون المسار هو إعدادات النظام > الخصوصية والأمان > تقرير ذكاء أبل. بعد استخدام ميزات الذكاء الاصطناعي، يمكنك تصدير ملف يحتوي على الطلبات التي أرسلها جهازك إلى الحوسبة السحابية الخاصة.
هذا السجل يوضح لك ما هي الطلبات التي تمت معالجتها في مركز PCC؟يشمل ذلك الطلبات الصادرة من نظام watchOS، وإذا كنت قد فعّلت إضافة ChatGPT، يشمل أيضًا الطلبات المُرسلة إلى ChatGPT عبر Siri أو أدوات الكتابة أو الذكاء البصري. إنها طريقة سهلة لمعرفة عدد مرات خروج بياناتك من الجهاز والأغراض التي استُخدمت من أجلها.
عندما يرسل الجهاز طلبًا إلى السحابة الخاصة، تضمن شركة آبل أن لا يجمع إلا المعلومات الضرورية للغاية.يشمل ذلك معلومات مثل الحجم التقريبي للطلب والاستجابة، والوظائف المستخدمة، ووقت المعالجة. لا تتضمن هذه البيانات محتوى طلبك أو النتيجة المُعادة، وهي غير مرتبطة بحساب Apple الخاص بك أو أي بيانات أخرى قد تكون لديك من خدمات أخرى.
إذا وافقت على مشاركة بيانات تحليلات الجهاز، فقد تطبق Apple تقنيات الحفاظ على الخصوصية لـ الحصول على الاتجاهات الإجماليةبما في ذلك المحتوى الذي تعالجه Apple Intelligence، بهدف تحسين الخدمة. تكمن روعة هذا النهج في سعيهم لتجنب جمع معلومات تعريفية من المستخدمين الأفراد، على الرغم من أنه يمكنك دائمًا تعطيل هذا الخيار في الإعدادات > الخصوصية والأمان > التحليلات والتحسينات (أو ما يعادلها على نظام macOS).
إدارة ميزات الذكاء الاصطناعي وتقييدها على أجهزة iPhone والأجهزة الأخرى
أما فيما يتعلق بالتحكمات العملية، فإن نظام وقت الشاشة من Apple يسمح تقييد الوصول إلى بعض وظائف إنشاء الصور مثل Image Playground وGenmoji وأداة الرسم. يُعدّ هذا مفيدًا بشكل خاص إذا كنت تشارك الجهاز مع قاصرين أو إذا كنت، كشركة، ترغب في تقييد استخدامات معينة.
لتقييد هذه الوظائف، يكون المسار بسيطاً:
- افتح التطبيق إعدادات على iPhone.
- أدخل في وقت الاستخدام.
- TOCA قيود المحتوى والخصوصية وتفعيل الخيار.
- اذهب إلى ذكاء أبل وسيري > إنشاء الصور ثم اختر بين السماح أو عدم السماح.
من ناحية أخرى، تتضمن تقنية Apple Intelligence ميزات مثل ملخصات الإشعارات التلقائية أو تحليل رسائل البريد الإلكتروني والرسائل النصية. على الرغم من أنها مصممة لمساعدتك في ترتيب المعلومات حسب الأولوية، فقد تم رصد حالات يمكن فيها للملخصات أن تشوه الرسالة الأصلية، مما يؤدي إلى إنشاء عناوين أو مقتطفات لا تعكس الواقع بشكل كامل.
بالإضافة إلى ذلك، يتم تفعيل ميزة Apple Intelligence افتراضيًا في بعض الطرازات، مثل iPhone 16 و iPhone 15 Pro/Max، و يشغل حوالي 7 جيجابايت من مساحة التخزينقد يؤثر هذا على كل من المساحة المتاحة، وربما على الأداء، دون أن يكون المستخدم على دراية كاملة بذلك إلا إذا قام بالتحقق من خيارات التكوين.
إذا كنت تفضل توخي الحذر أثناء كون الميزة لا تزال في مرحلة تجريبية، فإن الإجراء الحكيم هو قم بمراجعة وتعطيل ميزة Apple Intelligence يدويًا من الإعدادات > الخصوصية والأمان، تحقق من الوحدات النشطة وما هي الأذونات التي تتمتع بها على تطبيقاتك وبياناتك.
مخاطر الذكاء الاصطناعي التوليدي على الشركات وبياناتها في شركة آبل
وصول تقنية Apple Intelligence إلى أجهزة المؤسسات يثير مخاوف محددة لمسؤولي الأمن والخصوصيةإن فكرة امتلاك الذكاء الاصطناعي القدرة على رؤية رسائل البريد الإلكتروني أو المستندات أو التطبيقات الداخلية أو إشعارات الشركات ليست شيئًا يمكن الاستهانة به.
من بين أكثر المخاوف شيوعاً التي ذكرتها المنظمات والمستخدمون المتقدمون ما يلي:
- وضوح بشأن البيانات التي يمكن لـ Apple Intelligence رؤيتها على الجهاز وما هو الجزء من تلك المعلومات الذي يمكن أن يصل، ولو لفترة وجيزة، إلى السحابة الخاصة.
- إمكانية الاطلاع على ما تتم معالجته محليًا وما يتم نقله إلى السحابة، وذلك لوضع سياسات داخلية تتعلق بأنواع البيانات المسموح بها.
- التحكم في استخدام بيانات الشركة لتدريب النماذجحتى لو ادعت شركة آبل أنها لا تستخدم أجزاءً فردية من المحتوى لهذا الغرض.
- ضمانات حقيقية فيما يتعلق بخصوصية نموذج "الحوسبة السحابية الخاصة" وقدرتها على الصمود في وجه الهجمات المستهدفة أو الوصول الداخلي غير المصرح به.
- معلومات حول التجميع، وإخفاء الهوية، والتشفير، وفترات الاحتفاظ من أي بيانات تم إنشاؤها أو بيانات وصفية مرتبطة بها.
- خيار تعطيل أو إلغاء استخدام ميزات الذكاء الاصطناعي على المستوى التنظيمي إذا لم يتوافق نموذج الخصوصية مع سياسات الشركة نفسها.
لا تقتصر هذه المخاوف على قسم الاستخبارات في شركة آبل، بل تؤثر على الجميع. أداة الذكاء الاصطناعي التوليدي الموجودة في هواتف الشركات أو في نظام إحضار الأجهزة الشخصية (BYOD)إن خطر تسريب المعلومات، على سبيل المثال من خلال النصوص التي يتم لصقها في أدوات الكتابة الآلية، هو خطر حقيقي ويجب إدارته بسياسات واضحة وضوابط تقنية.
دور إدارة الأجهزة المحمولة (MDM) وإدارة تطبيقات الأجهزة المحمولة (MAM) وحلول مثل بلاك بيري في أجهزة أبل
غالباً ما تعتمد الشركات التي تدير أساطيل أجهزة iPhone مركزياً على حلول من إدارة الأجهزة المحمولة (MDM) أو إدارة تطبيقات الأجهزة المحمولة (MAM). وقد بدأت شركات تصنيع مثل بلاك بيري بالفعل في دمج ضوابط محددة لذكاء أبل في سياسات الأمان الخاصة بها.
في عمليات النشر التي تتم فيها إدارة الأجهزة بالكامل بواسطة نظام إدارة الأجهزة المحمولة (MDM)، أضافت بلاك بيري ضوابط السياسة لميزات مثل أدوات الكتابةيسمح ذلك للمسؤولين بتقييد أو تعطيل بعض قدرات الذكاء الاصطناعي عن بعد، بما يتماشى مع متطلبات الامتثال والسرية لكل مؤسسة.
في بيئات إدارة التطبيقات فقط (MAM/BYOD)، حيث يكون الجهاز ملكًا للموظف ولكن تطبيقات الشركة معزولة، تم تقديم ما يلي عناصر التحكم على مستوى التطبيقيسمح هذا، على سبيل المثال، بحظر استخدام ميزات Apple Intelligence داخل تطبيقات إنتاجية BlackBerry الآمنة، مع الحفاظ على حرية المستخدم في تطبيقاته الشخصية.
يؤدي هذا النهج الهجين إلى حالات مثل:
- تقييد تجربة أدوات الكتابة على الجهاز بأكمله لمنع أي محتوى خاص بالشركات من التسلل إلى وظائف الذكاء الاصطناعي.
- لا تسمح باستخدام أدوات الكتابة إلا خارج البيئة الآمنةبحيث لا يمكن إرسال المستندات ورسائل البريد الإلكتروني المحمية إلى أي نموذج، سواء كان محليًا أو في السحابة، دون المرور عبر مرشحات الأمان الخاصة بالشركة.
من خلال دمج هذه السياسات مع بنية Apple Intelligence الخاصة، يمكن للشركات الموازنة بين الإنتاجية والسلامةتكييف مستويات التحكم مع مختلف ملفات تعريف المستخدمين أو مجالات العمل.
التهديدات العامة للذكاء الاصطناعي التوليدي في الأجهزة المحمولة وأهمية التشفير
وبعيدًا عن شركة آبل، فإن الذكاء الاصطناعي التوليدي في الأجهزة المحمولة (مثل ChatGPT وDALL·E والعديد من المساعدين) يجلب معه سلسلة من مخاطر الخصوصية المعروفةيتم تدريب العديد من النماذج باستخدام البيانات التي يدخلها المستخدمون دون فهم واضح لما سيتم فعله بها أو المدة التي سيتم الاحتفاظ بها فيها.
أحد أهم الشواغل هو جمع البيانات واستخدامها دون موافقة صريحة ومفهومةقد تؤدي النماذج الغامضة وسياسات الخصوصية المعقدة وخيارات التكوين المخفية إلى قيام المستخدمين بتقديم معلومات حساسة للغاية (مستندات العمل، والمحادثات الخاصة، والمواد الطبية) دون مراعاة العواقب.
ومن المخاطر الرئيسية الأخرى ما يلي: الثغرات التقنية في الأنظمة التي تخزن أو تعالج تلك البياناتإذا قامت تطبيقات الذكاء الاصطناعي التوليدية بتخزين السجلات أو المطالبات أو النتائج على الخوادم دون اتخاذ تدابير أمنية مناسبة، فقد يؤدي حادث الأمن السيبراني إلى كشف كميات كبيرة من المعلومات الشخصية أو معلومات الشركات.
ومما يثير القلق أيضا انعدام الشفافية في بعض المنصات فيما يتعلق بكيفية إعادة استخدام البيانات لتدريب النماذج، وما إذا كانت تتم مشاركتها مع أطراف ثالثة، أو ما إذا كانت الملفات الشخصية المشتقة تُباع، فإن الغموض في سياسات الاستخدام وشروط الخدمة يغذي انعدام الثقة ويجعل من الصعب على المستخدمين اتخاذ قرارات مستنيرة.
لتقليل مساحة الهجوم هذه، يتم اعتماد إجراءات تشفير قويةالتشفير التام بين الطرفين في الاتصالات، واستخدام بروتوكول TLS/SSL لنقل البيانات، والتخزين المشفر على الخوادم والأجهزة. بدون هذه الطبقات، تصبح باقي وعود الخصوصية بلا قيمة.
أبلبوت، وتدريب النماذج، والحق في الحد من التتبع
لا تكتفي شركة آبل بجمع البيانات من أجهزة المستخدمين فحسب: كما أنها تستخدم برنامج Applebot، وهو برنامج زحف الويب الخاص بها.، لجمع المعلومات المتاحة للجمهور على الإنترنت من أجل تدريب نماذجهم الأساسية التي تغذي وظائف الذكاء الاصطناعي التوليدي.
يمكن لمحرري المواقع الإلكترونية تحديد ذلك في ملفاتهم ملف robots.txt حتى لا يقوم برنامج Applebot بفهرسة محتوياته أو حتى لو تم فهرسة الموقع، فإنه لا يُستخدم لتدريب نماذج أبل. وبهذه الطريقة، يستطيع ناشرو المحتوى التحكم جزئيًا في دور مواقعهم الإلكترونية في تدريب الذكاء الاصطناعي.
لا يمكن لـ Applebot الوصول المحتوى المحمي ببيانات اعتماد أو جدران دفعوقبل استخدام البيانات التي يتم تتبعها لتدريب النماذج، تقوم شركة آبل بتطبيق مرشحات لإزالة المحتوى المبتذل أو منخفض الجودة، وتحاول استبعاد المواقع التي تجمع كميات كبيرة من البيانات الشخصية.
بالإضافة إلى ذلك، يتم تطبيق المرشحات التلقائية لـ إزالة المعلومات الشخصية التي يمكن تحديد هوية أصحابها مثل أرقام الضمان الاجتماعي أو معلومات بطاقات الائتمان التي قد تكون متاحة للعامة على الإنترنت. وتؤكد شركة آبل أنها لا تسعى إلى تحديد هوية أفراد معينين أو إنشاء ملفات تعريف شخصية من البيانات التي يتم جمعها.
إذا كان عنوان URL يحتوي على بياناتك الشخصية (على سبيل المثال، مدونة تحمل اسمك وتفاصيل حساسة) يمكنك معارضة استخدامه في التدريب على النماذج مُدمجة في ميزات الذكاء الاصطناعي التوليدي من Apple. ولتحقيق هذه الغاية، تُقدّم الشركة نموذج استفسار خاص بخصوص خصوصية Apple Intelligence، حيث يُنصح بتضمين عناوين URL محددة وبيانات دقيقة.
أفضل الممارسات للتصميم الآمن باستخدام نماذج الأساس في تطبيقات أبل
من وجهة نظر المطورين، قدمت شركة آبل هذا الهيكل نماذج المؤسسة لدمج الذكاء الاصطناعي التوليدي في تطبيقات iOS و iPadOS و macOS و visionOS. يوفر هذا الهيكل إمكانية الوصول إلى نموذج لغوي كبير، ولكنه مضغوط ومُحسَّن للتنفيذ على الجهاز، مع ما يقرب من 3.000 مليارات مُعامل.
هذا الحجم يفرض قيودًا واضحة: النموذج ليس لديه الكثير من المعرفة بالعالم باعتباره نموذجًا ضخمًا قائمًا على الحوسبة السحابية (مثل ChatGPT)، فهو لا يُحدَّث بالأحداث الأخيرة، وليس دقيقًا كالموسوعة. يُعدّ مثاليًا لمهام مثل التلخيص، وتصنيف النصوص، وإجراء محادثات بسيطة، وكتابة المسودات، أو إنشاء التصنيفات، ولكنه غير مناسب للحسابات المعقدة أو تقديم معلومات واقعية دون إشراف.
تصر شركة آبل على أنه إذا كانت الدقة في بيانات العالم الحقيقي مطلوبة، فيجب على المطور قم بتوفير المعلومات الموثقة في الموجه نفسه ومراجعة الاستجابات بدقة. علاوة على ذلك، يسمح الهيكل باستخدام "التوليد الموجه" لإجبار النموذج على الاستجابة بتنسيقات محددة (مصفوفات، أرقام، هياكل محددة) وبالتالي تقليل الأخطاء والسلوك التخميني.
قطعة رئيسية أخرى هي الهندسة السريعةيستجيب النموذج بشكل أفضل عند إعطائه تعليمات واضحة، ومهمة واحدة لكل توجيه، وعدد قليل من الأمثلة على النتيجة المرجوة. كما يمكن التحكم في طول النص وأسلوبه بتحديد "في ثلاث جمل"، أو "في بضع كلمات"، أو من خلال مطالبة النموذج بتبني دور معين ("كما لو كنت معلمًا صبورًا"، على سبيل المثال).
توفر Apple أيضًا وظيفة Playground في Xcode للمطورين جرب استخدام المطالبات مباشرة، حيث يمكنك رؤية استجابات النموذج على الفور وضبط التعليمات بدقة قبل دمجها في واجهة مستخدم تطبيقك.
طبقات الأمان والضوابط المدمجة في نماذج المؤسسة
لا يُترك أمن الذكاء الاصطناعي التوليدي المدمج في التطبيقات للصدفة. يتضمن إطار عمل نماذج المؤسسة ما يلي: أدوات تحكم مُدربة من Apple لحجب المحتوى الضار سواء عند مدخلات ومخرجات النموذج.
يتم أخذ التعليمات، وتوجيهات المطورين، ومدخلات المستخدمين في الاعتبار مدخلات النموذجوتخضع هذه البيانات لمرشحات تحجب المحتوى غير اللائق. وبالمثل، تخضع المخرجات المُولَّدة لضوابط إضافية لمنع النتائج الضارة، حتى لو تمكن أحد المدخلات من تجاوز هذه المرشحات.
عند حدوث خطأ أمني - على سبيل المثال، بسبب قيام النموذج بحظر طلب - توصي Apple التطبيقات إدارة هذه الإخفاقات بطريقة واضحة وغير متطفلة.إذا كانت وظيفة الذكاء الاصطناعي استباقية ولا تعتمد بشكل مباشر على إجراء المستخدم، فيمكن تجاهل الخطأ دون إشعار؛ أما إذا كان المستخدم قد بدأ الإجراء وينتظر، فمن المستحسن عرض رسالة أو تنبيه يوضح أنه لا يمكن معالجة الطلب وتقديم بدائل.
في هذا الإطار، يظل المطورون مسؤولين عن صمم تجربة آمنة وموثوقةتقترح شركة آبل التفكير في الأمن على أنه مجموعة من الطبقات، مثل الجبن السويسري: كل طبقة بها ثقوب، ولكن عندما يتم تكديس عدة طبقات، فمن غير المرجح أن تصطف جميع الثقوب وتسبب مشكلة خطيرة.
ستتضمن هذه المجموعة عناصر التحكم المدمجة في نماذج المؤسسة، والتعليمات المصاغة بعناية، وطرق تضمين مدخلات المستخدم في المطالبات (على سبيل المثال، من خلال الجمع بين النصوص المصممة مسبقًا ومقتطفات المستخدم)، والتدابير التخفيفية الخاصة بحالة الاستخدام، مثل تنبيهات الحساسية في تطبيق وصفات الطعام أو عوامل التصفية للمواضيع الحساسة في ألعاب المعلومات العامة.
معالجة مدخلات المستخدم، والتعاطف، وتقييم الذكاء الاصطناعي
إحدى النقاط الحساسة هي استخدام إدخال المستخدم كمطالبات مباشرةهذا أمر شائع في تطبيقات الدردشة الآلية أو تطبيقات اليوميات. هنا، لا يعرف المطور ما سيكتبه المستخدم: فقد يكون شيئًا بريئًا، أو قد يكون محتوى عدائيًا أو مؤذيًا للذات أو تلاعبًا يحاول فرض ردود فعل ضارة.
لتحسين الأمان، توصي شركة آبل بأن تتضمن تعليمات هذا الطراز ما يلي: إرشادات سلوكية صريحةعلى سبيل المثال، تعامل مع الرسائل السلبية بتعاطف ولطف، أو تجنب تقديم النصائح الطبية أو المالية أو القانونية. هذه التعليمات لها الأولوية على التوجيهات وتساعد في توجيه الاستجابات، مع أنها ليست مضمونة النتائج.
كما يُقترح أن تقلل التطبيقات من المخاطر عن طريق مطالبات محددة مسبقًا من بين تلك التي يختارها المستخدم، بدلاً من السماح بنص حر تمامًا، أو الجمع بين التعليمات الثابتة والنص الذي يقدمه الشخص، بحيث يتم الحفاظ على بعض التحكم في محور المحادثة.
وأخيرًا، تشجع شركة آبل المطورين على الاستثمار في التقييمات والاختبارات المنهجية: إنشاء مجموعات بيانات من المطالبات التي تغطي الحالات الشائعة والمشاكل الأمنية المحتملة، وأتمتة تنفيذها في التطبيق (باستخدام أدوات سطر الأوامر أو تطبيقات اختبار الواجهة)، ومراجعة الاستجابات يدويًا إذا كانت المجموعة صغيرة، أو استخدام نماذج أخرى لتقييمها إذا كانت كبيرة.
ينبغي أن تشمل هذه التقييمات الحالات السلبية وسيناريوهات الأخطاءيُمكّننا هذا من التحقق من أن التطبيق يتصرف بشكل متوقع عند مواجهة قيود أمنية أو استجابات فارغة. وبهذه الطريقة، نستطيع تتبع التحسينات والتراجعات بمرور الوقت مع تحسين المطالبات أو تحديثات Apple لنماذجها.
من خلال هذا النظام المتكامل - الذي يشمل المعالجة على الجهاز، والحوسبة السحابية الخاصة، والتشفير، وضوابط المحتوى، وأدوات الشفافية، والإدارة المركزية للشركات، وإرشادات التصميم الآمن - تسعى آبل إلى جعل تجربة الذكاء الاصطناعي التوليدي على أجهزتها قوية، ولكن الأهم من ذلك، موثوقة وتحترم الخصوصية. يكمن مفتاح الاستفادة منها بسلاسة في فهم هذه الطبقات، وتفعيل التقارير والإعدادات المناسبة، وعند الضرورة، تعطيل أو تقييد الميزات التي لا تتوافق مع مستوى المخاطر الشخصية أو المؤسسية.
