في خضم الاتهامات التي تواجهها “جوجل” بشأن نموذج الذكاء الاصطناعي الخاص بها وقراءة الملفات الخاصة، صرحت الشركة بأن “جيميناي” يمكنه قراءة وتلخيص هذا النوع من البيانات الحساسة في الوقت الفعلي – ولكن فقط بموافقة صريحة من مستخدمي “Workspace”.
أكد أحد مديري الاتصال في “جوجل” أن “لا التلخيص ولا الوثيقة نفسها يتم تخزينهما”.
بدأت المشكلة عندما نشر كيفن بانكستون، مستشار أول في حوكمة الذكاء الاصطناعي في مركز الديمقراطية والتكنولوجيا، تغريدة أشار فيها إلى أنه فتح إقرار ضريبي في “مستندات جوجل”، وقام “جيميناي” فورًا بتلخيصه دون إذنه.
اقرأ/ي أيضاً: نوبيا Z60S برو.. مواصفات مدهشة قبل الإطلاق الرسمي
قال بانكستون: “إذًا… جيميناي يقوم تلقائيًا بقراءة حتى الوثائق الخاصة التي أفتحها في مستندات جوجل؟ ماذا يحدث يا جماعة؟ لم أطلب هذا. الآن يجب علي العثور على إعدادات جديدة لم يتم إعلامي بها لإيقاف هذا الأمر”.
وأوضح بانكستون أن هذا يثير القلق نظرًا لسجل “جوجل” في تسريب المحادثات الخاصة مع أدوات الذكاء الاصطناعي في نتائج البحث العامة.
في سلسلة تغريدات طويلة، شرح بانكستون صعوباته وإحباطه في العثور على الإعدادات الصحيحة لتعطيل هذه “الميزة”. حاول سؤال “جيميناي” نفسه عن مكان العثور على إعدادات الخصوصية، لكن ذلك لم يفلح أيضًا.
وفي الوقت نفسه، بدا أن الذكاء الاصطناعي كان لديه وصول إلى أكثر من مجرد وثائق بانكستون الضريبية. قال: “عند إجراء المزيد من الاختبارات، يبدو أن هذا يحدث مع أي ملف PDF أفتحه من Drive. لحسن الحظ، لم يحدث ذلك (بعد؟) تلقائيًا مع مستندات جوجل”.
استغرق الأمر قرابة الأسبوع ومحادثات مع موظفين حقيقيين في “جوجل” قبل أن يتمكن بانكستون، الذي يدرس قانون الذكاء الاصطناعي في جامعة جورجتاون، من حل المشكلة – وهذا لا يبشر بالخير للمستخدمين العاديين الذين لا يمتلكون خبرة بانكستون التقنية ولا يمكنهم جذب انتباه “جوجل” عندما تسوء الأمور.
قبل عام، سجل بانكستون للمشاركة في مختبرات “Workspace” الخاصة بـ “جوجل”، وهو برنامج يتيح للمستخدمين تجربة ميزات الذكاء الاصطناعي الجديدة وتقديم الملاحظات. إحدى هذه الميزات هي لوحة جانبية تلخص الوثائق.
وفقًا لما ذكره كل من “جوجل” وبانكستون، فإن بانكستون كان يستخدم بالفعل “جيميناي” عبر اللوحة الجانبية في “Google Drive” لملفات PDF. بمجرد تفعيل هذه اللوحة الجانبية، يتم تلخيص الوثيقة المفتوحة في الوقت الفعلي. بالإضافة إلى ذلك، يتم تلخيص كل ملف PDF يفتحه المستخدم بعد ذلك تلقائيًا حتى يتم إغلاق اللوحة الجانبية.
أكد المتحدث باسم “جوجل” أن “ما يحدث هو أنه بمجرد أن تبدأ في استخدام جيميناي، لدينا إعدادات تحترم تفضيلات المستخدم وتنتقل إلى الجلسات اللاحقة ضمن منتجاتنا”.
المتحدث أضاف أن الشركة أجرت محادثات جيدة مع بانكستون خلال الأسبوع الماضي، ونفت أن يكون نموذج الذكاء الاصطناعي الخاص بها يلتهم بيانات مستخدمي “Workspace”.
“أحد المفاهيم الخاطئة الكبيرة في الموضوع الأصلي هو فكرة أن هناك التهام للبيانات. هذا غير صحيح. عندما يتم تمكين الميزة، يمكن استخدام محتوى الوثيقة المفتوحة لتوليد ملخص في الوقت الفعلي، ولكن لا يتم تخزين الملخص ولا الوثيقة نفسها”.
رفض بانكستون التعليق بخلاف سلسلة تغريداته التي بدأت في 10 تموز/يوليو وانتهت في 16 تموز/يوليو. في بعض التغريدات اللاحقة، أشار أيضًا إلى أن “جوجل” لا تحتفظ بالبيانات التي يلخصها “جيميناي”، مما وصفه بأنه “جيد وسيء في نفس الوقت من منظور الخصوصية”.
التشويش أيضًا يتعلق بالفرق بين روبوت المحادثة “جيميناي” وتكاملات “جيميناي”، حيث قال بانكستون: “تمديدات تطبيق جيميناي تتحكم فقط فيما إذا كان يمكن لروبوت المحادثة الوصول إلى البيانات من تطبيقات أخرى مثل Workspace أو يوتيوب لتخصيص تجربة المحادثة. بشكل محير، لا تتحكم هذه التمديدات في ميزات “جيميناي” داخل تلك التطبيقات”.
الخبر الجيد هو أن هذا يعني أن جميع التلخيصات التي أنشأها المستخدمون الذين لم يغلقوا اللوحة الجانبية لا يتم حفظها في السجلات.
ولكن من ناحية أخرى، أضاف بانكستون أن “هذا يزيد من التشويش بين جيميناي داخل التطبيقات وروبوت المحادثة جيميناي، حيث يعاملان البيانات بشكل مختلف”.
