أعلنت جوجل أن ملخصات الذكاء الاصطناعي التي تقدم لمحات سريعة عن معلومات أساسية في موضوع محدد تكون عادة مفيدة وموثوقة. وتوضح الشركة أنها تستخدم تقنيات الذكاء الاصطناعي التوليدي لتحسين سرعة الوصول إلى الإجابة. وفي تقرير عالمي حذر من مخاطر المعلومات الصحية المضللة المرتبطة بهذه الملخصات، أشار إلى أن النتائج قد تقود إلى قرارات علاجية غير سليمة. كما أوردت أمثلة توضح كيف قد تكون النصائح الواردة في الملخصات خطرة، مثل توجيه مرضى سرطان البنكرياس لتجنب أطعمة غنية بالدهون بما قد يعرّضهم للخطر.
وقالت صحيفة الغارديان في تقرير لها إن ملخصات الذكاء الاصطناعي قد تضلل المستهلكين وتؤدي إلى قرارات صحية خاطئة. وأشارت إلى وجود أمثلة محددة أظهرت أن نتائج الملخصات قد تكون غير دقيقة في قضايا صحية حقيقية، بما في ذلك تفسيرات تتعلق بوظائف الكبد وحالة الأمراض. وصرّحت آنا جويل، مديرة الدعم والبحث في مؤسسة سرطان البنكرياس في المملكة المتحدة، بأن نصح المرضى بتجنب الأطعمة الغنية بالدهون أمر خاطئ تمامًا، وأن اتباع ذلك قد يعرّض فرص التعافي للخطر. وأضافت باميلا هيلي، الرئيسة التنفيذية لمؤسسة الكبد البريطانية، أن أعراض أمراض الكبد غالباً لا تطرأ في المراحل المبكرة، لذا من المهم الخضوع للفحص، بينما ما تعتبره تقارير الذكاء الاصطناعي “طبيعيًا” قد يختلف عن الواقع.
مخاوف من بيانات الذكاء الاصطناعي
تأتي المخاوف من أن بيانات الملخصات قد تعكس تحيزات وتوجه المستخدمين نحو مصادر غير مناسبة. وقالت صوفي راندال، مديرة منتدى معلومات المرضى، إن أمثلة الملخصات أظهرت أن “نظرة عامة الذكاء الاصطناعي من جوجل” قد تضع معلومات صحية غير دقيقة في مقدمة نتائج البحث، وهو ما يمثل مخاطر صحية كبيرة. وأعرب ستيفن باكلي، رئيس قسم المعلومات في مؤسسة مايند الخيرية، عن قلقه من أن ملخصات الذكاء الاصطناعي لحالات مثل الذهان واضطرابات الأكل قد تقدم نصائح خطيرة وقد تدفع الناس إلى تجنب طلب المساعدة. أكدت جوجل أن غالبية الملخصات دقيقة وتعمل على تحسين جودتها، وأنه إذا أساء البرنامج تفسير المحتوى أو أغفل السياق، فإنها ستتخذ الإجراءات المناسبة وفق سياساتها.
وأضافت الشركة أنها تستثمر بشكل كبير في جودة مراجعات الذكاء الاصطناعي، ولا سيما في موضوعات الصحة، وأن معدل دقة الملخصات يعادل معدل دقة ميزات البحث الأخرى لديها. كما قالت المتحدثة باسم جوجل إن الغالبية العظمى من الملخصات دقيقة وتخضع للتحسين المستمر، وتؤكد أنها ستتخذ إجراءات حين يسيء التفسير أو يغفل السياق وفقاً لسياساتها.