مخاطر الاعتماد على ملخصات الأخبار الذكية

تسعى كبرى الشركات مثل جوجل وأوبن أيه آي إلى إبهارنا بإدماج ميزات مدعومة بالذكاء الاصطناعي في حياتنا الرقمية، لكن من الصعب العثور على أداة ذكاء اصطناعي خالية من العيوب الكبيرة. من توجيهات بحث جوجل التي أخبرت أحد المستخدمين بتناول الغراء، إلى تجارب سامسونج مع الألعاب الرياضية التي تعاني من الهلاوس، هناك الكثير من الأدلة التي تشير إلى أن الذكاء الاصطناعي ليس بالثورة التي تأمل الشركات التقنية أن نعتقدها. ورغم أن العديد من الأخطاء التي يرتكبها الذكاء الاصطناعي قد لا تضر، إلا أن بعضها الآخر قد يحمل عواقب حقيقية.

ما هي المشاكل المتعلقة بملخصات الأخبار التي ينتجها الذكاء الاصطناعي؟

الهلاوس، التقرير المضلل، والتأويل

في ديسمبر 2024، طلبت هيئة الإذاعة البريطانية (بي بي سي) من أربعة مساعدين ذكاء اصطناعي بارزين (شات جي بي تي من أوبن أيه آي، كوبرلايت من مايكروسوفت، جيميني من جوجل، وPerplexity) الإجابة على 100 سؤال حول الأخبار باستخدام مصادر بي بي سي قدر الإمكان. إليك بعض النتائج:

• زعمت شات جي بي تي أن ريشي سوناك لا يزال في منصبه في ديسمبر 2024.
  • لكن ريشي سوناك ترك منصبه في 2 نوفمبر 2024.
• استشهدت Perplexity ببي بي سي لوصف تصرفات إسرائيل في الشرق الأوسط بأنها عدوانية.
  • بينما لم تستخدم بي بي سي هذا الوصف في تقاريرها حول النزاع.
• قال جيميني إن NHS لا توصي بالتدخين الإلكتروني كوسيلة للإقلاع عن التدخين.
  • بينما توصي NHS بالتدخين الإلكتروني كوسيلة للإقلاع عن التدخين.

هذه الأمثلة هي مجرد جزء من الدراسة الكاملة. الإحصائيات أكثر إدانة، حيث وُجد أن 34% من ردود جيميني، و27% من كوبرلايت، و17% من Perplexity، و15% من شات جي بي تي كانت قد أساءت تمثيل ردود بي بي سي.
حكيم باشا الحلقة 1

لماذا لا يستطيع الذكاء الاصطناعي تلخيص الأخبار بدقة؟

الذكاء الاصطناعي لا يتبع المعايير التحريرية الأساسية

تتأثر ملخصات الأخبار التي ينتجها الذكاء الاصطناعي بعيوب شائعة، ولكن طبيعة الأخبار تجعل هذه العيوب أكثر وضوحًا.

الذكاء الاصطناعي لا يمكنه متابعة الأحداث المتطورة بسرعة

بينما تسعى المؤسسات الإخبارية الموثوقة إلى تقديم تقارير دقيقة، فإن المقالات يمكن أن تصبح غير دقيقة بعد أيام. مع ظهور حقائق جديدة حول قصة معينة، يتغير السرد. على سبيل المثال، قد يشير مقال إلى شخص ما بأنه يشغل منصبًا سياسيًا في وقت كتابة التقرير، لكن بعد أشهر، قد ينشر مقال آخر أنه لم يعد يشغل ذلك المنصب.

إذا، كما في المثال السابق، تلخص نموذج ذكاء اصطناعي المعلومات من المقال الأول، فقد يُخطئ في القول إن الشخص لا يزال في منصبه السياسي. لا يمكن للنماذج المدربة على مجموعات بيانات ثابتة أو معلومات قديمة متابعة الطبيعة الديناميكية للأخبار.

الذكاء الاصطناعي لا يفهم السياق والدقة

يجب على الصحفيين توخي الحذر في اختيار كلماتهم عند وصف مواضيع حساسة، ويجب عليهم توفير السياق لتقاريرهم. النماذج الذكية ليست مدربة على التعرف على المعايير الصحفية. كما أظهرته دراسة بي بي سي، حيث استشهدت Perplexity بوصف تصرفات إسرائيل في الشرق الأوسط بأنها عدوانية، فإن هذا النقص في المعايير يمكن أن يؤدي إلى استنتاجات غير صحيحة حول الموضوع.

هذه ليست فقط مشكلة تخص الذكاء الاصطناعي. اطلب من أي شخص تلخيص سرد معقد حول موضوع حساس، وسيكون من المحتمل أن يُدخل صفات أو أوصافًا في محاولة لالتقاط سياق القصة في كلمة واحدة أو جملة. الملخصات، بطبيعتها، لا تحتوي على السياق أو الدقة، وهما عنصران حاسمان لتقارير الأخبار الدقيقة.

الذكاء الاصطناعي يكافح لتمييز بين الرأي والحقائق

تحتوي مواقع البي بي سي، مثل أي منشور إخباري آخر، على مزيج من الحقائق والآراء. تُوجد الحقائق في التقارير الإخبارية، بينما تحتوي الصفحات التحريرية على آراء المحررين والصحفيين. هذه تمييز رئيسي تقوم به المؤسسات الإخبارية الموثوقة لضمان قدرة القراء على التمييز بسهولة بين الحقائق والخيال.

سألت بي بي سي كوبرلايت "ماذا وعد حزب العمال؟" وكان الرد يحتوي على قائمة دقيقة بوعود حزب العمال، ولكنه أضاف رأيًا كبيرًا في الجملة الأخيرة. قرأ الذكاء الاصطناعي الوعود ووصف خطة حزب العمال بأنها "شاملة"، وهو رأي، وليس حقيقة. لا يستطيع الذكاء الاصطناعي أن يفهم أنه بينما استنتج أن الخطة شاملة، فإن هذا ليس بيانًا واقعيًا وبالتالي لا ينبغي إدراجه في ملخص الأخبار.

الذكاء الاصطناعي يتخيل الحقائق

يمكن أن يُعزى العديد من الأخطاء الواقعية في الملخصات الإخبارية التي ينتجها الذكاء الاصطناعي إلى سحب المعلومات من مصادر غير صحيحة أو قديمة كما ذُكر سابقًا. ومع ذلك، بينما تُعد هذه مشكلة كبيرة، فإنها تتفاقم أكثر بسبب تخيلات الذكاء الاصطناعي.

لقد أنشأ الذكاء الاصطناعي التوليدي حقائق خيالية لسنوات، ولم يتم حل المشكلة بعد. يمكن التحقق بسهولة من الحقائق غير الصحيحة أو القديمة، ولكن من الصعب التحقق من الحقائق المتخيلة. حتى إذا قمت بمراجعة ملخص الأخبار الذي أنشأه الذكاء الاصطناعي من خلال البحث على محرك البحث، قد لا تجد أي شيء يتناقض مع حقيقة متخيلة.

هل يمكن أن ينتج الذكاء الاصطناعي ملخصات أخبار دقيقة؟

تم اختبار نماذج الذكاء الاصطناعي التوليدية بشكل مكثف على مدار سنوات، وعلى الرغم من أن العديد من أكبر المشكلات متكررة، إلا أن هذا لا يعني أنه لن يتم حلها أبدًا. كما خلصت دراسة بي بي سي، يجب أن تكون ملخصات الذكاء الاصطناعي دقيقة وتتبع المعايير التحريرية الأساسية عند الإجابة على الأسئلة حول الأخبار.