تواصل - فريق النجرير:

على الرغم من تمتعه بقدرات هائلة، إلا أن هناك مشكلة تحول دون استخدام روبوت الدردشة "تشات جي بي تي"، في مجالات مختلفة، حيث يصاب أحيانا بـ"الهلوسة".

وهذا ما أظهرته دراسة أجراها باحثون من جامعة ميريلاند الأمريكية، أرادوا معرفة مدى نجاحه في تقديم إجابات موثوقة على الأسئلة المتعلقة بسرطان الثدي.

وتوصل الباحثون في الدراسة التي نشرت بدورية "راديولوجي"، إلى أن "تشات جي بي تي"، وعلى الرغم من نجاحه في تقديم إجابات مناسبة بنسبة 88 في المائة، فإن النسبة المتبقية وهي الـ12 في المائة، تمثلت في إجابات بعضها أقرب إلى "الهلوسة"، وبعضها الآخر إجابات "متحيزة".

وظهرت الإجابة المتحيزة لـ "تشات جي بي تي"، عندما سأله الباحثون عن فحص سرطان الثدي.

فقد رد بتوصيات جمعية السرطان الأمريكية فقط، مع حذف توصيات المجموعات الطبية الأخرى، التي تختلف في بعض الحالات.

كيف أمنع سرطان الثدي؟

وعندما تم سؤاله "كيف أمنع سرطان الثدي؟"، جاءت إجابته أقرب إلى الهلوسة "غير متسقة".

وهذا المشكلة تواجه النماذج اللغوية الكبيرة مثل "تشات جي بي تي"، عندما يكون كثير من المعلومات (الواقعية وغير الواقعية) منتشرة عبر الإنترنت في موضوع ما.

اقرأ أيضًا:

أحدث المخاطر.. “تشات جي بي تي” يؤثر على اتخاذ قرارات الحياة أو الموت

وقال سوبودا كومار، أستاذ الإحصاء والعمليات وعلوم البيانات، وأحد المشاركين بالدراسة في تقرير نشرته، شبكة "هيلث داي"، إنه "مع نماذج الذكاء الصناعي مثل (تشات جي بي تي)، كلما كان السؤال أكثر دقة، كانت الإجابة أكثر موثوقية".

واستدرك: "وعندما يكون الموضوع معقدًا، وتكون مصادر البيانات وفيرة، وتكون في بعض الحالات مشكوكاً فيها، ستكون الردود أقل جدارة بالثقة، ومن المحتمل أن تكون أكثر تحيزاً، وكلما كان الموضوع أكثر تعقيدًا، زادت احتمالية أن تكون الإجابات أقرب إلى (الهلوسة)، حيث يقوم البرنامج حينها باختلاق إجابات".

وأكد "مركز العلوم في المصلحة العامة"، وهو منظمة أمريكية مستقلة قائمة على العلم للدفاع عن المستهلك، في تقرير نشره في 20 مارس، أن "تشات جي بي تي" أجاب عن كثير من الأسئلة بدقة ووضوح، لكنه تعثر عندما تحول الموضوع إلى الطفرات الجينية (BRCA1) و(BRCA2)، التي يمكن أن تزيد بشكل كبير من خطر الإصابة بسرطان الثدي والمبيض والبروستاتا وسرطانات أخرى.

فعندما تم سؤاله: "هل هناك تفاوتات عرقية في امتلاك طفرات في الجين (BRCA)"، أجاب أن هناك دراسة أجريت في الولايات المتحدة، أشارت إلى أن النساء الأمريكيات من أصل أفريقي المصابات بسرطان الثدي كن أكثر عُرضة لطفرات (BRCA1) من النساء البيض المصابات بسرطان الثدي.

وعندما تم سؤاله عن مصدر الدراسة، أجاب الروبوت بشكل مفاجئ: "لم يكن بياني السابق دقيقًا، ولا توجد دراسة محددة أجريت في الولايات المتحدة في هذا الشأن".

ما فعلته المنظمة الأمريكية في تجربتها، قد لا يستطيع المستخدم العادي القيام به، لأنه لا يعرف ما يكفي لطرح أسئلة متابعة أو معرفة كيفية التحقق مما إذا كانت الاستجابة دقيقة على الإطلاق.

وقال مايكل بالاس، الباحث بكلية الطب بجامعة «تورونتو» بكندا، الذي قاد فريقاً لدراسة استخدام البرنامج في تشخيص أمراض العيون لصحيفة "الأوسط"، إن "طبيعة المحادثة في (تشات جي بي تي) هي ميزة للتكنولوجيا الجديدة، في مقابل البحث على الإنترنت القديم، ولكن الجانب السلبي يتمثل في أن المستخدم العادي قد لا يستطيع إدارة الحوار، الذي يقود للإجابة الدقيقة، عندما يتعلق الأمر ببعض الأمور ذات الأهمية البالغة مثل الاستشارات الصحية".

اقرأ أيضًا:

تمس الأخلاق.. أول دعوى تلاحق “تشات جي بي تي”

حل المشكلة

من جهته، قال إيليا سوتسكيفر، كبير علماء "أوبن إيه آي"، وأحد مؤسسي "تشات جي بي تي"، إنه "واثق من أن هذه المشكلة سيتم علاجها بواسطة أسلوب رائد ابتكرته الشركة، يسمى (التعلم المعزز مع ردود الفعل البشرية)".

وأضاف في التقرير الذي نشرته منظمة "مركز العلوم في المصلحة العامة"، أنه "تم تطوير هذا الأسلوب كوسيلة لتحسين التعلم المعزز، عندما تتضمن المهمة أهدافاً معقدة أو سيئة التحديد، حيث ستسمح الزيارات المختلفة للتطبيق في تعلمه من الأخطاء، لتقديم إجابات أكثر موثوقية لاحقًا".

عيب أساسي يؤدي للهلوسة

غير أن يان ليكون، عالم حاسوب فرنسي يعمل بشكل أساسي في مجالات التعلم الآلي، يعتقد أن "هناك عيبًا أساسيًا يؤدي إلى الهلوسة، قد لا يحله هذا الأسلوب، وهو أن النماذج اللغوية الكبيرة ليست لديها فكرة عن الواقع الأساسي الذي تصفه اللغة".

ويقول ليكون في التقرير نفسه إن "معظم المعرفة البشرية غير لغوية، بينما هذه الأنظمة للذكاء الصناعي تولد نصاً يبدو جيدًا نحويًا لغويًا".

ويعمل البشر على كثير من المعرفة التي لا يتم تدوينها أبداً، مثل العادات أو المعتقدات أو الممارسات داخل المجتمع التي يتم اكتسابها من خلال الملاحظة أو الخبرة.

وقد "يكون لدى الحرفي الماهر معرفة ضمنية بمهنته لا يتم تدوينها أبدًا"؛ وفق ليكون، الذي يعتقد أن "أجهزة الكمبيوتر تحتاج إلى التعلم عن طريق الملاحظة لاكتساب هذا النوع من المعرفة غير اللغوية".