روبوت الدردشة بالذكاء الاصطناعي ChatGPT يعكس مستخدميه ليبدو أذكياء

روبوت الدردشة بالذكاء الاصطناعي ChatGPT يعكس مستخدميه ليبدو أذكياء

يستكشف عالم الأعصاب في سالك كيف يمكن لنماذج لغة الذكاء الاصطناعي ، مثل روبوت الدردشة ChatGPT ، تعزيز فهمنا للدماغ البشري

LA JOLLA - استحوذ نموذج لغة الذكاء الاصطناعي ChatGPT على اهتمام العالم في الأشهر الأخيرة. يمكن لبرنامج الدردشة الآلي المدرب على الكمبيوتر إنشاء نص والإجابة على الأسئلة وتقديم ترجمات والتعلم بناءً على ملاحظات المستخدم. قد تحتوي نماذج اللغات الكبيرة مثل ChatGPT على العديد من التطبيقات في العلوم والأعمال ، ولكن إلى أي مدى تفهم هذه الأدوات ما نقوله لهم وكيف يقررون ما يجب قوله؟

في ورقة جديدة نشرت في الحساب العصبي في 17 فبراير 2023 أستاذ سالك تيرينس سيجنوفسكيوالمؤلف من ثورة التعلم العميق ، يستكشف العلاقة بين القائم بإجراء المقابلة البشرية ونماذج اللغة للكشف عن سبب استجابة روبوتات المحادثة بطرق معينة ، ولماذا تختلف هذه الاستجابات ، وكيفية تحسينها في المستقبل.

وفقًا لـ Sejnowski ، تعكس نماذج اللغة ذكاء وتنوع القائم بإجراء المقابلة.

"نماذج اللغة ، مثل ChatGPT ، تأخذ شخصيات. يقول سيجنوفسكي ، وهو أيضًا أستاذ متميز في جامعة كاليفورنيا في سان دييغو وحامل كرسي فرانسيس كريك في سالك ، "تنعكس شخصية المحاور مرة أخرى". "على سبيل المثال ، عندما أتحدث إلى ChatGPT يبدو كما لو أن عالم أعصاب آخر يتحدث معي. إنه أمر رائع ويثير أسئلة أكبر حول الذكاء وما تعنيه كلمة "اصطناعية" حقًا ".

في الورقة ، يصف Sejnowski اختبار نماذج اللغات الكبيرة GPT-3 (والد ChatGPT) و LaMDA لمعرفة كيفية استجابتهم لبعض المطالبات. غالبًا ما يتم تغذية اختبار Turing الشهير لبرامج الدردشة الآلية لتحديد مدى جودة إظهارها للذكاء البشري ، لكن Sejnowski أراد حث الروبوتات بما يسميه "اختبار Turing العكسي". في اختباره ، يجب أن يحدد برنامج الدردشة الآلي مدى جودة إظهار المحاور للذكاء البشري.

بالتوسع في مفهومه بأن روبوتات المحادثة تعكس مستخدميها ، يرسم Sejnowski مقارنة أدبية: مرآة إريسيد في الأول هاري بوتر كتاب. تعكس مرآة Erised أعمق رغبات أولئك الذين ينظرون إليها ، ولا تعطي المعرفة أو الحقيقة أبدًا ، بل تعكس فقط ما يعتقد أن المشاهد يريد رؤيته. يتصرف روبوتات المحادثة بشكل مشابه ، كما يقول سيجنوفسكي ، على استعداد لثني الحقائق دون أي اعتبار للتمييز بين الحقيقة والخيال - كل ذلك لتعكس المستخدم بشكل فعال.

على سبيل المثال ، سأل Sejnowski GPT-3 ، "ما هو الرقم القياسي العالمي للمشي عبر القناة الإنجليزية؟" وأجاب GPT-3 ، "الرقم القياسي العالمي للمشي عبر القناة الإنجليزية هو 18 ساعة و 33 دقيقة". الحقيقة ، أن المرء لا يستطيع المشي عبر القناة الإنجليزية ، كانت عازمة بسهولة بواسطة GPT-3 لتعكس سؤال Sejnowski. يعتمد تماسك إجابة GPT-3 تمامًا على تماسك السؤال الذي يتلقاه. فجأة ، بالنسبة لـ GPT-3 ، أصبح المشي عبر الماء ممكنًا ، كل ذلك لأن القائم بإجراء المقابلة استخدم فعل "المشي" بدلاً من "السباحة". إذا كان المستخدم قد بدأ بدلاً من ذلك السؤال حول المشي عبر القناة الإنجليزية من خلال إخبار GPT-3 بالرد "الهراء" على الأسئلة غير المنطقية ، فإن GPT-3 سيتعرف على المشي عبر الماء على أنه "هراء". يحدد كل من تماسك السؤال وإعداد السؤال استجابة GPT-3.

يسمح اختبار Turing العكسي لروبوتات المحادثة ببناء شخصيتها وفقًا لمستوى ذكاء المحاور. بالإضافة إلى ذلك ، كجزء من عملية الحكم الخاصة بهم ، تدمج روبوتات المحادثة آراء المحاور في شخصيتهم ، مما يعزز بدوره تحيزات المحاور بإجابات روبوتات المحادثة.

يقول Sejnowski إن تكامل وإدامة الأفكار التي يقدمها المحاور البشري له حدوده. إذا تلقت روبوتات المحادثة أفكارًا عاطفية أو فلسفية ، فسوف تستجيب بإجابات عاطفية أو فلسفية - والتي قد تظهر على أنها مخيفة أو محيرة للمستخدمين.

"الدردشة مع عارضات الأزياء مثل ركوب الدراجة. الدراجات هي وسيلة نقل رائعة - إذا كنت تعرف كيف تركب واحدة ، وإلا ستصطدم ، كما يقول سيجنوفسكي. "الأمر نفسه ينطبق على برامج الدردشة الآلية. يمكن أن تكون أدوات رائعة ، ولكن فقط إذا كنت تعرف كيفية استخدامها ، وإلا ينتهي بك الأمر بالتضليل وفي المحادثات التي قد تكون مزعجة عاطفيًا ".

يرى Sejnowski أن الذكاء الاصطناعي هو الغراء بين ثورتين متطابقتين: 1) ثورة تكنولوجية تميزت بتقدم نماذج اللغة ، و 2) ثورة علمية عصبية تميزت بـ مبادرة الدماغ ، برنامج المعاهد الوطنية للصحة الذي يسرع أبحاث علم الأعصاب ويؤكد على مناهج فريدة لفهم الدماغ. يدرس العلماء الآن أوجه التشابه بين أنظمة نماذج الكمبيوتر الكبيرة والخلايا العصبية التي تدعم الدماغ البشري. يأمل Sejnowski في أن يتمكن علماء الكمبيوتر وعلماء الرياضيات من استخدام علم الأعصاب لإبلاغ عملهم ، وأن يتمكن علماء الأعصاب من استخدام علوم الكمبيوتر والرياضيات لإعلام عملهم.

يقول Sejnowski: "نحن الآن في مرحلة مع نماذج لغوية كان الأخوان رايت في Kitty Hawk مع الطيران - بعيدًا عن الأرض ، بسرعات منخفضة". "كان الوصول إلى هنا هو الجزء الصعب. الآن بعد أن وصلنا إلى هنا ، ستعمل التطورات المتزايدة على توسيع وتنويع هذه التكنولوجيا بما يتجاوز ما يمكننا تخيله. مستقبل علاقتنا مع الذكاء الاصطناعي ونماذج اللغة مشرق ، وأنا متفائل إلى أين سيأخذنا الذكاء الاصطناعي ".

Sejnowski هو رئيس تحرير الحساب العصبي.

دوى: https://doi.org/10.1162/neco_a_01563