أخذ العيّنة: كيف يختار النموذج الكلمة التالية فعلاً

اطلب من النموذج التوكِن التالي فلن يجيبك بكلمة، بل بنشرةٍ جوّيّةٍ تغطّي مفرداته بأسرها: احتمالٌ لكلّ توكِنٍ من نحو خمسين ألفاً، جُلّها متلاشٍ في الصِّغر، وحفنةٌ تحمل ثقلاً حقيقيّاً. وقد حسمت درجة الحرارة سلفاً مدى تسنّم هذا المشهد أو انبساطه. لكنّ غيمة الاحتمالات ليست جملة؛ فلا بدّ لأحدٍ أن يتقدّم ويختار. تلك الخطوة هي «أخذ العيّنة»، وفيها تُضبط شخصيّة النموذج فعلاً.

الطرفان، ولماذا يخفق كلاهما

أبسط القواعد هو الاختيار الجشِع: خُذ دائماً التوكِن الأعلى احتمالاً وحده. فصيحٌ لكنّه باهت، بل والأدهى أنّه يعلَق: أَعِد إليه ما أنتج فسيكتب براحةٍ «الأفضل الأفضل الأفضل» حتّى توقفه. والقاعدة المضادّة هي أخذ العيّنة الصِّرف: عامِل التوزيع كلّه كنردٍ نزيهٍ وأَلقِه. هنا يأتيك التنوّع، لكنّك تمنح النموذج كذلك فرصةً مقدارها واحدٌ في عشرة آلاف، عند كلّ توكِنٍ، لينحرف إلى كلمةٍ بلا معنى. الفصاحة والمفاجأة تشدّان إلى جهتين متعاكستين.

والعلاج أن تأخذ العيّنة، لكن لا من كلّ شيء. اطرح أوّلاً ذيل الرموز غير المعقولة، ثمّ أَعِد تطبيع ما تبقّى حتّى يعود مجموعه واحداً، ثمّ أَلقِ النرد على الناجين وحدهم. فيصير السؤال: عند أيّ نقطةٍ بالضبط تقصّ الذيل؟ هذا القرار وحده هو ما يفرّق بين الطرائق، وهو ما تتيح لك اللوحة أدناه أن تلمسه مباشرة.

«أعلى-k» يسأل: كم عدد المرشّحين؟ و«أعلى-p» يسأل: كم مقدار الثقة؟ والسؤال الثاني وحده يعرف متى يكون النموذج حائراً.

لماذا يتفوّق النَّواتيّ على k ثابت

يُبقي «أعلى-k» عدداً ثابتاً، لِنَقُل الأربعين الأرجح، ثمّ يأخذ العيّنة منها. والعلّة أنّ الأربعين رقمٌ خاطئٌ في الحالتين. فحين يكون النموذج واثقاً يتركّز جُلّ ثقله على التوكِنَين أو الثلاثة الأُوَل، وما تبقّى من السبعة والثلاثين قُمامةٌ قريبةٌ من الصِّفر دعوتَها لتوّك إلى المجلس من جديد. وحين يكون النموذج حائراً حقّاً قد تكون الأربعون أقلّ من اللازم، فتبتر امتداداتٍ معقولةً كان الكاتب ليتأمّلها فعلاً. إنّ k الثابت عاجزٌ عن التمييز بين اليقين والحَيرة، لأنّه لا ينظر إلى الاحتمالات ذاتها قطّ، بل إلى ترتيبها فحسب.

أمّا «أعلى-p»، أو أخذ العيّنة النَّواتيّ، فيُثبّت الثِّقل لا العدد. أَبقِ أصغر مجموعةٍ من الرموز التي تبلغ احتمالاتها مجموعاً قدره p (٠٫٩ مثلاً) وانبذ ما عداها، فيتحجّم الحوض من تلقاء نفسه. بعد «عاصمة فرنسا هي» يكون النموذج واثقاً، فتنهار النواة إلى توكِنٍ واحد، فتأتيك «باريس». وبعد «لوني المفضّل هو» يكون النموذج مشرَعاً على مصراعيه، فتنتفخ النواة إلى عشرٍ من الكلمات المعقولة، فيأتيك تنوّعٌ حقيقيّ. العتبة ذاتها، ومجموعتا مرشّحين مختلفتان تماماً، لأنّ الحدّ يقرأ ثقة النموذج لحظةً بلحظة. لهذا يكون p، لا k، هو المقبض الذي تمتدّ إليه يد الأكثرين، ولهذا يُستعملان معاً غالباً: «أعلى-p» سخيٌّ ليبقى متكيّفاً، وسقف «أعلى-k» سياجٌ صارمٌ يقي شرّ أسوأ ما في الذيل.