من الواضح أن النماذج اللغوية الكبيرة تحتفظ بالكثير من بيانات التدريب في شبكاتها العصبية، لكن ما يزعجني هو: لا أحد يفهم حقًا أين تعيش هذه المعلومات الم memorized داخل هذه النماذج. مثل، أي الطبقات تحتفظ بها؟ كيف تخزن البنية المعمارية وتسترجع الحقائق المحددة؟ لا يزال الآلية الكاملة وراء التذكر في LLMs غامضة بشكل مدهش، حتى ونحن نعتمد على هذه الأنظمة أكثر فأكثر.