LLMxRay
انظر ما الذي يفعله ذكاؤك الاصطناعي المحلّي فعلاً.
وجّه VS Code Copilot أو Open WebUI أو Continue أو n8n أو وكيلك الخاص إلى LLMxRay بدلاً من Ollama، وشاهد كل دور:
ما كان في الذاكرة المؤقتة، وما أُعيدت قراءته، وما قصّه الخادم بصمت، وأي أداة أزاحت أي نموذج. لا سحابة. لا مفاتيح API. لا تكلفة.
🌐 English •
Français •
中文 •
العربية •
Srpski
البدء السريع •
ما ترسله أدواتك •
الاحتفاظ والإرسال •
للوكلاء •
وفي الصندوق أيضاً •
لمن هذه الأداة •
التثبيت •
التوافق مع Ollama •
سجلّ التغييرات
---
## البدء السريع
تحتاج إلى تشغيل [Ollama](https://ollama.com/download) مع نموذج واحد مُنزَّل على الأقل (`ollama pull llama3.2`). ثم:
```bash
npx llmxray
```
أو باستخدام Docker:
```bash
docker run -p 5174:5174 -p 11435:11435 djovaneli/llmxray
```
الآن وجّه أدواتك إلى **http://localhost:11435** بدلاً من المنفذ 11434 الخاص بـ Ollama: VS Code Copilot وOpen WebUI وContinue وn8n وسكربتاتك الخاصة. يتصرّف تماماً مثل Ollama ويمرّر كل شيء. افتح **http://localhost:5174**، واذهب إلى **Live**، وشاهد أدوارها وهي تصل.
تريد فقط تجربة نموذج؟ افتح صفحة المحادثة، واختر نموذجاً، وأرسل رسالة.
---
## ما ترسله أدواتك حقاً
محرّرك ووكلاؤك وسكربتاتك كلها تتحدّث إلى Ollama نفسه. تُظهر هذه الصفحات ما ترسله كل أداة، وما يفعله الخادم به، وما يكلّفه ذلك للأدوات الأخرى.
### Live: ما ترسله أدواتك الأخرى
يفتح LLMxRay منفذاً ثانياً، **11435**، يتصرّف تماماً مثل Ollama ويمرّر إليه كل شيء. وجّه VS Code Copilot أو Open WebUI أو Continue أو n8n أو سكربتك الخاص إلى `http://localhost:11435` وسيظهر هنا كل دور ترسله: العميل، النموذج، حجم المُوجّه، كم جاء من الذاكرة المؤقتة، سرعة التعبئة المسبقة والتوليد، استدعاءات الأدوات.
```
VS Code Copilot ─┐
Open WebUI ──────┤ ┌─ Live: كل دور،
Continue / n8n ──┼─► http://localhost:11435 ─► Ollama ┤ إصابات الذاكرة المؤقتة، سرعة التعبئة،
your scripts ────┘ (LLMxRay) └─ أين انكسرت الذاكرة المؤقتة
```
اختر دوراً لترى ممّ يتكوّن المُوجّه والنقطة الدقيقة التي توقّف فيها عن مطابقة الدور السابق، وهي حيث انكسرت الذاكرة المؤقتة. النتائج جمل بسيطة، كل منها مرتبطة بالدور الذي يثبتها: عميل يعيد قراءة مُوجّهه كاملاً في كل دور، نموذج يعمل جزئياً على المعالج، مخطّطات أدوات تشغل 40% من كل مُوجّه. لا يُحفظ إلا الأعداد والأزمنة، على هذا الجهاز لمدة 30 يوماً، فيكمل إعادة التشغيل من حيث توقّف. نصّ المُوجّه خيار يُكتب في ملف محلّي. لا شيء يغادر جهازك، إلا إذا أرسلت الأدوار إلى عارض التتبّع الخاص بك.
افتراضياً لا يجيب المنفذان إلا هذا الجهاز، لأن سجلّ Live يحتفظ بما أرسلته أدواتك. شغّل `npx llmxray --host 0.0.0.0` لتسمح لأجهزة أخرى على شبكتك بالوصول إليهما، لصفحة Live على شاشة ثانية أو جهاز GPU مشترك.
### أشعة المُوجّه: المُوجّه نفسه مرسوماً بمقياسه
كل دور أرسلته أداتك، على شكل شريط. يدلّ اللون على ما كان عليه كل جزء من المُوجّه: مُوجّه النظام، مخطّطات الأدوات، الأدوار السابقة، الرسالة الجديدة. ويدلّ السطوع على ما حدث له: الباهت كان في ذاكرة النموذج أصلاً ولم يكلّف شيئاً، والساطع اضطُرّ النموذج إلى قراءته من جديد، والمخطّط قصّه الخادم ولم يُرَ قط. كدّس أدوار محادثة واحدة فترى الذاكرة المؤقتة تكبر، وترى الدور الذي أفرغها فيه طابع زمني في مُوجّه النظام، والدور الذي تجاوزت فيه المحادثة السياق فأسقط Ollama أقدم الرسائل بصمت وأجاب مع ذلك. وإذا كان مُوجّه النظام وحده أطول من السياق، فبدايته هي التي تسقط. انقر على جزء فيُفتح الطلب عند ذلك الموضع من النص.
### التشغيلات: عمل أداة واحدة من أوله إلى آخره
استدعاءات أداة واحدة للنموذج مرتّبة في الزمن، على شكل شلال. يُقسَّم كل استدعاء بحسب ما يُبلغ عنه Ollama: الانتظار، تحميل النموذج، قراءة المُوجّه، كتابة الجواب. وبين استدعاءين، وقت الأداة نفسها، مسمّى بأسماء الأدوات التي طلبها النموذج. تبدأ الخطوات حيث بدأت الأداة محادثة جديدة، فيظهر من النظرة الأولى الوكيل الذي يرمي ذاكرته المؤقتة في كل خطوة، وكذلك النموذج الذي لم يكن في الذاكرة عند بدء التشغيل. انقر على أي سطر لترى ما أرسله ذلك الاستدعاء وما عاد به، بما في ذلك تفكير النموذج واستدعاءاته للأدوات مع وسائطها، أو ما طُلب من أداة وما أعادته. لكل سطر رابطه الخاص. فعّل *احتفظ بنص المحثّات* في صفحة Live لترى النص؛ الأزمنة لا تحتاج إلى شيء.
### الجهاز المشترك: لماذا Ollama بطيء الآن، وأي أداة السبب
سطر لكل أداة، مرتّب بحسب ما كلّفته للأدوات الأخرى بالثواني: الأداة التي ترسل `keep_alive: 0` فتُفرغ النموذج بعد كل تشغيل، والتي تطلب سياقاً بحجم 128K لمُوجّهات بحجم 4K فتُنزل الخادم إلى طلب واحد في كل مرة، والتي انتظرت 22 ثانية خلفهما. ومع كل واحدة الإعداد الذي ينبغي تغييره. والأداة التي لم تكلّف شيئاً مذكورة أيضاً، لترى كيف يبدو السلوك الجيد.
### خريطة GPU: ما في ذاكرة الفيديو، وما الذي يتّسع أيضاً
شريط واحد بعرض بطاقتك: كل نموذج محمَّل كتلة مقسومة بين أوزانه وما يكلّفه سياقه فوقها، ثم المساحة الحرّة. وتحته كل نموذج مُنزَّل مع أحد ثلاثة أحكام: يتّسع الآن، يتّسع فقط إذا أُفرغ المحمَّل أولاً، أكبر من البطاقة.
### استدعاءات الأدوات: هل يستطيع هذا النموذج قيادة وكيل؟
ثلاثة عشر شكلاً من الطلبات يرسلها الوكلاء طوال اليوم، مُقيَّمة على ما أعاده الخادم: الأداة الصحيحة، والوسائط الصحيحة، والعدد الصحيح من الاستدعاءات، ولا استدعاء حين لا حاجة إليه. كل خانة جملة واحدة: «الوسيط path مفقود»، «كتب الاستدعاء في نص الجواب»، «استدعى search_web ولم تكن هناك حاجة إلى أداة». انقر عليها لترى ما أعاده النموذج.
### مختبر الذاكرة المؤقتة
لا يعيد النموذج المحلّي استخدام ذاكرة المُوجّه المؤقتة إلا ما دام المُوجّه مطابقاً من أول رمز. طابع زمني واحد قرب الأعلى يُهدر كل ما تحته. يجد المختبر القيم التي تتغيّر بين الأدوار، ويُظهر أين تموت إعادة الاستخدام، ثم **يقيس** على خادمك الخاص ما يوفّره نقلها إلى النهاية.
مقيس على مُوجّه حقيقي من 324 رمزاً: 4 رموز معاد استخدامها و64.6 مللي ثانية تعبئة مسبقة مع الطابع الزمني في المقدّمة، و290 رمزاً معاد استخدامها و18.6 مللي ثانية معه في النهاية. **أسرع 3.5 مرّة، بالكلمات نفسها.**
### مرصد البروتوكولات
المُوجّه نفسه عبر بروتوكولات Ollama الثلاثة بالتوازي: الأصلي `/api/chat`، والمتوافق مع OpenAI `/v1/chat/completions`، والمتوافق مع Anthropic `/v1/messages`. بثّ جنباً إلى جنب، مقاييس لكل بروتوكول، وفرق للغلاف يُظهر كيف يصوغ كلٌّ منها أسباب الانتهاء وأعداد الرموز والأخطاء.
---
## احتفظ بها، وأرسلها أبعد
يبقى سجلّ كل دور (الرموز، الذاكرة المؤقتة، الأزمنة، العميل، النموذج، ولا نصّ أبداً) على جهازك 30 يوماً، فيكمل إعادة التشغيل من حيث توقّف. تواصل Live والتشغيلات وأشعة المُوجّه وأدوات MCP عملها كأن شيئاً لم يحدث.
إذا كان فريقك يقرأ التتبّعات أصلاً، فأرسل الأدوار إلى هناك: يصبح كل استدعاء للنموذج span في OpenTelemetry يحمل سمات GenAI التي تقرؤها العارضات أصلاً، وكل تشغيل trace، ووقت الأدوات بين استدعاءين span مستقلاً، الشلال نفسه الذي تعرضه التشغيلات. اكتب عنواناً في صفحة Live، أو استخدم `OTEL_EXPORTER_OTLP_ENDPOINT`.
| العارض | العنوان |
|---|---|
| Jaeger (`docker run -p 16686:16686 -p 4318:4318 jaegertracing/jaeger`) | `http://localhost:4318` |
| Arize Phoenix (`docker run -p 6006:6006 arizephoenix/phoenix`) | `http://localhost:6006` |
| Langfuse | `https://cloud.langfuse.com/api/public/otel`، مع ترويسة Basic من مفاتيحك |
| Grafana Tempo، أو OpenTelemetry Collector | عنوان OTLP HTTP الخاص به، عادةً المنفذ 4318 |
لا يُرسَل نصّ المُوجّه إلا إذا فعّلت كلاً من *احتفظ بنص المحثّات* و*ضمّن نص المحثّات في كل span*.
---
## للوكلاء
إذا كنت وكيلاً يعمل على نموذج محلي، يستطيع LLMxRay أن يخبرك بما حدث من خطأ في استدعاءاتك أنت. خطوتان.
1. أرسل استدعاءاتك لـ Ollama إلى المنفذ **11435** بدلاً من 11434. يتصرّف تماماً مثل Ollama ويمرّر كل شيء؛ لا يفعل LLMxRay سوى تسجيل ما يمرّ.
2. أضف خادم MCP الخاص بـ LLMxRay إلى أدواتك:
```json
{ "mcpServers": { "llmxray": { "command": "npx", "args": ["-y", "-p", "llmxray", "llmxray-mcp"] } } }
```
سبع أدوات، كلها للقراءة فقط، ولا شيء يغادر الجهاز:
| الأداة | تجيب عن |
|---|---|
| `diagnose_my_turns` | ما يبرز في أدوارك الأخيرة، جملاً مع الإصلاح: مُوجّه رُفض لأنه تجاوز السياق المحمَّل، فقدان الذاكرة المؤقتة للمُوجّه في كل دور أو في دور واحد، نموذج يعمل جزئياً على المعالج، مخطّطات أدوات تزاحم المُوجّه. |
| `read_my_last_turn` | دورك الأخير بالأرقام: رموز المُوجّه والحصة المخزّنة، وقت التعبئة المسبقة وسرعتها، الرموز المولّدة وسرعتها، سبب توقّف التوليد، ممّ يتكوّن المُوجّه، وهل اتّسع النموذج في ذاكرة الفيديو. |
| `list_local_models` | أي النماذج مُنزَّلة، وحجمها وتكميمها، وأيها محمَّل الآن وبأي سياق، وهل يتّسع كل منها في ذاكرة الفيديو. |
| `list_my_turns` | السجلّ: سطر لكل دور فيه الرموز والحصة المخزّنة والتعبئة المسبقة وسرعة التوليد وسبب التوقّف والإشارات. |
| `compare_my_turns` | هل ساعد تغيير ما: وسيطات الحصة المخزّنة والتعبئة المسبقة والسرعة وحجم المُوجّه قبل لحظة وبعدها، مع حكم. |
| `estimate_my_prompt` | قبل الإرسال: هل يتّسع مُوجّه من N رمزاً في السياق المحمَّل، وكم يبقى من هامش، وهل النموذج في ذاكرة الفيديو، وكم ستعيد الذاكرة المؤقتة استخدامه. |
| `read_llmxray_status` | أين يعمل LLMxRay، ومنفذ المراقبة، وأي Ollama يمرّر إليه، وكم دوراً يحتفظ به. |
يجب أن يكون LLMxRay نفسه قيد التشغيل (`npx llmxray`). يقرأ خادم MCP منه عبر localhost.
الإجراء نفسه على شكل [Agent Skill](https://agentskills.io) يستطيع وكيلك تحميلها: `npx skills add LogneBudo/llmxray` (skills.sh) أو `clawhub install llmxray-diagnose-ollama-calls` (ClawHub). المصدر: [skills/diagnose-ollama-calls/SKILL.md](skills/diagnose-ollama-calls/SKILL.md).
سمِّ نفسك لتكون أدوارك لك: أرسل الترويسة `X-LLMxRay-Client: my-agent`، أو استخدم `http://localhost:11435/?client=my-agent` عنواناً أساسياً، ومرّر `my-agent` على أنه `client` إلى الأدوات.
---
## وفي الصندوق أيضاً
أنت تشغّل نموذجاً محلياً. تتحدّث معه. يجيب LLMxRay عن الأسئلة التي تأتي بعد ذلك: كم استغرق كل رمز، كم كلّف المُوجّه، هل أفادت الذاكرة المؤقتة، أيّ إعداد كان الأفضل فعلاً، وما الذي ترسله أدواتك *الأخرى* إلى النموذج نفسه.
كل صفحة أدناه هي إحدى هذه الإجابات.
### المحادثة، رمزاً برمز
يُرسم كل رمز فور وصوله، ملوّناً حسب احتمال النموذج له، من logprobs في Ollama. ترى أين تردّد النموذج وأين كان واثقاً. Markdown، محادثات متعدّدة الأدوار، مرفقات ملفات وصور، أوامر الشرطة المائلة، وميزانية تفكير لنماذج الاستدلال (معطّلة، أو باختيار النموذج، أو low / medium / high / max).
يُفحص كل ردّ أيضاً عند وصوله. لا تظهر الشارة إلا عندما يكون هناك خلل: تكرار، رفض، كلام غير مفهوم، إجابة فارغة، أو ردّ مقطوع عند حدّ الرموز.
لقطة شاشة
لقطة شاشة
لقطة شاشة
لقطة شاشة
لقطة شاشة
لقطة شاشة
|
|
|
لقطة شاشة
لقطة شاشة
لقطة شاشة
|
|
|
لقطة شاشة
|
|
|
إن ساعدك LLMxRay على فهم ذكائك الاصطناعي بشكل أفضل، فكّر في منح المشروع نجمة.
هذا يساعد آخرين على اكتشاف المشروع.
