Real-Time Dashboards: Streaming Analytics for Operations & Sales

Build real-time dashboards with streaming analytics using Kafka, Redis Streams, and WebSocket for operational monitoring and live sales tracking.

E
ECOSIRE Research and Development Team
|15 مارس 202610 دقائق قراءة2.1k كلمات|

جزء من سلسلة Data Analytics & BI

اقرأ الدليل الكامل

لوحات المعلومات في الوقت الفعلي: تحليلات التدفق للعمليات والمبيعات

تخبرك التحليلات المجمعة بما حدث بالأمس. تخبرك التحليلات في الوقت الفعلي بما يحدث الآن. بالنسبة لفرق العمليات التي تدير المستودعات وأرضيات الإنتاج والخدمات اللوجستية، فإن الفرق بين البيانات التي تبلغ مدتها 15 دقيقة وبيانات الأمس هو الفرق بين منع حدوث مشكلة والإبلاغ عنها.

لوحات المعلومات في الوقت الفعلي لا تتعلق بالغرور --- إن مشاهدة الأرقام وهي ترتفع في الوقت الفعلي أمر لا معنى له إذا لم يتصرف أحد بناءً عليها. إنها تتعلق بتقليل الوقت بين الإشارة (انخفاض المخزون إلى ما دون الحد الأدنى، أو ارتفاع المبيعات، أو شذوذ النظام) والاستجابة (إعادة الطلب، تعيين الموظفين، التحقيق).

الوجبات الرئيسية

  • يتم تبرير لوحات المعلومات في الوقت الفعلي عندما تتجاوز تكلفة الإجراء المؤجل تكلفة البنية التحتية في الوقت الفعلي --- تعد العمليات والاحتيال والمبيعات المباشرة أقوى حالات الاستخدام
  • تعالج معالجة الدفق باستخدام Kafka أو Redis Streams استيعاب الأحداث، بينما تقوم اتصالات WebSocket بدفع التحديثات إلى لوحات المعلومات دون الاستقصاء
  • المعالجة المجمعة والتدفقية متكاملة وليست متنافسة --- استخدم الدُفعة للتحليلات العميقة والتدفق للمراقبة التشغيلية
  • يجب ضبط حدود التنبيه بناءً على تأثير الأعمال، وليس المقاييس الفنية --- انخفاض معدل التحويل بنسبة 5 بالمائة أكثر أهمية من زيادة قدرها 50 مللي ثانية في زمن استجابة واجهة برمجة التطبيقات

عندما يكون الوقت الفعلي مهمًا بالفعل

لا يحتاج كل مقياس إلى تحديثات في الوقت الفعلي. يعد إنشاء البنية التحتية في الوقت الفعلي أكثر تعقيدًا وتكلفة من المعالجة المجمعة. قم بحجزه لحالات الاستخدام حيث يكون للمعلومات المتأخرة تكلفة قابلة للقياس.

حالات الاستخدام عالية القيمة في الوقت الفعلي

مراقبة العمليات: مستويات مخزون المستودعات، وحالة خط الإنتاج، ومسار تنفيذ الطلب، وتأخيرات الشحن. يكلف المخزون إيرادات في كل دقيقة يستمر فيها. فشل خط الإنتاج يكلف الآلاف في الساعة.

تتبع المبيعات المباشرة: المبيعات السريعة، وإطلاق المنتجات، والأحداث الترويجية. إذا لم يتم تحويل العرض الترويجي، فأنت تريد أن تعرف ذلك خلال دقائق، وليس غدًا. إذا فشلت بوابة الدفع أثناء ذروة حركة المرور، فإن كل ثانية لها أهميتها.

كشف الاحتيال والشذوذ: أنماط المعاملات غير العادية، ومحاولات الوصول غير المصرح بها، والخلل في سلامة النظام. كلما اكتشفت الاحتيال بشكل أسرع، قل الضرر الذي يحدث.

تجربة العملاء: عمق قائمة انتظار الدردشة المباشرة، ومعدلات الخطأ في موقع الويب، والتخلي عن عملية الدفع في الوقت الفعلي. إذا انقطع تدفق الدفع أثناء الحملة، فيجب أن تعرف ذلك على الفور.

عندما تكون الدفعة كافية

** التقارير المالية: ** الإيرادات الشهرية والأرباح والخسائر ربع السنوية والاتجاهات السنوية. هذه لا تتغير بالسرعة الكافية لتبرير الوقت الحقيقي.

التحليلات الإستراتيجية: الحصة السوقية، وتحديد المواقع التنافسية، التحليل الجماعي. ويتم تحليلها بشكل دوري، وليس بشكل مستمر.

التحليل التاريخي: تجزئة RFM، إسناد التسويق، التدريب على نموذج التنبؤ بالطلب. البيانات التاريخية لا تتغير في الوقت الحقيقي.


بنية معالجة الدفق

المعالجة الدفعية مقابل المعالجة الدفقية

مميزةتجهيز الدفعاتمعالجة الدفق
وصول البياناتيتم جمعها مع مرور الوقت، ومعالجتها بكميات كبيرةمستمر، حدثًا تلو الآخر
الكموندقائق إلى ساعاتميلي ثانية إلى ثانية
معالجةالتشغيل وفقًا للجدول الزمني (كل ساعة، يوميًا)مستمر، قيد التشغيل دائمًا
التعقيدأقلالعالي
التكلفةالبنية التحتية السفلىبنية تحتية عليا
حالة الاستخدامالتحليلات وإعداد التقارير والتدريب على تعلم الآلةالمراقبة والتنبيه ولوحات المعلومات الحية
اكتمال البياناتكاملة (جميع البيانات متاحة)من المحتمل أن تكون غير مكتملة (الوصول المتأخر)
معالجة الأخطاءإعادة معالجة الدفعةالتعامل مع قائمة انتظار الرسائل المتدفقة أو الميتة

تستخدم البنية المثالية كلا من: معالجة التدفق للوحات المعلومات التشغيلية والتنبيهات، ومعالجة الدفعات للتحليلات العميقة وتحميل مستودع البيانات. يُطلق على هذا أحيانًا اسم "بنية Lambda" أو "بنية Kappa" اعتمادًا على ما إذا كنت تحتفظ بخطوط أنابيب منفصلة أو توحدها.

أباتشي كافكا لبث الأحداث

كافكا هو معيار الصناعة لتدفق الأحداث. إنه يعمل كوسيط رسائل متين وموزع يفصل منتجي الأحداث (تطبيقاتك) عن المستهلكين (لوحات المعلومات، وأنظمة التنبيه، وخطوط التحليلات).

** المفاهيم الأساسية: **

  • المواضيع: مجموعات الأحداث المُسمّاة (على سبيل المثال، orders.created، inventory.updated، pageviews).
  • المنتجون: تطبيقات تنشر الأحداث. يقوم Odoo ERP الخاص بك بنشر أحداث الطلب. ينشر متجر Shopify الخاص بك أحداث الدفع عبر خطافات الويب.
  • المستهلكون: تطبيقات تقرأ الأحداث وتعالجها. تستهلك لوحة المعلومات في الوقت الفعلي أحداث الطلب لتحديث عدادات الإيرادات.
  • الأقسام: يتم تقسيم المواضيع إلى أقسام للمعالجة المتوازية. التقسيم حسب معرف العميل أو معرف المنتج أو المنطقة حسب أنماط الاستعلام الخاصة بك.

متى يتم استخدام كافكا: أحجام أحداث عالية (آلاف الأحداث في الثانية)، ومتطلبات مستهلكين متعددين (نفس لوحة معلومات خلاصات الأحداث، والتنبيه، ومستودع البيانات)، ومتطلبات المتانة (يجب عدم فقدان الأحداث).

Redis Streams للبث خفيف الوزن

بالنسبة لشركات السوق المتوسطة التي لا تحتاج إلى مقياس كافكا، توفر Redis Streams بديلاً أبسط. من المحتمل أن يكون Redis موجودًا بالفعل في مكدسك للتخزين المؤقت وتخزين الجلسة.

** المزايا على كافكا: **

  • منتشرة بالفعل في معظم البنيات (انخفاض النفقات التشغيلية).
  • تكوين وإدارة أبسط.
  • زمن الوصول إلى أقل من ميلي ثانية لأحجام الأحداث الصغيرة والمتوسطة.
  • مجموعات المستهلكين المدمجة للمعالجة المتوازية.

متى تستخدم تدفقات Redis: أحجام الأحداث أقل من 10000 في الثانية، وأقل من 10 مستهلكين، والبساطة التشغيلية هي الأولوية، وأنت تقوم بالفعل بتشغيل Redis.


حساب مؤشرات الأداء الرئيسية في الوقت الحقيقي

تتطلب مؤشرات الأداء الرئيسية في الوقت الفعلي أساليب حسابية مختلفة عن مؤشرات الأداء الرئيسية المجمعة لأنه لا يمكنك إعادة فحص مجموعة البيانات بالكامل لكل تحديث.

التجمعات ذات الإطارات

بدلاً من حساب "إجمالي الإيرادات اليوم" عن طريق جمع كافة الطلبات، احتفظ بإجمالي تشغيل يتم تحديثه مع كل حدث طلب جديد. استخدم النوافذ الزمنية لحساب المعدلات والمتوسطات:

  • النوافذ المتداعية: فترات زمنية ثابتة وغير متداخلة. "الطلبات لكل نافذة مدتها 5 دقائق."
  • النوافذ المنزلقة: فترات متداخلة. "متوسط ​​قيمة الطلب خلال آخر 30 دقيقة، ويتم تحديثه كل دقيقة."
  • نوافذ الجلسة: فترات زمنية ديناميكية بناءً على فجوات النشاط. "الإيرادات لكل جلسة مستخدم."

مؤشرات الأداء الرئيسية الشائعة في الوقت الفعلي

المبيعات:

  • أوامر في الدقيقة / ساعة
  • الإيرادات (إجمالي التشغيل اليوم)
  • متوسط قيمة الطلب (نافذة متحركة مدتها ساعة واحدة)
  • معدل التحويل (نافذة متحركه مدتها 30 دقيقة)
  • معدل التخلي عن سلة التسوق (في الوقت الحقيقي)

العمليات:

  • مستويات المخزون (التحديثات المستندة إلى الحدث على كل معاملة)
  • أوامر في خط أنابيب الوفاء حسب المرحلة
  • معدل إنتاج خط الإنتاج في الساعة
  • تأخيرات الشحن (الطلبات التي تتجاوز حد اتفاقية مستوى الخدمة)

التكنولوجيا:

  • وقت استجابة واجهة برمجة التطبيقات (ص50، ص95، ص99)
  • معدل الخطأ لكل نقطة النهاية
  • المستخدمون النشطون (الدورات الحالية)
  • أعماق قائمة الانتظار (وظائف الخلفية، تذاكر الدعم)

هندسة التنبيه

يتم تحسين لوحات المعلومات في الوقت الحقيقي من خلال التنبيه الذكي. يتم إطلاق التنبيه عندما يتجاوز مؤشر الأداء الرئيسي الحد الأدنى، لإعلام الشخص المناسب باتخاذ الإجراء.

تصميم العتبة

العتبات الثابتة هي أبسط طريقة ولكنها تنتج نتائج إيجابية كاذبة. تعمل العتبات الديناميكية المستندة إلى الأنماط التاريخية على تقليل الضوضاء.

مثال على الحد الثابت: تنبيه عندما تنخفض الطلبات في الساعة إلى أقل من 50.

مثال على الحد الديناميكي: تنبيه عندما تنخفض الطلبات في الساعة إلى ما دون انحرافين معياريين عن المتوسط ​​التاريخي لنفس الساعة. وهذا يفسر الأنماط الطبيعية --- سيكون لدى الساعة 3 صباحًا دائمًا طلبات أقل من الساعة 3 مساءً.

توجيه التنبيه

تنبيه الخطورةوقت الاستجابةقناةالمتلقي
حرجةفوريرسالة قصيرة + هاتفمهندس تحت الطلب + مدير
عاليةفي غضون 15 دقيقةسلاك + البريد الإلكترونيقناة الفريق + المالك
متوسطةخلال ساعة واحدةالركودقناة الفريق
منخفضيوم العمل التاليملخص البريد الإلكترونيقيادة الفريق

تنبيه لمنع التعب

يعد إرهاق التنبيه هو القاتل الأول لأنظمة المراقبة. عندما تتلقى الفرق عددًا كبيرًا جدًا من التنبيهات، فإنها تبدأ في تجاهلها جميعًا. منع هذا مع:

  • إزالة التكرار: لا يتم إطلاق نفس التنبيه مرة أخرى حتى يتم حل التنبيه السابق.
  • التجميع: يتم تجميع التنبيهات ذات الصلة في إشعار واحد (على سبيل المثال، "3 خدمات متدهورة" بدلاً من 3 تنبيهات منفصلة).
  • التصعيد: إذا لم يقم أحد بالاعتراف خلال وقت الاستجابة، قم بالتصعيد إلى المستوى التالي.
  • ضبط منتظم: مراجعة سجل التنبيهات شهريًا. يجب إزالة التنبيهات التي لا تؤدي أبدًا إلى اتخاذ إجراء أو خفض درجتها.

استراتيجيات تحديث لوحة المعلومات

الاقتراع مقابل الدفع

الاقتراع: تطلب لوحة المعلومات بيانات محدثة من الخادم بشكل دوري. سهل التنفيذ ولكنه ينشئ حملاً غير ضروري ويقدم زمن وصول مساوٍ للفاصل الزمني للاستقصاء.

Push (WebSocket): يقوم الخادم بدفع التحديثات إلى لوحة المعلومات بمجرد توفر بيانات جديدة. زمن وصول أقل، وتحميل أقل على الخادم، ولكن تنفيذه أكثر تعقيدًا.

الأحداث المرسلة من الخادم (SSE): بديل أبسط لـ WebSocket لتدفق البيانات في اتجاه واحد (الخادم إلى العميل). تفتح لوحة المعلومات اتصال HTTP طويل الأمد، ويرسل الخادم الأحداث. يعمل بشكل جيد عندما تتلقى لوحة المعلومات البيانات فقط ولا ترسلها.

النهج الموصى به

استخدم WebSocket أو SSE لمؤشرات الأداء الرئيسية في الوقت الفعلي والتي يتم تحديثها كل بضع ثوانٍ. استخدم الاستقصاء (كل 30 إلى 60 ثانية) لمؤشرات الأداء الرئيسية التي لا تحتاج إلى تحديث لمدة تقل عن دقيقة. استخدم البيانات المحملة على دفعات من مستودع البيانات للسياق التاريخي المعروض بجانب أرقام الوقت الفعلي.

** تخطيط لوحة القيادة المختلطة: **

  • الصف العلوي: مؤشرات الأداء الرئيسية في الوقت الفعلي عبر WebSocket (الطلبات/الدقيقة، المستخدمون النشطون، الإيرادات المباشرة)
  • الصف الأوسط: رسوم بيانية في الوقت الفعلي تقريبًا من خلال الاقتراع (الاتجاهات على مدار الساعة، وحالة المسار)
  • الصف السفلي: التحليلات المجمعة (مقارنة MTD، التوقعات، توزيع القطاعات)

مثال للتنفيذ: لوحة تحكم المبيعات المباشرة

قد تتضمن لوحة معلومات المبيعات العملية في الوقت الفعلي لشركة تقوم بتشغيل Odoo وShopify المكونات التالية.

تدفق البيانات

  1. يقوم Shopify بإرسال خطافات الطلب على الويب إلى واجهة برمجة التطبيقات (API) الخاصة بك.
  2. يقوم Odoo بإنشاء أحداث الطلب عبر مشغلات قاعدة البيانات أو الاقتراع.
  3. يتم نشر الأحداث على Redis Streams (أو Kafka للحجم الكبير).
  4. يقوم مستهلك التدفق بحساب التجميعات ذات الإطارات وتحديث عدادات Redis.
  5. يقرأ خادم WebSocket عدادات Redis ويدفع التحديثات إلى لوحات المعلومات المتصلة.
  6. تعرض لوحة المعلومات الأرقام والمخططات والتنبيهات المحدثة.

أدوات لوحة التحكم

  • الإيرادات اليوم: عدد كبير مقارنة بنفس اليوم من الأسبوع الماضي. تحديثات على كل أمر.
  • الطلبات في الساعة: مخطط شريطي يوضح آخر 24 ساعة مع شريط في الوقت الفعلي للساعة الحالية.
  • أهم المنتجات: جدول بأفضل 10 منتجات حسب الإيرادات في اليوم الحالي، ويتم تحديثه مباشرةً.
  • الخريطة الحرارية الجغرافية: خريطة توضح كثافة الطلبات حسب المنطقة، ويتم تحديثها حسب كل طلب.
  • مسار التحويل: الزوار، الإضافة إلى سلة التسوق، بدء عملية الدفع، اكتمال الدفع --- كل ذلك في الوقت الفعلي.
  • لوحة التنبيه: تنبيهات نشطة بالخطورة والوقت المفتوح وحالة المهمة.

تكمل لوحة المعلومات المباشرة هذه تحليلات الخدمة الذاتية الأعمق التي تستخدمها فرق العمل للتحليل الاستراتيجي.


الأسئلة المتداولة

ما هي تكلفة البنية التحتية في الوقت الفعلي مقارنة بالدُفعة؟

بالنسبة لشركة متوسطة السوق، تضيف الحزمة الأساسية في الوقت الفعلي (Redis Streams وخادم Node.js WebSocket ولوحة معلومات Grafana) ما بين 100 إلى 300 دولار شهريًا لتكاليف البنية التحتية. يضيف النشر الكامل لـ Kafka مع Kafka Connect ومعالجة البث ما بين 500 دولار إلى 2000 دولار شهريًا اعتمادًا على الحجم وموفر السحابة. قارن ذلك بتكلفة المشكلات التي تكتشفها بشكل أسرع --- إذا كان منع نفاد المخزون مرة واحدة شهريًا يوفر 5000 دولار، فإن البنية التحتية تدفع تكاليفها عدة مرات.

هل يمكننا استخدام Grafana للوحات معلومات الأعمال أم للمراقبة الفنية فقط؟

لقد تطورت Grafana إلى ما هو أبعد من جذور DevOps. يدعم Grafana 10 المخططات الشريطية والمخططات الدائرية والجداول ولوحات الإحصائيات التي تعمل مع مؤشرات الأداء الرئيسية للأعمال. ومع ذلك، فهو يفتقر إلى أداة إنشاء الاستعلامات بدون تعليمات برمجية وميزات استكشاف الخدمة الذاتية لـ Metabase أو Superset. استخدم Grafana للوحات المعلومات التشغيلية في الوقت الفعلي وأداة ذكاء الأعمال المنفصلة لتحليلات الخدمة الذاتية. إنهم يكملون بعضهم البعض بشكل جيد.

ما هو الحد الأدنى من البيانات التي نحتاجها للبدء باستخدام لوحات المعلومات في الوقت الفعلي؟

ابدأ ببث حدث واحد --- إنشاء الطلب هو نقطة البداية الأكثر شيوعًا. أنت بحاجة إلى طريقة لالتقاط الحدث (خطاف ويب Shopify أو مشغل قاعدة بيانات Odoo)، وقائمة انتظار الرسائل (Redis Streams)، ومستهلك يحسب المجاميع، وواجهة أمامية تعرضها. يمكن إنشاء الحد الأدنى من لوحة المعلومات القابلة للتطبيق في الوقت الفعلي خلال أسبوع إلى أسبوعين.


ما هو التالي

تعد لوحات المعلومات في الوقت الفعلي أحد مكونات [إستراتيجية BI] الشاملة (/blog/bi-strategy-mid-market-data-decisions). وهي تعمل بشكل أفضل جنبًا إلى جنب مع التحليلات المجمعة من مستودع البيانات، وأدوات استكشاف الخدمة الذاتية، والنماذج التنبؤية التي تتنبأ بما سيأتي بعد ذلك.

تقوم ECOSIRE ببناء أنظمة مراقبة وتنبيه في الوقت الفعلي ومتكاملة مع Odoo ERP وShopify. تضيف منصة OpenClaw AI اكتشاف الحالات الشاذة إلى عمليات البث الخاصة بك، ويقوم فريق استشارات Odoo بتصميم البنى المستندة إلى الأحداث والتي تعمل على تشغيل لوحات المعلومات المباشرة.

اتصل بنا لمناقشة التحليلات في الوقت الفعلي لعملياتك.


تم النشر بواسطة ECOSIRE --- مساعدة الشركات على التوسع باستخدام الحلول المدعومة بالذكاء الاصطناعي عبر Odoo ERP، وShopify eCommerce، وOpenClaw AI.

E

بقلم

ECOSIRE Research and Development Team

بناء منتجات رقمية بمستوى المؤسسات في ECOSIRE. مشاركة رؤى حول تكاملات Odoo وأتمتة التجارة الإلكترونية وحلول الأعمال المدعومة بالذكاء الاصطناعي.

الدردشة على الواتساب