الدرس 30: القيم غير الطبيعية والتصنيف والتجميع والتحويل وإعادة الهيكلة
القيمة غير الطبيعية
هي قيمة بعيدة عن النمط المعتاد، لكنها ليست خطأ تلقائيًا. قد تمثل حالة حقيقية مهمة مثل صفقة كبيرة أو تأخير استثنائي. افحص السبب قبل الحذف.
اكتشاف القيم الشاذة
يمكن استخدام حدود أعمال معروفة، أو توزيعات، أو مقاييس إحصائية، أو مقارنة مع فئة مشابهة. الطريقة تعتمد على طبيعة المتغير ولا توجد عتبة واحدة للجميع.
التصنيف
يضع كل عنصر في فئة وفق قواعد أو نموذج. يحتاج قاموسًا يعرّف الفئات وحدودها وأمثلة للحالات الملتبسة. تغير التصنيف بمرور الوقت يجب توثيقه.
التجميع
يجمع سجلات على مستوى أعلى: طلبات إلى عميل، أيام إلى شهر، أو منتجات إلى فئة. قبل التجميع اعرف ما إذا كان الجمع أو المتوسط أو العدد هو المقياس الصحيح.
التحويل
يغير تمثيل القيمة مثل تحويل العملات أو الوحدات أو استخراج مدة من تاريخين أو حساب نسبة. احتفظ بالحقول الأصلية عندما تكون مهمة للتتبع.
الدمج
يربط مصادر متعددة بمفتاح مشترك. افحص نوع العلاقة: واحد لواحد، واحد لكثير، أو كثير لكثير. الدمج غير الصحيح يكرر السجلات ويضخم الأرقام.
الفصل
قد تحتاج فصل حقل مركب إلى عناصر أو تقسيم مجموعة واحدة إلى جداول مختلفة. يجب ألا تضيع العلاقة بين الأجزاء.
إعادة الهيكلة
تغير شكل البيانات ليتناسب مع التحليل، مثل تحويل أعمدة الأشهر إلى صفوف أو العكس. الشكل الصحيح يعتمد على الأداة والسؤال.
التحقق من الجودة
بعد المعالجة اختبر عدد السجلات، المفاتيح، المجاميع، القيم الفريدة، والنقص. أنشئ قواعد توقف إذا تجاوزت النتيجة حدودًا غير منطقية.
استخدام الذكاء
مفيد في تصنيف النصوص غير المنظمة واقتراح خرائط تحويل، ويمكنه مراجعة عينة من نتائج المعالجة بحثًا عن تناقضات. القواعد الأساسية والحقول الحساسة تحتاج تحققًا منهجيًا.