Tahmin projelerinde baz çizgisi: naif yöntem neden yenilmeli
Bir tahmin modeli, “son değeri tekrarla” kadar basit bir yöntemden ölçülebilir biçimde iyi olmadıkça karmaşıklığı hak etmez.
Zaman serisinde eğitim ve test verisi zamana göre ayrılır: önce eğitim dönemi gelir, sonra test dönemi. Veri karıştırılmaz. Ölçekleyici, özellik pencereleri ve diğer ön işlemler yalnızca eğitim dönemine göre kurulur. Değerlendirmede kayan pencere (walk-forward) kullanılırsa her test dönemi, eğitimin gördüğü verinin ardından gelir.
Standart rastgele bölmede (shuffle) ardışık saatlerin satırları hem eğitimde hem testte bulunur. Bir saatin değeri, bir sonraki saatin değerine neredeyse eşittir. Model bu komşuluğu öğrenir ve test skoru olduğundan iyi görünür. Oysa sahada model geleceği tahmin etmek zorundadır ve bu komşu yoktur.
Doğru ayrım zamana dayalıdır: eğitim dönemi, test döneminden önce biter. Tek bir kesim noktası en basit yöntemdir. Ancak tek bir test dönemi, tek bir olayın ya da tek bir mevsimin şansına bağlı olabilir. Bu yüzden birden çok ardışık katlama kullanmak daha güvenilir bir tablo verir.
Varsayımsal bir pompa için 365 günlük saatlik kayıt var: toplam 365 × 24 = 8 760 satır. İlk 300 gün (7 200 satır) eğitim, son 65 gün (1 560 satır) test için ayrılıyor. 7 200 + 1 560 = 8 760 olduğundan hiçbir satır kaybolmuyor.
Kayan pencere değerlendirmesinde kesim noktası ilerler:
Her test dönemi 30 gündür. Üç katlamada toplam 90 günlük ayrı bir değerlendirme yapılmış olur. Sonuçlar tek bir sayı olarak değil, katlamalar arasındaki dağılım olarak yorumlanmalıdır.
Sızıntı (leakage), test dönemine ait bilginin eğitim sürecine girmesidir. Üç yaygın yolu vardır:
Bunları önlemek için her dönüşüm yalnızca o katlamanın eğitim verisine uydurulmalı ve kayan özellikler gelecekteki değerlere başvurmadığı için kontrol edilmelidir.
Genel kural, boşluğun özellik pencereleri ile tahmin ufku kadar olmasıdır. Örneğin 24 saatlik özellikler ve 6 saatlik bir tahmin ufku için en az 24 saatlik bir boşluk düşünülebilir. Doğru değer, özelliklerin ne kadar geriye baktığına bağlıdır; bunu özellik kodundan kontrol edin.
Karıştırılmamış, zamana dayalı katlamalarla kullanılabilir. Standart k-katlı çapraz doğrulama ise veriyi karıştırır; gelecek veriyi eğitim katlarına koyar ve sonuçları olduğundan iyi gösterir. Zamana duyarlı varyantlarda her test katlamasından önce yalnızca geçmiş veri eğitimde kullanılır.
Örnek sayılar varsayımsaldır; sahada doğrulanmış sonuç iddiası değildir.