Anasayfa / Genel bir bakış / Bootstrap (Yeniden Örnekleme) Nedir ?

Bootstrap (Yeniden Örnekleme) Nedir ?

Utku Kubilay ÇINAR

 

Bootstrap Yöntemi, istatistik alan(lar)ında sıklıkla kullanılan yöntemlerin başında gelmektedir. Bootstrap yöntemleri ya da algoritmalarındaki asıl amaç veriden, büyük veri setleri oluşturmak (üretmek) ve yeniden örnekleme yapmaktır.

Bootstrap yönteminde, yapılacak olan yorumu bazı parametrelerin istatistiksel çıkarımlarıyla yeniden çizilmesiyle yapılmaktadır. Ardından bu işlemin daha güvenilir olabilmesi için fazlaca tekrarlanır. Bootstrap yöntemiyle, varyans tahminleri başarılıyla elde edilmektedir ve varyans tahminleri konusunda sıklıkla kullanılmaktadır. Ayrıca Bootstrap metodu, örnek dağılışının normal olmadığı durumlarda ya da çok küçük veri setlerinde varyans analizine göre üstünlük taşımaktadır (TAKMA, Ç. ve ATIL, H).

Bootstrap metodu, yoğun matematik formüllerinden uzak, sınırlı varsayımlara sahip, anlaşılması ve kullanılması oldukça kolay bir yöntemdir (Simon ve Bruce, 1991). Özellikle varsayımların yetersiz kaldığı durumlarda güvenilir sonuçlar vermektedir. Bootstrap metodu, olasılıkta olduğu gibi (Takma, Ç. ve Atıl, H.), güven aralıkları, hipotez testi ve regresyon analizinde de kullanılmaktadır (Efron ve Tibshirani 1993).

Bootstrap Örneklemesi

Kitle dağılımı hakkında hiçbir varsayım yapılmamışsa, küçük hacimli örneklemede, kitle ortalaması için güven aralığı söyleyemeyiz, aralık tahmini yapamayız. Bu gibi sorunların altından kalmak için elimizdeki veri üzerinde “yeniden n hacimlik örneklemeler” yapılıp, ilgili istatistiğin değeri çok kez gözlenip, dağılımı hakkında fikir elde edilebilir. (Kaynak: http://80.251.40.59/science.ankara.edu.tr/ozturk/Dersler/ist312/Ders10/Ders10.pdf)

Uygulama

R programındaki hazır veri seti üzerinden Bootstrap örneklemesi kullanarak yeni gözlemler oluşturalım. “ACSWR” kütüphanesinden “nerve” veri seti bu analizde kullanılmıştır.

library(ACSWR) # veri seti için
data("nerve")
library(boot) # Bootstrap İşlemleri için Kullanılan Kütüphane

carpiklik <- function(x,i){

ort = mean(x[i]) 
toplam = sum((x[i]-ort) ̂ 2)/length(x[i])
ortalama = mean((x[i]-ort) ̂ 3)/(toplam ̂ (3/2)) 
return(ortalama) 
}

# örneklemenin temsiliyet durumu

# 1.000 örneklem ile işlemimizi yapalım

boot(data = nerve, # veri seti
     statistic = carpiklik , # yapılacak işlem
     R =c1000) # Bootstrap işlemi tekrar sayısı

Yaptığımız işlemler sonucunda orjinal değerimiz 1.76 olarak bulunmuştur. Yaklaşık 1.000 tane bootstrap yani yeniden örnekleme yaptığımızda orjinal veriye olan yanlılığımız (bias) 0.012 olmuştur, standart sapmamız ise 0.16 olarak belirlenmiştir. Dağılımını bilmediğimiz bir veriden üretilen yeni örneklemlerin yanlılık ve sapma değerleridir.

Eğer 1.000 tekrar yerine 5.000 tekrar yapsaydık yani, bootstrap değerimizi (R) yükselttiğimizde yanlılık ve sapma değerimiz nasıl bir değişime uğrayacak bunu inceleyelim.

# 5.000 örneklem ile

boot(data = nerve, # veri seti
     statistic = carpiklik, # yapılacak işlem
     R = 5000) # Bootstrap işlemi tekrar sayısı

Görüldüğü üzere yanlılık hafif miktarda artmış ve standart sapmamız azalmıştır.

Başka bir Uygulama Yapalım

İris veri seti ile yeniden örnekleme yapalım ve ürettiğimiz veriler ile orjinal verilerin yanlılığını-sapmalarını inceleyelim.

# istatistik fonksiyonu oluşturalım. Bununla 2 bileşenli veri setimizde bileşenler arasındaki ilişkiye bakalım ve ayrı ayrı ortanca değerlerini inceleyelim.

istatistik <- function(data, indeks){

  dt= data[indeks,]

  c(
    cor(dt[,1], dt[,2], method = "s"), # spearman korelasyonu
    median(dt[,1]),
    median(dt[,2])
    )
}

bootstrap_sonuc <- boot(data = iris, # iris veri seti
                    statistic = istatistik, # oluşturduğumuz fonksiyon
                    R=1000) # Bootstrap işleminde tekrarlı örnek sayısı (number of repetitions)
                   
# $t0 = Orjinal veri
# $t = ürettiğimiz veri

# bootstrap_sonuc$t = bootstrap prosedürü (R'nin bootstrap gerçekleştirmeleri) tarafından oluşturulan istatistiklerimizin R değerlerini içerir.

head(bootstrap_sonuc$t, 10)
##              [,1] [,2] [,3]
##  [1,] -0.26405188 5.70  3.0
##  [2,] -0.12973299 5.80  3.0
##  [3,] -0.07972066 5.75  3.0
##  [4,] -0.16122705 6.00  3.0
##  [5,] -0.20664808 6.00  3.0
##  [6,] -0.12221170 5.80  3.0
##  [7,] -0.29356913 5.70  3.0
##  [8,] -0.11368900 5.70  3.0
##  [9,] -0.15260835 5.85  3.1
## [10,] -0.15772740 6.00  3.0
bootstrap_sonuc$t0 # Orjinal veri setindeki istatistiklerimiz ( korelasyon, medyan 1, medyan 2)
## [1] -0.1667777  5.8000000  3.0000000
bootstrap_sonuc # Parametrik Olmayan Bootstrap işlemimizdeki sapma ve yanlılık değerlerimiz 
# (gerçekleşen ile ürettiğimiz arasındaki fark (korelasyon - medyan 1 - medyan 2 değerleri farklılıkları))
## 
## ORDINARY NONPARAMETRIC BOOTSTRAP
## 
## 
## Call:
## boot(data = iris, statistic = istatistik, R = 1000)
## 
## 
## Bootstrap Statistics :
##       original       bias    std. error
## t1* -0.1667777  0.002546391  0.07573983 # korelasyon 
## t2*  5.8000000 -0.013350000  0.10295571 # medyan 1 
## t3*  3.0000000  0.007900000  0.02726414 # medyan 2

Orjinal veriye göre ürettiğimiz değerlerin sapmaları ve yanlılıkları tablodaki gibidir.

Güven Aralıklarını İnceleyelim

Nokta tahmini yapmaktansa Güven Aralıkları ile yapılan tahminler daha fazla bilgi vermektedir. Bu sebeple Bootstrap yönteminde hipotez testleri ve güven aralıklarının kullanılmasındaki asıl amaç, veri setimizin dağılımını bilmeden hipotez testinin yapılmasıdır.

boot.ci(bootstrap_sonuc, index=1, type=c('basic','perc'))
## BOOTSTRAP CONFIDENCE INTERVAL CALCULATIONS
## Based on 1000 bootstrap replicates
## 
## CALL : 
## boot.ci(boot.out = bootstrap_sonuc, type = c("basic", "perc"), index = 1)
## 
## Intervals : 
## Level      Basic              Percentile     
## 95%   (-0.3212, -0.0329 )   (-0.3007, -0.0124 )  
## Calculations and Intervals on Original Scale

Olarak güven aralıklarını bulmuş oluyoruz.

 

Varsayımlarınızın sağlanması dileğiyle,

Veri ile kalın, Hoşça kalın..

 

Kaynakça

  • EFRON, B. and Tibshirani, R., (1993),  An introduction to the Bootstrap, Chapman and Hall, New York.
  • TAKMA, Ç. ve ATIL, H., (2006), “Bootstrap Metodu ve Uygulanışı Üzerine Bir Çalışma 2. Güven Aralıkları, Hipotez Testi ve Regresyon Analizinde Bootstrap Metodu”, Ege Üniversitesi, Ziraat Fakültesi Dergisi, 43(2):63-72.
  • WEHRENS, R., H. Putter and L.M.C. Buydens, (2000), The bootstrap: a tutorial. Chemometrics and Intelligent Laboratory Systems, 54:35-52.
  • https://www.datacamp.com/community/tutorials/bootstrap-r
  • Görsel Kaynak: https://www.statisticshowto.datasciencecentral.com/bootstrap-sample/

 

Hakkında Utku Kubilay ÇINAR

YTÜ - Yüksek Lisans Doğuş Teknoloji - Data Scientist

GÖZ ATMAK İSTEYEBİLİRSİNİZ

is-zekasi-terimleri

İş Zekası ile İlgili Temel Kavramlar

Giriş Herkese merhaba! Bu yazımda temel iş zekası terimlerini bir araya getirerek tüm aradıklarınızı bulabilmenizi …

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir