Büyük Veri

Temmuz, 2019

• 14 Temmuz

  Sık Kullanılan Hadoop HDFS Komutları

  

  Merhabalar bu yazımızda en sık kullanılan Hadoop hdfs komutlarına örnekler vereceğiz. Öncelikle belirtmem gerekir ki nasılki linux dünyasının süper kullanıcısı root ise hdfs dünyasının da süper kullanıcısı hdfs kullanıcıdır. Komutlar içinde sık sık hdfs kullanacağız. Bu hdfs’lerin bazısı kullanıcı bazısı …

Mayıs, 2019

• 27 Mayıs

  Kategorik Veri Analizi ve Shiny Web Uygulamaları – 6

  

  Fahreneight 451, bir kitabı yakmak için gereken sıcaklık değeridir. İnsanlığın bilincini oluşturan, gerçeklik hakkında bilgiler veren, devletler kurup yıktıran bu inanılmaz güçten bahsediyorum. İtfaiyeciler, insanları bilinçsizleştirmek için onların kitap okumalarını engelleyerek onları tekdüze hale getirmeye çalışan bir sistemin işçileri. Görev …

Nisan, 2019

• 27 Nisan

  HDP-Sandbox içinde YARN’a Daha Fazla Kaynak Tahsis Etmek

  

  Merhabalar. Bu yazımızda Hortonworks’ün Hadoop sürümü olan HDP 2.6.4 Sandbox üzerinde YARN’a daha fazla kaynağı nasıl tahsis edeceğimizi göreceğiz. Bu yazımızın amacı Sandbox ile uygulama yaparken en fazla bir YARN uygulaması çalıştırabilecek kadar kısıtlı kaynağa (özellikle de RAM) sahip omasıdır. …
• 21 Nisan

  Apache Spark ile Parquet Formatında Veri Okuma (Python)

  

  Merhaba bu yazımızda parquet uzantılı bir dosyanın pyspark ile nasıl okunacağını göreceğiz. Bu yazıyı yazmamızın sebebi pyspark ile parquet dosyası okumanın, standart dataframe API’si ile csv gibi yaygın formatları okumaktan farklılık göstermesidir. Bu çalışma esnasında kullandığım ortamlar: İşletim sistemi: Windows …
• 21 Nisan

  Apache Spark ile Parquet Formatında Veri Yazma ve Okuma (Scala)

  

  Merhaba. Bu yazımızda Apache Spark ile [crayon-5d34dc70bd994356082161-i/] uzantılı bir veri dosyasını okuyup [crayon-5d34dc70bd99d027510707-i/] uzantılı olarak diske kaydedeceğiz ve kaydettiğimiz parquet dosyasını tekrar Spark ile okuyacağız. Spark, birçok formatta veriyi okuyup yazabiliyor. Parquet, csv dosyalarına göre daha az yer kapladığı gibi okuma performansı da daha …
• 14 Nisan

  Spark Dataframe İçindeki Kategorik Nitelikleri Otomatik Olarak Seçmek

  

  Merhaba. Spark dataframe ile çalışırken zaman zaman içindeki kategorik değişkenleri seçeriz. Özellikle makine öğrenmesi öncesinde veri hazırlığı aşamasında bunu mutlaka yapmalıyız. Çünkü kategorik nitelikler veri hazırlığı sürecinde stringIndexer, OneHotEncoder gibi daha farklı aşamalardan geçer. Bu yazımızda Spark dataframe içindeki nitelikleri kategorik …
• 14 Nisan

  Apache Spark DataFrame İçinden Değerlere Ulaşmak

  

  Merhabalar. Bu yazımızda Apache Spark Dataframe içindeki tekil bir değeri basit veri türünde (Int, Double vb.) nasıl elde edeceğimizi bir örnek ile göreceğiz. Benim yaptığım çalışma esnasında kullandığım ortam bilgileri: İşletim sistemi: Windows 10 64 bit Pro IDE: Intellij IDEA …
• 4 Nisan

  Hadoop-Spark Big Data Developer Eğitimi

  

  HADOOP VE SPARK DEVELOPER EĞİTİMİ (5 GÜN) Bu uygulamalı eğitim kursu, Hadoop ve Apache Spark 2 ile yüksek performanslı dağıtık uygulamalar geliştirmek için katılımcıların temel kavramları anlamasını ve uygulama seviyesinde yetenek kazanmalarını sağlar. Katılımcılar, Hadoop’un temel kavramlarını ve çalışma mantığını …

Mart, 2019

• 27 Mart

  Kategorik Veri Analizi ve Shiny Web Uygulamaları – 5

  

  Bundan önceki yazılarımda totaliter yönetim yapısını, halkın baskıcı bir yönetim sisteminin içerisine sokuşturulması ve içeride zorla tutulması şeklinde işlemiştik. Peki halk bu sistemin içerisinde kendi isteği ile  yer alıyorsa bunun adı nedir? Bunun sorumlusu kimdir? Günümüzde daha güzel evlerde oturmak, …

Şubat, 2019

• 27 Şubat

  Kategorik Veri Analizi ve Shiny Web Uygulamaları – 4

  

  Günümüzde gelişen teknolojilerle birlikte elimizdeki verileri kullanarak matematiksel modeller oluşturup, araştırılan konular hakkında tahminlemeler yapabiliyoruz. Bunu istatistik ile, yani belirli bir hata payı ile yapıyoruz. Örneğin bir bölgenin gelir seviyesinin incelendiği bir çalışmayı ele alalım ve bu çalışmada Doğrusal Regresyondan …