Bilgi Paketi

Elektrik Elektronik Mühendisliği Doktora Programı

EEM632

ENFORMASYON KURAMI

Ders Kodu
EEM632
Yarıyıl
-
Teori+Uygulama
3 + 0
AKTS
10
Dersin TürüSeçmeli
Dersin DüzeyiDoktora
Dersin Yılı-
Dersin Yarıyılı-
AKTS10
Öğretim Eleman(lar)ı -
Öğrenme Kazanımları

Bu dersin sonunda öğrenciler;

  1. Entropi, bağıl entropi ve etkileşimli bilgiyi öğrenir.
  2. Markov zinciri, saklı Markov modellerini öğrenir.
  3. Verinin sıkıştırılması, kanal kapasitesini öğrenir.
  4. Sıfır-hata kodları, Huffman kodlama, Hamming kodlarını öğrenir.
  5. Geri besleme kapasitesi, diferansiyel entropiyi öğrenir.
  6. Hız bozulma teorisi, ağ bilgi teorisini öğrenir.
Veriliş BiçimiYüz Yüze
ÖnkoşullarYok
Önerilen DerslerYok
Ders TanımıEnformasyon kuramı ve İstatistik ile olan ilişkisi. Haberleşmedeki Shannon kuramı. Belleksiz kaynaklar ve kanallar. Entropi ve enformasyon. Veri sıkıştırma ve güvenli haberleşme için kodlama.
Ders İçeriği
HAFTA KONULAR
1. Hafta Entropi, bağıl entropi ve etkileşimli bilgi. Entropi hızı.
2. Hafta Markov zinciri, saklı Markov modelleri.
3. Hafta Verinin sıkıştırılması.
4. Hafta Huffman kodlama. Aritmetik Kodlama.
5. Hafta Kanal kapasitesi. Kanal kodlama teorisi.
6. Hafta Sıfır-hata kodları.
7. Hafta Hamming kodları.
8. Hafta Arasınav
9. Hafta Geri besleme kapasitesi.
10. Hafta Diferansiyel entropi
11. Hafta Gauss kanalı, bantsınırlı kanallar.
12. Hafta Maksimum entropi ve izgesel kestirim.
13. Hafta Hız bozulma teorisi.
14. Hafta Ağ bilgi teorisi.
KaynaklarT. M. Cover (1991), Elements of Information Theory, John Wiley;
D.J.C. Mackay (2005), Information Theory, Interference and Learning Algorithms, Cambridge.
Öğretim Yöntemleri
  • Anlatım
  • Soru-Cevap
  • Sunum
Değerlendirme
Sayısı Toplam Katkısı (%)
Ara Sınav 1 35
Ödev 1 12
Mini-Sınav 2 13
Toplam(%) 47
Yıl İçinin Başarıya Oranı(%) 47
Finalin Başarıya Oranı(%) 53
Toplam(%) 100
AKTS İş Yükü
Aktivite Sayı Süre (Saat) İş Yükü
Ara Sınav 1 3 3
Kısa Sınavlara hazırlık 0 0 0
Sınıf Dışı Ders Çalışma Süresi 14 8 112
Final Sınavına Hazırlık 1 40 40
Ders Saati 14 3 42
Ara Sınava Hazırlık 1 30 30
Laboratuvar 0 0 0
Final Sınavı 1 3 3
Ödevler 2 35 70
Toplam İş Yükü300
Toplam İş Yükü / 3010
Dersin AKTS Kredisi10
DilTürkçe
Staj / UygulamaYok
Ö1 Ö2 Ö3 Ö4 Ö5 Ö6
P1
P2 X X X X X X
P3 X X X X X X
P4 X X X X X X
P5
P6
P7
P8
P9
P10
P11