Budapest University of Technology and Economics, Faculty of Electrical Engineering and Informatics

    Belépés
    címtáras azonosítással
    vissza a tantárgylistához   nyomtatható verzió    

    Információelmélet

    A tantárgy angol neve: Information Theory

    Adatlap utolsó módosítása: 2006. július 1.

    Tantárgy lejárati dátuma: 2015. január 31.

    Budapesti Műszaki és Gazdaságtudományi Egyetem
    Villamosmérnöki és Informatikai Kar

    Műszaki Informatika Szak
    Tantárgykód Szemeszter Követelmények Kredit Tantárgyfélév
    VIMA3209 6. 4/0/0/v 5 1/1
    3. A tantárgyfelelős személy és tanszék Dr. Györfi László,
    4. A tantárgy előadója

    Név:

    Beosztás:

    Tanszék, Int.:

    Dr. Györfi László

    Dr. Pintér Márta

    egyetemi tanár

    egyetemi adjunktus

    Számítástudományi és Információelméleti Tanszék
    5. A tantárgy az alábbi témakörök ismeretére épít

    Valószínüségszámítás, Tömegkiszolgálás

    6. Előtanulmányi rend
    Kötelező:
    TárgyEredmény( "BMEVIMA2203" , "jegy" , _ ) >= 2
    VAGY
    TárgyEredmény( "BMEVIMA2606" , "jegy" , _ ) >= 2
    VAGY
    TárgyEredmény( "BMEVIMA2512" , "jegy" , _ ) >= 2
    VAGY
    TárgyEredmény( "BMETE902923" , "jegy" , _ ) >= 2
    VAGY
    TárgyEredmény( "BMEVIDH8515" , "jegy" , _ ) >= 2
    VAGY
    TárgyEredmény( "BMEVISZA208" , "jegy" , _ ) >= 2
    VAGY
    KépzésLétezik( ahol a KépzésKód = "5N-08S")
    VAGY
    KépzésLétezik( ahol a KépzésKód = "5N-M8")

    A fenti forma a Neptun sajátja, ezen technikai okokból nem változtattunk.

    A kötelező előtanulmányi rend az adott szak honlapján és képzési programjában található.

    Ajánlott:

    Tömegkiszolgálás, kredit

    7. A tantárgy célkitűzése

    A tárgy fő célja az, hogy bemutassa az információ közlésének és feldolgozásának fő törvényszerűségeit, elvi határait, és ezen elvi határokat közelítő eljárásokat (kódok, hozzáférési algoritmusok, döntések, becslések).

    8. A tantárgy részletes tematikája

    Entrópia és tulajdonságai Feltételes entrópia és tulajdonságai. Kölcsönös információ és tulajdonságai. Egyértelmű dekódolhatóság, prefix kód. Jensen-egyenlőtlenség. McMillan-egyenlőtlenség, Kraft-egyenlőtlenség. Üzenet változó szóhosszúságú kódolása. Shannon--Fano-kód. Huffman-kód. Lempel-Ziv algoritmusok. Forrásentrópia. Stacionárius forrás változó szóhosszúságú kódolása. Markov-forrás. Forráskódolás előírt hibavalószínűséggel.
    Információstabilitás. Forráskódolás betűnkénti hűségkritériummal (bizonyításvázlat). Egyenletes kvantáló négyzetes hibája, egyenletes kvantáló entrópiája, Lloyd--Max-algoritmus. Kompanderes kvantálás. Vektorkvantálás. Prediktív kvantálás (DPCM, DM). Lineáris becslés. Transzformációs kódolás Hang- és beszédkódolás. Képkódolás, videokódolás. Bayes-döntés. Maximum likelihood döntés bináris szimmetrikus csatorna kimenetén. Optimális detektálás. Emlékezetnélküli csatorna. Csatornakapacitás. Fano-egyenlőtlenség. Csatornakódolási tétel megfordítása. Csatornakódolási tétel (bizonyításvázlat).

    9. A tantárgy oktatásának módja (előadás, gyakorlat, laboratórium)

    Előadás (konzultációval).

    10. Követelmények

    a. A szorgalmi időszakban:

    1 zárthelyi a 9. héten. Javító célú pót-ZH nincs.

    Az aláírás feltétele: a zárthelyi legalább 40%-os.

    Az aláírás pótlására a szorgalmi időszak utolsó hetében van lehetőség szóbeli beszámoló formájában.

    b. A vizsgaidőszakban: szóbeli vizsga

    c. Elővizsga: nincs

    13. Jegyzet, tankönyv, felhasználható irodalom

    Györfi László, Győri Sándor, Vajda István: Információelmélet és kódelmélet, Typotex, 2000

    Linder Tamás, Lugosi Gábor: Bevezetés az információelméletbe, Tankönyvkiadó 1990

    15. A tantárgy tematikáját kidolgozta

    Név:

    Beosztás:

    Tanszék, Int.:

    Dr. Györfi László

    egy. tanár

    Számítástudományi és Információelméleti Tanszék

    vima3209.doc