图书信息
作者:陈运等编
ISBN:10位[7505378058]13位[9787505378056]
出版社:电子工业出版社
出版日期:2006-7-1
定价:22.00元
内容提要
《信息论与编码(第2版)》重点介绍由香农理论发展而来的信息论的基本理论以及编码的理论和实现原理。全书分7章,在介绍了有关信息度量的基础上,重点讨论了信道容量、率失真函数,以及无失真信源编码、限失真信源编码、信道编码和密码学中的理论知识及其实现原理。
《信息论与编码(第2版)》注重概念,采用通俗的文字,联系目前实际通信系统,用较多的例题和图不阐述基本概念、基本理论及实现原理,尽量减少繁杂的公式定理证明。
在各章的最后还附有内容小结和大量习题,书后附有部分习题答案,便于读者学习,加深对概念和原理的理解。此外,《信息论与编码(第2版)》有配套电子教案。
本书统论述香农信息论。主要介绍信息的定义、信息论的起源、发展及研究内容;香农信息论的三个基本概念,即信源熵、信道容量和信息率失真函数,以及与这三个概念相对应的三个编码定理;信源编码和信道编码的基本方法等内容。为了便于教学和读者自学,每章后面都附有习题。
本书不追求高深的数学理论,尽可能以通俗、生动的语言强化物理概念的描述,特别适合于初学者,已掌握工科高等数学和工程数学的读者都能读懂本书。
本书可作为高等院校、科研院所信息科学与信息技术相关专业的高年级本科生、低年级研究生的教材或教学参考书,也可供从事信息科学和信息技术的科研和工程技术人员参考。
目录
第1章概论
1.1信息的一般概念
1.2信息的分类
1.3信息论的起源、发展及研究内容
第2章信源熵
2.1单符号离散信源
2.1.1单符号离散信源的数学模型
2.1.2自信息和信源熵
2.1.3信源熵的基本性质和定理
2.1.4加权熵的概念及基本性质
2.1.5平均互信息量
2.1.6各种熵之间的关系
2.2多符号离散平稳信源
2.2.1序列信息的熵
2.2.2离散平稳信源的数学模型
2.2.3离散平稳信源的信源熵和极限熵
2.2.4马尔可夫信源
2.2.5信源冗余度及信息变差
2.3连续信源
前言
1948年,美国科学家香农(Shannon)发表了一篇题为“通信的数学理论”的学术论文,这篇划时代论文的问世,宣告了信息论的诞生。
从信息的度量开始,信息的概念在不断扩大和深化并迅速地渗透到其他相关学科领域,如无线电技术、自动控制、人工智能、神经网络、信号处理、网络技术、计算机技术、生命科学、材料科学、心理学、密码学、质量管理、市场营销、信息经济、美学等等。
信息论的研究领域从自然科学扩展到经济、管理科学甚至人文社会科学,从狭义信息论发展到如今的广义信息论,成为涉及面极广的信息科学。进入21世纪,国际社会迅速向信息化方向迈进,通信技术、计算机技术、网络技术、微电子技术等信息技术的..
序言
信息论与编码理论是50多年前由美国科学家C.E.Shannon、R.W.Hamming等人创立的。它以Shannon的不朽名着《通信的数学理论》为里程碑。
几十年来许多优秀的学者、工程师共同努力推动了信息论与编码的理论和实践的发展,现在信息论与编码理论已成为信息科学的基础理论,也成为20世纪后半叶数字化革命的主要理论和技术支柱。
国外的一流学校在20世纪50年代末就开始设立信息论与编码课程,目前国内各高等院校的电子信息类专业本科生、研究生也都已把信息论与编码作为一门重要的专业基础理论课。
由于信息论与编码的许多思想和方法已广泛地渗透到许多领域,它的许多研究成果也具有普遍意义,因此信息论与编码在许多领域,如在计算机、系统科学、统计学、物理学、生物学、经济学甚至社会学中都获得了成功的应用。
信息论与编码理论对于从事这些相关领域工作和学习的人员来说也极具参考价值。
本书在作者多年教学经验和研究实践的基础上编写而成,由于信息论与编码本身既是一门工程科学,同时又是一门应用数学,因此作为教材必须既保持论述的科学性、严谨性,又要求深入浅出、通俗易懂,能为工程师所理解。
本书中对于抽象的概念辅以必要的例子予以说明,对于复杂的证明则着重讲清证明思路而忽略繁琐的细节。本书所要求的数学基础是初等的,只要具有概率论、随机过程、线性代数和离散数学中的初等知识就足够了,
但也要求读者具有一定的抽象思维能力。对于像Shannorl理论中的精华——典型列理论和随机编码方法必须要慢慢地咀嚼、细细地品味才能体会它的真谛。
信息论与编码是一门应用科学,它最基本的应用背景是通信。著名的通信理论家Viterbi说过,如果把现代通信技术比喻成飞船,则晶体管是它的引擎而信息论是它的方向盘。
在本书中突出了信息论和编码的应用,特别强调在通信中的应用。这样理论与应用结合,有助于读者了解产生理论和解决问题的实际背景,也提高了工科学生的学习兴趣。