2.1. El modelo comunicacional desarrollado por Shannon y Weaver se basa en un sistema de comunicación general que puede ser representado de la siguiente manera:FUENTE DE INFORMACION: selecciona el mensaje deseado de un conjunto de mensajes posibles. TRANSMISOR: transforma o codifica esta información en una forma apropiada al canal. SEÑAL: mensaje codificado por el transmisor. CANAL: medio a través del cual las señales son transmitidas al punto de recepción. FUENTE DE RUIDO: conjunto de distorsiones o adiciones no deseadas por la fuente de información que afectan a la señal. RECEPTOR: decodifica o vuelve a transformar la señal transmitida en el mensaje original o en una aproximación de este haciéndolo llegar a su destino.
3. Información
3.1. El concepto de información es definido en términos estrictamente estadísticos, bajo el supuesto que puede ser tratado de manera semejante a como son tratadas las cantidades físicas como la masa y la energía. La palabra "información" no está relacionada con lo que decimos, sino más bien, con lo que podríamos decir. El concepto de información se relaciona con la libertad de elección que tenemos para seleccionar un mensaje determinado de un conjunto de posibles mensajes. Si nos encontramos en una situación en la que tenemos que elegir entre dos únicos mensajes posibles, se dice, de un modo arbitrario, que la información correspondiente a esta situación es la unidad.
4. Redundancia
4.1. No obstante lo anterior, la mayoría de las fuentes de información producen mensajes que no consisten en una única elección entre posibilidades de igual probabilidad, sino en elecciones sucesivas entre posibilidades de probabilidad variable y dependiente. A este tipo de secuencias se les denomina procesos estocásticos. Como ya lo mencionamos, el caso más típico son las letras y palabras que conforman el lenguaje. El escribir en español constituye un proceso de elecciones dependientes. Por ejemplo, al formar una palabra se elige una primera letra de todas las posibles primeras letras con diferentes probabilidades; luego, se elige la segunda letra cuya probabilidad depende de la primera letra seleccionada, y así sucesivamente hasta formar la palabra deseada.
5. Organization
5.1. El teorema fundamental para un canal sin ruido que transmite símbolos discretos afirma que si se emplea un procedimiento adecuado de codificación para el transmisor es posible conseguir que el ritmo medio de transmisión de símbolos por el canal sea muy próximo a C/H. Por muy perfecto que sea el procedimiento de codificación, dicho ritmo nunca podrá ser mayor de C/H.
