Teoría de la información y codificación: el significado de la entropía en la transmisión de información

Abstract

Desarrollaré algunas de las ideas más interesantes en uso del concepto de entropía, aplicado en la teoría de información y codificación. Este siempre ha sido un tema discutido y que da muchas interpretaciones del fenómeno, según el observador se encuentre posicionado (desde la fuente de información ù observando la misma. El objetivo de esta publicación, es presentar algunos aspectos, que de describen matemáticamente el concepto básico de entropía, dado que la entropía cobra singular importancia en el estudio de cualquier fuente de información o la capacidad de los canales, también está relacionada con la incertidumbre que existe en cualquier señal de tipo aleatoria.