Měření množství informace - Historie editací

Spravce: /* Klíč řešení: */ Oprava řešení úkolu Vodácký kurz var 3.

2022-11-11T07:42:21Z

Klíč řešení:: Oprava řešení úkolu Vodácký kurz var 3.

← Starší verze		Verze z 11. 11. 2022, 07:42
Řádka 89:		Řádka 89:
	# 2 b		# 2 b
	# ~ 1,68 b		# ~ 1,68 b
−	# ~ 1,42 b	+	# ~ 0,83 b
	# 4 b		# 4 b
	# ~ 0,74 b		# ~ 0,74 b

Spravce: Oprava věty o logaritmech.

2019-12-09T14:32:47Z

Oprava věty o logaritmech.

← Starší verze		Verze z 9. 12. 2019, 14:32
Řádka 28:		Řádka 28:
	* (Platí, že <tt>0 <= p(x) <= 1</tt>.)		* (Platí, že <tt>0 <= p(x) <= 1</tt>.)

		+	<div class="Poznamka">
	; Poznámka — počítání s logaritmy		; Poznámka — počítání s logaritmy
−	log<sub>2</sub> a (x) = log<sub>2</sub> b (x) / log<sub>2</sub>b (a)	+	Pokud nemáme k dispozici kalkulačku, která by uměla počítat dvojkový logaritmus, můžeme použít tvrzení, které říká, že pro libovolné celé číslo <code>b</code> platí:
−	log<sub>2</sub> 2 (x) = log<sub>2</sub> 10 (x) / log<sub>2</sub>10 (2)	+	log<sub>a</sub>(x) = log<sub>b</sub>(x) / log<sub>b</sub>(a)
		+	My obvykle za <code>b</code> dosazujeme buď <code>10</code> nebo číslo <code>e</code> (základ přirozeného logaritmu) a dvojkový logaritmus nahrazujeme na kalkulačce:
		+	log<sub>2</sub>(x) = log<sub>10</sub>(x) / log<sub>10</sub>(2)
		+	nebo:
		+	ln(x) = ln(x) / ln(2)
		+	</div>

	== Jednotky množství informace ==		== Jednotky množství informace ==

Spravce: /* Shannonova věta (1948) */ Opravena znaménka v nerovností 0<=p(x)<=1

2018-12-05T11:23:39Z

Shannonova věta (1948): Opravena znaménka v nerovností 0<=p(x)<=1

← Starší verze		Verze z 5. 12. 2018, 11:23
Řádka 26:		Řádka 26:
	* <tt>log<sub>2</sub> (x)</tt> ... dvojkový logaritmus čísla <tt>x</tt>		* <tt>log<sub>2</sub> (x)</tt> ... dvojkový logaritmus čísla <tt>x</tt>
	* <tt>p(x)</tt> je pravděpodobnost zprávy <tt>x</tt>		* <tt>p(x)</tt> je pravděpodobnost zprávy <tt>x</tt>
−	* (Platí, že <tt>0 >= p(x) >= 1</tt>.)	+	* (Platí, že <tt>0 <= p(x) <= 1</tt>.)

	; Poznámka — počítání s logaritmy		; Poznámka — počítání s logaritmy

Spravce: /* Shannonova věta (1948) */ Podtržítka nahrazena dolním indexem

2015-01-12T08:19:56Z

Shannonova věta (1948): Podtržítka nahrazena dolním indexem

← Starší verze		Verze z 12. 1. 2015, 08:19
Řádka 20:		Řádka 20:
	<div class="Definice">		<div class="Definice">
	Číselnou hodnotu množství informace získáme, pokud spočteme záporný dvojkový logaritmus pravděpodobnosti přijaté zprávy:		Číselnou hodnotu množství informace získáme, pokud spočteme záporný dvojkový logaritmus pravděpodobnosti přijaté zprávy:
−	I(x) = -~~log_2~~ p(x)	+	I(x) = -log<sub>2</sub> p(x)
	</div>		</div>
	Kde:		Kde:
	* I(x) ... množství informace v bitech,		* I(x) ... množství informace v bitech,
−	* <tt>~~log_2~~(x)</tt> ... dvojkový logaritmus čísla <tt>x</tt>	+	* <tt>log<sub>2</sub> (x)</tt> ... dvojkový logaritmus čísla <tt>x</tt>
	* <tt>p(x)</tt> je pravděpodobnost zprávy <tt>x</tt>		* <tt>p(x)</tt> je pravděpodobnost zprávy <tt>x</tt>
	* (Platí, že <tt>0 >= p(x) >= 1</tt>.)		* (Platí, že <tt>0 >= p(x) >= 1</tt>.)

	; Poznámka — počítání s logaritmy		; Poznámka — počítání s logaritmy
−	~~log_a~~ (x) = ~~log_b~~ (x) / ~~log_b~~ (a)	+	log<sub>2</sub> a (x) = log<sub>2</sub> b (x) / log<sub>2</sub>b (a)
−	~~log_2~~ (x) = ~~log_10~~ (x) / ~~log_10~~ (2)	+	log<sub>2</sub> 2 (x) = log<sub>2</sub> 10 (x) / log<sub>2</sub>10 (2)
−		+

	== Jednotky množství informace ==		== Jednotky množství informace ==

Spravce: Opravena struktura a vzhled

2014-04-15T22:00:54Z

Opravena struktura a vzhled

← Starší verze		Verze z 15. 4. 2014, 22:00
Řádka 1:		Řádka 1:
	[[Category:VSE]][[Category:Informatika]][[Category:Teoretická informatika]][[Category:Principy IT]]		[[Category:VSE]][[Category:Informatika]][[Category:Teoretická informatika]][[Category:Principy IT]]

−	~~== Teorie ==~~	+	== Definice množství informace ==
−		+	<div class="Definice">
−	=== Definice množství informace ===	+	Definice: Množství informace obsažené ve zprávě je míra množství neurčitosti nebo nejistoty o nějakém náhodném ději, odstraněné realizací tohoto děje.
−	* Množství informace obsažené ve zprávě je míra množství neurčitosti nebo nejistoty o nějakém náhodném ději, ~~odstraněná~~ realizací tohoto děje.	+	</div>
−		+
−	~~; Jednotky množství informace~~	+
−	* Základní jednotkou množství informace je 1 bit.	+
−	* Odvozené jednotky jsou 1 byte a násobné jednotky, tvořené předponami.	+
−	* Viz [[Jednotky množství informace]].	+

	; Interpretace:		; Interpretace:
−	*zajímá mě výsledek nějakého děje (minulého nebo budoucího)	+	* zajímá mě výsledek nějakého děje (minulého nebo budoucího)
−	*dozvím se výsledek	+	* dozvím se výsledek
−	*měřím vlastně ~~HODNOTU~~ informace, kterou jsem získal	+	* měřím vlastně ''hodnotu'' informace, kterou jsem získal
		+
	Jinými slovy:		Jinými slovy:
−	*Mohu si zkusit tipnout, budu mít nějakou pravděpodobnost, že uspěji.	+	* Mohu si zkusit tipnout, budu mít nějakou pravděpodobnost, že uspěji.
−	*Informační zisk je tím větší, čím bylo těžší si daný výsledek tipnout.	+	* Informační zisk je tím větší, čím bylo těžší si daný výsledek tipnout.
−	*Čím méně pravděpodobná zpráva přišla, tím větší množství informace nese.	+	* Čím méně pravděpodobná zpráva přišla, tím větší množství informace nese.

−	=== Shannonova věta (1948) ===	+
		+	== Shannonova věta (1948) ==
		+	<div class="Definice">
		+	Číselnou hodnotu množství informace získáme, pokud spočteme záporný dvojkový logaritmus pravděpodobnosti přijaté zprávy:
	I(x) = -log_2 p(x)		I(x) = -log_2 p(x)
		+	</div>
		+	Kde:
		+	* I(x) ... množství informace v bitech,
	* <tt>log_2(x)</tt> ... dvojkový logaritmus čísla <tt>x</tt>		* <tt>log_2(x)</tt> ... dvojkový logaritmus čísla <tt>x</tt>
	* <tt>p(x)</tt> je pravděpodobnost zprávy <tt>x</tt>		* <tt>p(x)</tt> je pravděpodobnost zprávy <tt>x</tt>
	* (Platí, že <tt>0 >= p(x) >= 1</tt>.)		* (Platí, že <tt>0 >= p(x) >= 1</tt>.)
−	*Použijeme-li dvojkový logaritmus, pak jednotkou je [[Jednotky množství informace\|bit]].

	; Poznámka — počítání s logaritmy		; Poznámka — počítání s logaritmy
	log_a (x) = log_b (x) / log_b (a)		log_a (x) = log_b (x) / log_b (a)
	log_2 (x) = log_10 (x) / log_10 (2)		log_2 (x) = log_10 (x) / log_10 (2)
		+
		+
		+	== Jednotky množství informace ==
		+	* Základní jednotkou množství informace je 1 bit (1 b).
		+	* Odvozené jednotky jsou 1 byte (1 B) a násobné jednotky, tvořené předponami.
		+	* Viz [[Jednotky množství informace]].
		+

	== Výpočty ==		== Výpočty ==

Spravce: /* Teorie */ Odkaz na jednotky, oprava vzhledu

2013-11-19T11:34:11Z

Teorie: Odkaz na jednotky, oprava vzhledu

← Starší verze		Verze z 19. 11. 2013, 11:34
Řádka 6:		Řádka 6:
	* Množství informace obsažené ve zprávě je míra množství neurčitosti nebo nejistoty o nějakém náhodném ději, odstraněná realizací tohoto děje.		* Množství informace obsažené ve zprávě je míra množství neurčitosti nebo nejistoty o nějakém náhodném ději, odstraněná realizací tohoto děje.

−	~~=== Tedy~~: ~~===~~	+	; Jednotky množství informace
		+	* Základní jednotkou množství informace je 1 bit.
		+	* Odvozené jednotky jsou 1 byte a násobné jednotky, tvořené předponami.
		+	* Viz [[Jednotky množství informace]].
		+
		+	; Interpretace:
	*zajímá mě výsledek nějakého děje (minulého nebo budoucího)		*zajímá mě výsledek nějakého děje (minulého nebo budoucího)
	*dozvím se výsledek		*dozvím se výsledek
Řádka 16:		Řádka 21:

	=== Shannonova věta (1948) ===		=== Shannonova věta (1948) ===
−	*I(x) = -log_2 p(x)	+	I(x) = -log_2 p(x)
−	** log_2(x) ... dvojkový logaritmus čísla x	+	* <tt>log_2(x)</tt> ... dvojkový logaritmus čísla <tt>x</tt>
−	**p(x) je pravděpodobnost zprávy x	+	* <tt>p(x)</tt> je pravděpodobnost zprávy <tt>x</tt>
−	**0 >= p(x) >= 1	+	* (Platí, že <tt>0 >= p(x) >= 1</tt>.)
−	*Použijeme-li dvojkový logaritmus, pak jednotkou je bit.	+	*Použijeme-li dvojkový logaritmus, pak jednotkou je [[Jednotky množství informace\|bit]].

−	~~=== Počítání~~ s logaritmy ~~===~~	+	; Poznámka — počítání s logaritmy
−	*log_a (x) = log_b (x) / log_b (a)	+	log_a (x) = log_b (x) / log_b (a)
−	*log_2 (x) = log_10 (x) / log_10 (2)	+	log_2 (x) = log_10 (x) / log_10 (2)

	== Výpočty ==		== Výpočty ==

Spravce: Přidán další příklad

2013-10-16T07:05:28Z

Přidán další příklad

← Starší verze		Verze z 16. 10. 2013, 07:05
Řádka 26:		Řádka 26:
	*log_2 (x) = log_10 (x) / log_10 (2)		*log_2 (x) = log_10 (x) / log_10 (2)

−	== ~~Příklady~~ ==	+	== Výpočty ==

	=== Příklad 1: Hod kostkou ===		=== Příklad 1: Hod kostkou ===
Řádka 59:		Řádka 59:

	; Nápověda: Nezapomeňte, že na raftech pojede celkem 24 osob, na kanoích jen 8 osob!!!		; Nápověda: Nezapomeňte, že na raftech pojede celkem 24 osob, na kanoích jen 8 osob!!!
		+
		+	=== Úkol: Jablko nepadá daleko od stromu ;) ===
		+	; Máme 4 sady:
		+	* první sad čítá 200 stromů, druhý a třetí 400 stromů, čtvrtý 1000 stromů. (Předpokládáme, že všechny stromy rodí stejně.)
		+	; Spočtěte, jaké množství informace se dozvím, když:
		+	# Zjistím, že jablko, které jím, je ze čtvrtého sadu.
		+	# Zjistím, že jablko je ze druhého nebo třetího sadu.

	=== Klíč řešení: ===		=== Klíč řešení: ===
Řádka 67:		Řádka 74:
	# 4 b		# 4 b
	# ~ 0,74 b		# ~ 0,74 b
		+	; Úkol (Jablko)
		+	# 1 b
		+	# ~ 1,32 b

Spravce: Přidána kategorie Principy IT

2013-10-16T06:59:45Z

Přidána kategorie Principy IT

← Starší verze		Verze z 16. 10. 2013, 06:59
Řádka 1:		Řádka 1:
−	[[Category:VSE]][[Category:Informatika]][[Category:Teoretická informatika]]	+	[[Category:VSE]][[Category:Informatika]][[Category:Teoretická informatika]][[Category:Principy IT]]

	== Teorie ==		== Teorie ==

Spravce: Přidány další dva příklady

2013-09-20T07:23:53Z

Přidány další dva příklady

← Starší verze		Verze z 20. 9. 2013, 07:23
Řádka 28:		Řádka 28:
	== Příklady ==		== Příklady ==

−	=== Vodácký kurz ===	+	=== Příklad 1: Hod kostkou ===
		+	* Hodím kostkou, zajímá mne výsledek.
		+	* Postupně zjistím:
		+	*#Vidím jen část kostky, v levém horním rohu je puntík.
		+	*#Zjistím, že v levém dolním rohu puntík není
		+	*#Zjistím, že padla trojka.
		+	*Kolik informace jsem získal v jednotlivých krocích?
		+	*Kolik informace bych se dozvěděl, kdybych číslo uviděl hned?
		+
		+	=== Příklad 2: Fotbal ===
		+	* Slovácko nastoupilo proti Spartě. S jakou pravděpodobností vyhraje? — Rozhodněte!
		+	* Na základě svého rozhodnutí spočítejte množství informace, které se dozvíte, když zjistíte, že:
		+	*# Slovácko vyhrálo,
		+	*# Slovácko prohrálo.
		+
		+	=== Úkol: Vodácký kurz ===
	; Máme zadány následující předpoklady:		; Máme zadány následující předpoklady:
	* Pro školní kurz bylo zapůjčeno 8 lodí, z toho 4 kanoe, 4 rafty.		* Pro školní kurz bylo zapůjčeno 8 lodí, z toho 4 kanoe, 4 rafty.
Řádka 45:		Řádka 60:
	; Nápověda: Nezapomeňte, že na raftech pojede celkem 24 osob, na kanoích jen 8 osob!!!		; Nápověda: Nezapomeňte, že na raftech pojede celkem 24 osob, na kanoích jen 8 osob!!!

−	; Klíč řešení:	+	=== Klíč řešení: ===
		+	; Úkol (Vodácký kurz)
	# 2 b		# 2 b
	# ~ 1,68 b		# ~ 1,68 b

Spravce: Přidání teorie

2013-09-18T07:55:44Z

Přidání teorie

← Starší verze		Verze z 18. 9. 2013, 07:55
Řádka 1:		Řádka 1:
	[[Category:VSE]][[Category:Informatika]][[Category:Teoretická informatika]]		[[Category:VSE]][[Category:Informatika]][[Category:Teoretická informatika]]

−	== ~~Měření~~ množství informace: ~~příklady~~ ==	+	== Teorie ==
		+
		+	=== Definice množství informace ===
		+	* Množství informace obsažené ve zprávě je míra množství neurčitosti nebo nejistoty o nějakém náhodném ději, odstraněná realizací tohoto děje.
		+
		+	=== Tedy: ===
		+	*zajímá mě výsledek nějakého děje (minulého nebo budoucího)
		+	*dozvím se výsledek
		+	*měřím vlastně HODNOTU informace, kterou jsem získal
		+	Jinými slovy:
		+	*Mohu si zkusit tipnout, budu mít nějakou pravděpodobnost, že uspěji.
		+	*Informační zisk je tím větší, čím bylo těžší si daný výsledek tipnout.
		+	*Čím méně pravděpodobná zpráva přišla, tím větší množství informace nese.
		+
		+	=== Shannonova věta (1948) ===
		+	*I(x) = -log_2 p(x)
		+	** log_2(x) ... dvojkový logaritmus čísla x
		+	**p(x) je pravděpodobnost zprávy x
		+	**0 >= p(x) >= 1
		+	*Použijeme-li dvojkový logaritmus, pak jednotkou je bit.
		+
		+	=== Počítání s logaritmy ===
		+	*log_a (x) = log_b (x) / log_b (a)
		+	*log_2 (x) = log_10 (x) / log_10 (2)
		+
		+	== Příklady ==

	=== Vodácký kurz ===		=== Vodácký kurz ===