Spravce: /* Rizika spojená s AI */ Doplnění příkladu diskriminace.

2025-06-17T06:57:09Z

Rizika spojená s AI: Doplnění příkladu diskriminace.

← Starší verze		Verze z 17. 6. 2025, 06:57
Řádka 77:		Řádka 77:
	* Pokud dnes některý uředník například diskriminuje klienty banky na základě rasy, můžeme po něm chtít vysvětlení jeho rozhodnutí.		* Pokud dnes některý uředník například diskriminuje klienty banky na základě rasy, můžeme po něm chtít vysvětlení jeho rozhodnutí.
	* Pokud budou úředníci nahrazeni AI, může docházet ke skryté diskriminaci.		* Pokud budou úředníci nahrazeni AI, může docházet ke skryté diskriminaci.
−	*: ''Například mohou algoritmy diskriminovat ~~uživatele se~~ 2 či třemi dětmi, ve věku 30-35 let zaměstnané ve státní správě.''	+	*: ''Například mohou algoritmy na základě specifických učících dat diskriminovat žadatele o hypotéku s černými vlasy a 2 či třemi dětmi, ve věku 30-35 let zaměstnané ve státní správě.''
−	*: Bude přitom náročné či nemožné takovou diskriminaci odhalit a prokázat.	+	*: Bude přitom náročné či nemožné takovou diskriminaci odhalit a prokázat, protože nástroje AI neumí své rozhodnutí zdůvodnit.
	* Nástroje AI jsou odkázány na zdroje, ze kterých se učí. Pokud tyto zdroje obsahují nějakou diskriminaci, budou ji nástroje AI opakovat či dokonce zesilovat.		* Nástroje AI jsou odkázány na zdroje, ze kterých se učí. Pokud tyto zdroje obsahují nějakou diskriminaci, budou ji nástroje AI opakovat či dokonce zesilovat.

Spravce: Vytvoření stránky

2023-12-19T08:24:58Z

Vytvoření stránky

Nová stránka

[[Category:VSE]][[Category:Informatika]][[Category:Principy IT]]

== Co je umělá intelicence? ==

; Umělá inteligence (''AI... Artificial Inteligence'')
* Schopnost stroje provádět chování, které bychom u člověka považovali za inteligentní.

; Turingův test
* Posadíme člověka k terminálu, necháme ho klást otázky a dostávat odpovědi. Poté má rozhodnout, jestli na druhé straně sedí živý člověk, nebo stroj. Pokud to nebude schopen rozlišit, pak lze stroj na druhé straně považovat za „inteligentní“.
* Viz také [https://cs.wikipedia.org/wiki/Turing%C5%AFv_test Wikipedia.org → Turingův test]

== Co spadá do oblasti AI? ==

; Slabá uměla inteligence
* ''Narrow Artificial Intelligence (NAI)''
* Nástroje specializované na jednu úlohu:
** chatbot: měl by být schopen diskuse — blízké Turingovu testu
** expertní systémy: systémy pro řešení úloh v konkrétních oblastech: diagnostika v lékařství apod.

; Silná umělá inteligence
* ''Artificial General Intelligence (AGI)''
* Nevyžadovala by předchozí učení na konkrétní úzkou skupinu úloh.
* Předpokládá se, že dnešní prostředky na řešení AGI nejsou dostatečné.

== Související oblasti ==

; Data mining
* Získávání informací z velkého množství dat.

; Strojové učení
* Aktualizace stavu systému tak, aby se přizpůsobil měnícím se podmínkám.

; Počítačové vidění
* Schopnost stroje získávat informace o okolí.

== Mechanizmy dnešní AI ==
* Evoluční algoritmy
* Neuronové sítě
* LLM... velké jazykové modely

; Společný princip
* Vyžaduje hodnotící funkci, která udává 'kvalitu výsledku'.
* Snaha o optimalizaci výsledku dílčími úpravami řešení.
* Prozkoumáním velkého množství možných změn podle zadaných pravidel se snaží přiblížit optimálnímu řešení.

== Rizika spojená s AI ==

; Stroje se rozhodnou ovládnout člověka
* Diskutováno zejména v žánru sci-fi.
* Vyžadovalo by kromě ''inteligence'' také ''vůli''.
*: ''inteligence''... najdu řešení úlohy, kterou mě nikdo předtím neučil.
*: ''vůle''... rozhodnu se, že zadanou úlohu řešit nebudu a budu dělat něco jiného.
* Vyžadovalo by ''silnou umělou inteligenci'', navíc s vůlí.
* Dosavadní nástroje zřejmě tohoto nejsou schopny.

; Zneužití nástrojů k ovládnutí lidstva
* Nejspíše skupinou lidí, které vytvoří inteligentní válečné stroje, nebo budou manipulovat míněním ostatních lidí (deep-fake,...) k dosažení svých cílů.

; Katastrofa v důsledku chyby
* Špatně naprogramované (zvláště válečné) stroje se vymknou kontrole v důsledku nesprávného naprogramování.

; Silné prostředky kybernetického boje a manipulace
* Díky AI se prostředky kybernetického boje zesílí tak, že nebude možné jim předcházet.
* Diktátorské režimy mohou prostřednictvím deep-fake nástrojů manipulovat veřejným míněním demokratických států a způsobit rozklad státního zřízení.
* Skupiny vlastníků nástrojů umělé inteligence mohou ovládnout veřejné mínění a manipulovat ho ke svým cílům prostřednictvím standardních demokratických procesů.

; Prohloubení rozdílů ve společnosti
* Méně kvalifikovaná práce se může díky prostředkům AI stát zbytečnou.
* Část lidstva tedy může ztratit schopnost nabídnout ostatním užitečné ekonomické statky a může být ovládnuta soběstačnou menšinou.

; Efekt „králičí nory“
* Uživatelé nástrojů AI mohou ztrácet zájem o okolní svět výměnou za virtuální světy.
* To se může dít i u stávajících závislostí na počítači, ale nástroje AI mohou virtuální svět ještě více zatraktivnit.

; Diskriminace a skryté biasy
* Nástroje umělé inteligence obvykle neumí zdůvodnit svá rozhodnutí.
* Pokud dnes některý uředník například diskriminuje klienty banky na základě rasy, můžeme po něm chtít vysvětlení jeho rozhodnutí.
* Pokud budou úředníci nahrazeni AI, může docházet ke skryté diskriminaci.
*: ''Například mohou algoritmy diskriminovat uživatele se 2 či třemi dětmi, ve věku 30-35 let zaměstnané ve státní správě.''
*: Bude přitom náročné či nemožné takovou diskriminaci odhalit a prokázat.
* Nástroje AI jsou odkázány na zdroje, ze kterých se učí. Pokud tyto zdroje obsahují nějakou diskriminaci, budou ji nástroje AI opakovat či dokonce zesilovat.

Umělá inteligence - Historie editací

Spravce: /* Rizika spojená s AI */ Doplnění příkladu diskriminace.

Spravce: Vytvoření stránky