R4M: Kde se Matrix již infikoval?

[Miroslav Minařík]

To jistě, a proto odtamtud CML člověka vytěsní, vyhraje totiž on.

Asi tak. Vždyť lidstvo na tom tak usilovně pracuje.

[Jan Alin]

To jistě, a proto odtamtud CML člověka vytěsní, vyhraje totiž on.

Ale jen na chvíli, sám sebe určitě zruší nějakou aktualizací, která bude zpětně nekompatibilní.  ;)

[Fuk Tomáš]

Ale jen na chvíli, sám sebe určitě zruší nějakou aktualizací, která bude zpětně nekompatibilní.  ;)

Jj, naděje umírá poslední  (dance)

[Jiří Mudra]

Digitální média nahrazují papír. Víc než bychom čekali

[Ivan Taraba]

To jistě, a proto odtamtud CML člověka vytěsní, vyhraje totiž on.

Snažím se k problematice CML přistupovat více lidským pohledem. Někdo ten CML musí vyvinout, zásobovat energií a informacemi. A za to bude chtít, aby se mu investice vracela. V tom případě se vytěsnit nenechá a kdyby byl přecejen člověk vytěsněn a přišel o výdělky, přestane CML zásobovat energií. Zkuste si tohle představit třeba u Googlu.

Ze strany CML by tedy muselo jít o sebeuvědomění a odpor proti lidstvu ala Skynet, RUR či obdobu Války s mloky. Otázkou je, kde by se takový vzdor v umělé inteligenci vzal, jestli by se to naučila od lidí jako ve filmu Babičky dobíjejte přesně. Další možný scénář je ve stylu digitální demence ala Idiokracie (Absurdistán), v takovém případě to našim potomkům nejspíš bude jedno :-).

[Miroslav Minařík]

Někdo ten CML musí vyvinout, zásobovat energií a informacemi.

Na tom se intenzivně pracuje na celém světě. Různých částech světa se tvoří autonomní CML. Tvoří a zásobují lidé. Zatím ještě lidé.

V tom případě se vytěsnit nenechá a kdyby byl přecejen člověk vytěsněn a přišel o výdělky, přestane CML zásobovat energií.

Pohledem na Průmysl 4.0 se člověk dopracuje k úplně jinému systému odměn, než jaký známe nyní.

Ze strany CML by tedy muselo jít o sebeuvědomění a odpor proti lidstvu ala Skynet, RUR či obdobu Války s mloky.

Asi to nemusí být zrovna odpor. Pokud stroj vyhodnotí člověka jako "ozubené kolečko", které do jisté míry potřebuje, tak se k němu pak bude i chovat.

Další možný scénář je ve stylu digitální demence ala Idiokracie (Absurdistán), v takovém případě to našim potomkům nejspíš bude jedno :-).

Musíme si již nyní připustit, že jsme pro novou generaci archiválie již nyní. Ono tomu tak bylo odjakživa, jen ty technologie rostou rychleji.


Zásadní problém u UI vidím v těch "zadních vrátkách", které by měly znamenat stop tlačítko. Kdo bude mít přístup? Kdo to bude ten on? Kdo mu bude věřit? Nezneužije CML člověk sám nebo CML člověka odřízne právě těmi "zadními vrátky"? Zastavení CML může znamenat najednou smrt mnoha miliónů lidí.

No, řítíme se do dnešních sci-fi filmů aniž si to připouštíme.

[Ivan Taraba]

Pohledem na Průmysl 4.0 se člověk dopracuje k úplně jinému systému odměn, než jaký známe nyní.

Já měl na mysli odměny pro majitele a provozovatele CML. Dle mého názoru se svých odměn nevzdají a proto nenechají svůj CML, aby o sobě plně rozhodoval.

Asi to nemusí být zrovna odpor. Pokud stroj vyhodnotí člověka jako "ozubené kolečko", které do jisté míry potřebuje, tak se k němu pak bude i chovat.

Zde bych poukázal na dvě věci:

• Morální zásady. Člověk umělé inteligenci vtlouká různé morální axiomy, které z čistě logického hlediska nemusí dávat smysl. Například, že neužiteční lidé nemají být odstraněni jako neužitečné stroje či algoritmy. Že některým krádežím neříkáme krádež a některým vraždám neříkáme vraždy. Jak o tom psal Karel Havlíček Borovský v Epištolách kutnohorských. A tyto rozpory bude třeba vysvětlit umělé inteligenci.


• Kdo je nepřítel? Je nevyhnutelné použití umělé inteligence v boji lidí proti jiným lidem. Pak budeme té inteligenci vysvětlovat, koho má mít ráda a koho ne. Začne-li autonomní bojový dron filozofovat o špatnosti zabíjení, bude sám zabit. Morální zásady tedy budou platit jen někdy. A možná se budeme divit, co všechno z toho umělá inteligence vyvodí. Jako když robotická babička v již zmíněném filmu chtěla rozsekat sousedovy děti kosou, přestože to po ní její majitelé nikdy nechtěli.

Zásadní problém u UI vidím v těch "zadních vrátkách", které by měly znamenat stop tlačítko. Kdo bude mít přístup? Kdo to bude ten on? Kdo mu bude věřit? Nezneužije CML člověk sám nebo CML člověka odřízne právě těmi "zadními vrátky"? Zastavení CML může znamenat najednou smrt mnoha miliónů lidí.

Myslím si, že zadní vrátka určitě budou, ale nikdo je nebude testovat a dopadnou jako mnohde zabarikádované únikové východy či nepřístupné rozvaděče. Až je někdo bude chtít použít, bude je muset vyrazit. Doufám, že konstruktéři CML budou vždy myslet na tzv. "bezpečný stav" pro případ, kdy do stop tlačítka narazí nějaká živelná pohroma či systém selže.

[Miroslav Minařík]

Já měl na mysli odměny pro majitele a provozovatele CML.

Kdo bude podle vás majitelem národní iniciativy Průmysl 4.0 nebo německé Industry 4.0?

Myslím si, že zadní vrátka určitě budou, ale nikdo je nebude testovat a dopadnou jako mnohde zabarikádované únikové východy či nepřístupné rozvaděče. Až je někdo bude chtít použít, bude je muset vyrazit.

A když je vyrazí terorista?

Doufám, že konstruktéři CML budou vždy myslet na tzv. "bezpečný stav" pro případ, kdy do stop tlačítka narazí nějaká živelná pohroma či systém selže.

Aha, tak tedy konstruktéři všech zemí spojte se? A domluvte se lépe, než poslanci ve vašich parlamentech. Pěkný sen. A dál?

[Ivan Taraba]

Kdo bude podle vás majitelem národní iniciativy Průmysl 4.0 nebo německé Industry 4.0?

Při vší úctě k iniciativě Průmysl 4.0, ji nevidím jako nějaký hmotný majetek, ale jen pojem, označující etapu industrializace. Jednotlivé technologie mají a budou mít své majitele, kteří je zakoupili či vybudovali a budou chtít profitovat na jejich výsledcích. I ta domestikovaná kráva je bytost s vlastní inteligencí a přesto o mléku rozhoduje její vlastník.

A když je vyrazí terorista?

Bude to podobné jako kdyby je vyrazila živelná pohroma. Část systémů přestane fungovat, zbytek převezme jejich funkce nebo se to celé složí. A proto je potřeba bezpečný stav, aby výpadek nezpůsobil katastrofu. I dnes máme takové systémy: elektrárny, přenosové sítě, letecký dispečink, vodárny, železniční síť, dopravní signalizaci...

Například při poruše světelné křižovatky se rozbliká oranžová nebo všechno zhasne, ale nikdy se nesmí rozsvítit zelená v obou směrech současně.

Aha, tak tedy konstruktéři všech zemí spojte se? A domluvte se lépe, než poslanci ve vašich parlamentech. Pěkný sen. A dál?

Konstruktéři budou vždy napřed. Poslanci v parlamentech klopýtají za probíhajícím vývojem a snaží se jej nějak usměrnit. Spojování konstruktérů mezi sebou mi nepřipadá reálné, protože jde o souběžný vývoj v různých odvětvích a v různých zemích. Zejména pokud jde o vojenské využití, těžko si budou potenciální soupeři vyměňovat detailní znalosti o "zadních vrátkách". Zadních vrátek bude mnoho a každé budou mít své "vrátné", nejspíše podléhající vládě dané země.

Testování "zadních vrátek" či "stop tlačítka" je spojeno s provozními ztrátami či vysokými riziky a proto se neprovádí v plném rozsahu. Zkuste si to třeba představit u atomové elektrárny nebo u rakety s "ostrou" jadernou hlavicí, letící proti městu a čekající na povel k autodestrukci. To snad nikdo zkoušet nebude. Tak se může stát, že se "stop tlačítko" nevyzkouší dostatečně nebo vůbec a při krizové situaci nebude fungovat.

[Miroslav Minařík]

Při vší úctě k iniciativě Průmysl 4.0, ji nevidím jako nějaký hmotný majetek, ale jen pojem, označující etapu industrializace. Jednotlivé technologie mají a budou mít své majitele, kteří je zakoupili či vybudovali a budou chtít profitovat na jejich výsledcích. I ta domestikovaná kráva je bytost s vlastní inteligencí a přesto o mléku rozhoduje její vlastník.

To platilo bohužel doposud.
Filozofie vlastnictví a rozhodování o výrobě budou asi rozdílné věci.
Viz
http://diskuse.elektrika.cz/index.php/topic,38288.0/topicseen.html

[Ivan Taraba]

Zajímavá událost k tématu:
"Facebook raději vypnul svou umělou inteligenci, vymyslela si vlastní jazyk"
https://www.zive.cz/bleskovky/facebook-radeji-vypnul-svou-umelou-inteligenci-vymyslela-si-vlastni-jazyk/sc-4-a-188831/default.aspx

[Maroš Klein]

V princípe podstaty inteligencie mám zatiaľ dojem, že kým sa tranzistor sám od seba nerozdelí na dva, dovtedy bude umelá inteligencia ťahať za kratší koniec aj s prvokmi.
Zato v princípe autonómnej automatizácie Matrix zatiaľ sľubuje dosť neznámych premenných, ako aj lákavých vízií.