Prozkoumejte všechny služby z energetického sektoru, které nabízí platforma ENERGY-HUB

Lidstvo učí stroje etice. Ale které přesně?

27. 11. 2019
14:00
PRO-ENERGY Simon Dytrych

Brzy přijde čas, kdy strojům svěříme zodpovědnost řešit morální dilemata. Je na to společnost připravena?

# technologie
Lidstvo učí stroje etice. Ale které přesně?

ABSTRACT: Should artificial intelligence make decisions about people's lives or deaths? Such a moral dilemma may slow down the progress of the autonomous vehicles.



AUTOMOBIL A SOFIINA VOLBA

Lidstvo ještě nikdy v historii nedovolilo, aby stroje rozhodovaly o životě a smrti jednotlivce. To se však brzy změní. Rozšíření autonomních vozidel znamená, že umělá inteligence musí mít schopnost rozhodnout během okamžiku a bez lidského dozoru o tom, jak se zachová v případě hrozící autonehody.

Představte si nepravděpodobnou, ale v blízké budoucnosti jistě reálnou situaci: Jedete ve svém zbrusu novém autě, o řízení se stará umělá inteligence a vy si v klidu vyřizujete pracovní korespondenci. Najednou se rozsvítí kontrolka oznamující, že vozidlu selhaly brzdy. Zvednete oči od práce a 50 metrů před sebou vidíte přechod. Svítí zelená a jeden člověk se právě nachází uprostřed silnice. Víte, že během sekundy nestačíte přepnout na manuální řízení.

Rozhodování o životě a smrti tedy musí převzít algoritmus v softwaru automobilu. Nechali byste jej v plné rychlosti uhnout ze silnice, čímž vás s největší pravděpodobností usmrtí či těžce zraní? Nebo má jet přímo a stejným způsobem ohrozit chodce?

Ač je to Sofiina volba, věřím tomu, že mnoho lidí by v tomto případě upřednostnilo, aby vědci do algoritmu zakódovali příkaz ušetřit majitele. Situace však může vypadat hůře. Představte si, že je chodců například pět, nebo se mezi nimi nacházejí malé děti. Jak byste chtěli, aby se software zachoval nyní? A pořídili byste si vůbec vůz, který má možnost v krajních případech rozhodnout o životě a smrti?

JEDNOTNÁ MORÁLKA NEEXISTUJE

Přesně tyto nepříjemné, ale naprosto legitimní otázky si položili vědci z amerického Technologického institutu v Massachusetts. Ve spolupráci s firmami Scalable Corporation a výzkumným ústavem MIT Media Lab stvořili web moralmachine.mit.edu, na němž se nachází platforma, která umožňuje lidem, aby sami rozhodli, jak řešit morální dilemata spojená s autonomní mobilitou.

Autoři projektu se domnívají, že zodpovědnost za podobu případného etického kodexu by neměli nést pouze vědci a inženýři, ale naopak co nejširší spektrum lidí. Pokud by s ním totiž potenciální zákazník nesouhlasil, auto si jednoduše nekoupí.

V rámci výzkumu se podařilo shromáždit více než 40 milionů rozhodnutí od milionů různých uživatelů internetu ze všech koutů světa. Některé výsledky jsou poměrně lehce odhadnutelné. Lidé většinou preferují lidský život před zvířecím, děti před důchodci a kladou důraz na co nejmenší počet obětí bez ohledu na to, zda se jedná o řidiče či chodce. Dále však studie nijak jednoznačné závěry nepřináší.

Obrázek č. 1: Má inteligentní automobil rozhodovat, co je „menší zlo“?
 

Odpovědi se zásadně liší v závislosti na kultuře, z níž člověk pochází. Vědci při hodnocení vytvořili tři základní skupiny. V první se nachází Evropa, Severní Amerika a Austrálie (západní skupina), ve druhé Asie (východní skupina) a ve třetí Jižní Amerika a Afrika (jižní skupina).

Například východní skupina mnohem méně upřednostňuje záchranu života mladého před starým a chudého před bohatým. Naopak jižní skupina jasně preferuje děti a vyšší sociální vrstvy. Také je ochotnější v určitých případech ušetřit spíše zvíře než člověka. Další zajímavostí jižní skupiny je jednoznačné upřednostňování záchrany štíhlých lidí před obézními (ano, i tuto možnost průzkum zahrnuje). Kulturní rozdíly v odpovědích vyvolávají otázku, na níž nelze jednoduše odpovědět: Měl by se software autonomních vozidel lišit podle regionu, pro nějž je určen?

LIDÉ NESOUHLASÍ

Sami autoři výzkumu Moral Machine uznávají, že jejich práce více otázek klade, než zodpovídá. Uvědomují si také, že se nejedná o klasickou akademickou práci, a dokonce přiznávají, že vzorek obyvatel, který se projektu účastnil, je poněkud specifický. Jedná se hlavně o mladé lidi, zhruba ze dvou třetin o muže. Navíc existuje důvod předpokládat, že se respondenti o tématiku zajímají, když si dali tu práci web najít a strávit na něm čas. Všechny tyto nedostatky bohužel výzkumu Moral Machine znemožňují, aby se stal podkladem pro nějakou reálnou, některým státem garantovanou koncepci.

Naopak výzkum vědců z univerzity v americké Severní Karolíně požadavky na akademickou práci splňuje. A pro budoucnost autonomních vozidel nevyznívá příliš lichotivě. Autoři práce s všeříkajícím názvem „People are averse to machines making moral decisions“ (Lidé odmítají, aby stroje činily morální rozhodnutí) v rámci devíti studií dokázali, že naprostá většina dotázaných preferuje lidská rozhodnutí v každé myslitelné oblasti od lékařství přes válku až po dopravu. Pro respondenty hrálo naprosto zásadní roli lidské vědomí jako neoddělitelná podmínka existence morálky. Většina odmítla tvrzení, že by vědomím mohli disponovat i stroje.

Na základě obou studií se zdá, že technické překážky nakonec nebudou tím, co nám zabrání využívat autonomní vozy. Pokud něco vývoj zastaví, či alespoň zásadně zdrží, budou to sami lidé a jejich neschopnost dohodnout se na jednotných morálních pravidlech, která by akceptovali alespoň obyvatelé určitého státu nebo kontinentu.

související články

Řízené pluhování se osvědčilo

07. 06. 2020
16:00
pro-energy.cz

Nový plynovod společnosti E.ON Distribuce zaorává mezi Soběslaví a Planou nad Lužnicí speciální pluh. V zimě už plynovod může zásobovat zákazníky. 

# plyn
# technologie

Pokládat plynovod pluhováním je přesnější a ekologičtější

07. 06. 2020
16:00
pro-energy.cz

Více podrobností o výstavbě plynovodu speciální metodou doplnil vedoucí Správy a provozu zemního plynu Tomáš Vacek.  

# plyn
# technologie
# infrastruktura

Fotovoltaika pro domácnosti (už) není žádný luxus

07. 06. 2020
16:00

Zvyšování energetické soběstačnosti, snižování nákladů, efektivní řízení spotřeby, kratší návratnost, jednodušší administrativa a…

# OZE slunce
# technologie
# úspory
# dotace
# OZE

Snadno vznětlivé elektromobily? Statisticky nesmysl

07. 06. 2020
16:00
pro-energy.cz

Baterie elektromobilů obsahují velké množství energie, která se v případě poškození může přeměnit na teplo a zapálit celý vůz.…

# paliva
# automotive
# technologie
# bezpečnost

Solární fólie s účinností klasických FV panelů

07. 06. 2020
16:00
pro-energy.cz

Slabá baterie v mobilu? Jednoduše přístroj položte na sluníčko a chvíli počkejte. Takto komfortní nabíjení nás čeká, pokud se na…

# OZE slunce
# technologie
# účinnost

HANNOVER MESSE Digital Days

14. 07. 2020 09:00 - 15. 07. 2020 16:00
Messe Hannover
Průmyslová transformace se svými megatématy digitalizace, individualizace, ochrana klimatu a demografické změny pokračuje i přes krizi způsobenou koronavirem a je těžištěm HANNOVER MESSE Digital Days. Tato nová dvoudenní digitální akce informuje o aktuálním vývoji v oborech průmyslu, energie a logistiky a nabízí orientaci v době krize a po jejím konci.

Den plynové mobility (CNG/LNG/Biometan)

02. 09. 2020
prostory Pražské plynárenské

URBIS SMART CITY FAIR

02. 09. 2020 09:00 - 03. 09. 2020 17:00
Výstaviště Brno
URBIS SMART CITY FAIR  přináší chytrou kombinaci veletrhu s exkluzivním konferenčním programem, kde se představí lídři v oboru Smart city. Během dvou dnů se potkají desítky představitelů středoevropských měst a obcí a lídři v inovacích s jediným cílem – předat si zkušenosti, nápady a příklady konkrétních řešení, jak správně koncept Smart city rozvíjet ve městech. Tak, aby se v nich občanům lépe žilo.

ENERGY-HUB je moderní nezávislá platforma pro průběžné sdílení zpravodajství a analytických článků z energetického sektoru. V rámci našeho portfolia nabízíme monitoring českého, slovenského i zahraničního tisku.

52310
Počet publikovaných novinek
1713
Počet publikovaných akcí
526
Počet publikovaných článků
ENERGY-HUB využívá zpravodajství ČTK, jehož obsah je chráněn autorským zákonem.
Přepis, šíření či další zpřístupňování jakéhokoli obsahu či jeho části veřejnosti je bez předchozího souhlasu výslovně zakázáno.
Drtinova 557/10, 150 00 Praha 5, Česká republika