Prozkoumejte všechny služby z energetického sektoru, které nabízí platforma ENERGY-HUB

Lidstvo učí stroje etice. Ale které přesně?

27. 11. 2019
14:00
PRO-ENERGY Simon Dytrych

Brzy přijde čas, kdy strojům svěříme zodpovědnost řešit morální dilemata. Je na to společnost připravena?

# technologie
Lidstvo učí stroje etice. Ale které přesně?

ABSTRACT: Should artificial intelligence make decisions about people's lives or deaths? Such a moral dilemma may slow down the progress of the autonomous vehicles.



AUTOMOBIL A SOFIINA VOLBA

Lidstvo ještě nikdy v historii nedovolilo, aby stroje rozhodovaly o životě a smrti jednotlivce. To se však brzy změní. Rozšíření autonomních vozidel znamená, že umělá inteligence musí mít schopnost rozhodnout během okamžiku a bez lidského dozoru o tom, jak se zachová v případě hrozící autonehody.

Představte si nepravděpodobnou, ale v blízké budoucnosti jistě reálnou situaci: Jedete ve svém zbrusu novém autě, o řízení se stará umělá inteligence a vy si v klidu vyřizujete pracovní korespondenci. Najednou se rozsvítí kontrolka oznamující, že vozidlu selhaly brzdy. Zvednete oči od práce a 50 metrů před sebou vidíte přechod. Svítí zelená a jeden člověk se právě nachází uprostřed silnice. Víte, že během sekundy nestačíte přepnout na manuální řízení.

Rozhodování o životě a smrti tedy musí převzít algoritmus v softwaru automobilu. Nechali byste jej v plné rychlosti uhnout ze silnice, čímž vás s největší pravděpodobností usmrtí či těžce zraní? Nebo má jet přímo a stejným způsobem ohrozit chodce?

Ač je to Sofiina volba, věřím tomu, že mnoho lidí by v tomto případě upřednostnilo, aby vědci do algoritmu zakódovali příkaz ušetřit majitele. Situace však může vypadat hůře. Představte si, že je chodců například pět, nebo se mezi nimi nacházejí malé děti. Jak byste chtěli, aby se software zachoval nyní? A pořídili byste si vůbec vůz, který má možnost v krajních případech rozhodnout o životě a smrti?

JEDNOTNÁ MORÁLKA NEEXISTUJE

Přesně tyto nepříjemné, ale naprosto legitimní otázky si položili vědci z amerického Technologického institutu v Massachusetts. Ve spolupráci s firmami Scalable Corporation a výzkumným ústavem MIT Media Lab stvořili web moralmachine.mit.edu, na němž se nachází platforma, která umožňuje lidem, aby sami rozhodli, jak řešit morální dilemata spojená s autonomní mobilitou.

Autoři projektu se domnívají, že zodpovědnost za podobu případného etického kodexu by neměli nést pouze vědci a inženýři, ale naopak co nejširší spektrum lidí. Pokud by s ním totiž potenciální zákazník nesouhlasil, auto si jednoduše nekoupí.

V rámci výzkumu se podařilo shromáždit více než 40 milionů rozhodnutí od milionů různých uživatelů internetu ze všech koutů světa. Některé výsledky jsou poměrně lehce odhadnutelné. Lidé většinou preferují lidský život před zvířecím, děti před důchodci a kladou důraz na co nejmenší počet obětí bez ohledu na to, zda se jedná o řidiče či chodce. Dále však studie nijak jednoznačné závěry nepřináší.

Obrázek č. 1: Má inteligentní automobil rozhodovat, co je „menší zlo“?
 

Odpovědi se zásadně liší v závislosti na kultuře, z níž člověk pochází. Vědci při hodnocení vytvořili tři základní skupiny. V první se nachází Evropa, Severní Amerika a Austrálie (západní skupina), ve druhé Asie (východní skupina) a ve třetí Jižní Amerika a Afrika (jižní skupina).

Například východní skupina mnohem méně upřednostňuje záchranu života mladého před starým a chudého před bohatým. Naopak jižní skupina jasně preferuje děti a vyšší sociální vrstvy. Také je ochotnější v určitých případech ušetřit spíše zvíře než člověka. Další zajímavostí jižní skupiny je jednoznačné upřednostňování záchrany štíhlých lidí před obézními (ano, i tuto možnost průzkum zahrnuje). Kulturní rozdíly v odpovědích vyvolávají otázku, na níž nelze jednoduše odpovědět: Měl by se software autonomních vozidel lišit podle regionu, pro nějž je určen?

LIDÉ NESOUHLASÍ

Sami autoři výzkumu Moral Machine uznávají, že jejich práce více otázek klade, než zodpovídá. Uvědomují si také, že se nejedná o klasickou akademickou práci, a dokonce přiznávají, že vzorek obyvatel, který se projektu účastnil, je poněkud specifický. Jedná se hlavně o mladé lidi, zhruba ze dvou třetin o muže. Navíc existuje důvod předpokládat, že se respondenti o tématiku zajímají, když si dali tu práci web najít a strávit na něm čas. Všechny tyto nedostatky bohužel výzkumu Moral Machine znemožňují, aby se stal podkladem pro nějakou reálnou, některým státem garantovanou koncepci.

Naopak výzkum vědců z univerzity v americké Severní Karolíně požadavky na akademickou práci splňuje. A pro budoucnost autonomních vozidel nevyznívá příliš lichotivě. Autoři práce s všeříkajícím názvem „People are averse to machines making moral decisions“ (Lidé odmítají, aby stroje činily morální rozhodnutí) v rámci devíti studií dokázali, že naprostá většina dotázaných preferuje lidská rozhodnutí v každé myslitelné oblasti od lékařství přes válku až po dopravu. Pro respondenty hrálo naprosto zásadní roli lidské vědomí jako neoddělitelná podmínka existence morálky. Většina odmítla tvrzení, že by vědomím mohli disponovat i stroje.

Na základě obou studií se zdá, že technické překážky nakonec nebudou tím, co nám zabrání využívat autonomní vozy. Pokud něco vývoj zastaví, či alespoň zásadně zdrží, budou to sami lidé a jejich neschopnost dohodnout se na jednotných morálních pravidlech, která by akceptovali alespoň obyvatelé určitého státu nebo kontinentu.

související články

Dům z konopí

27. 11. 2019
14:00
PRO-ENERGY

To není sen drogově závislého, ale realita. Již pralidé z konopí běžně stavěli chýše a moderní člověk je možná zanedlouho napodobí. Rostlina se po zpracování a smíchání s vápnem přemění na pevný a odolný „beton“, který je šetrný k planetě i lidskému…

# technologie
# budovy

Inovatívne technológie, umožňujúce priemyselnú recykláciu uhlíka

27. 11. 2019
14:00
PRO-ENERGY

Ľudsto produkuje čoraz viac odpadov, ktoré je možné efektívne pretvoriť na definované palivá, napr. pre pohon automobilov. To…

# paliva
# uhlí
# technologie

Změna vnitřní struktury vody, plynu i kapalných paliv přináší peníze a snížení emisí

27. 11. 2019
14:00

Žijeme v době nanotechnologií a převratných inovací. Mezi takovéto inovace patří i změna vnitřní stavby molekul, která…

# technologie
# úspory
# emise

Soutěž E.ON Energy Globe již ovlivnila životy stovek tisíc lidí

27. 11. 2019
14:00
PRO-ENERGY

Motto „Žádný nápad není malý“ provází soutěž E.ON Energy Globe již jedenáctým rokem. 

# technologie

Půjde energetika revoluční nebo evoluční cestou?

27. 11. 2019
14:00
PRO-ENERGY

Tradiční konference, pořádaná společností EGÚ Brno, s názvem „Energetika 2019: Revoluce nebo evoluce?“ se letos konala 18. a 19.…

# technologie
# politika
# strategie

DOMEXPO 2020

08. 12. 2019 18:00 - 10. 12. 2019 02:00
Agrokomplex Nitra
15. ročník komplexnej stavebnej výstavy a výstavy pre fotovoltiku a solárnu techniku

All for Power Conference 2019

09. 12. 2019 - 10. 12. 2019
Clarion Congress Hotel Prague
14. mezinárodní odborná konference a výstava.

Energetická bezpečnost ČR: Budoucí spotřeba energie

11. 12. 2019 09:00 - 12:00
hotel Andel’s, Stroupežnického 21, Praha 5
Energetická bezpečnost České republiky v kontextu budoucí spotřeby energie.

ENERGY-HUB je moderní nezávislá platforma pro průběžné sdílení zpravodajství a analytických článků z energetického sektoru. V rámci našeho portfolia nabízíme monitoring českého, slovenského i zahraničního tisku.

47464
Počet publikovaných novinek
1597
Počet publikovaných akcí
450
Počet publikovaných článků
ENERGY-HUB využívá zpravodajství ČTK, jehož obsah je chráněn autorským zákonem.
Přepis, šíření či další zpřístupňování jakéhokoli obsahu či jeho části veřejnosti je bez předchozího souhlasu výslovně zakázáno.
Drtinova 557/10, 150 00 Praha 5, Česká republika