Umíme počítačem dobře minimalizovat jízdní dobu nebo spotřebu energie. Umíme docela dobře spočítat, co se stane při srážce dvou lokomotiv nebo lokomotivy a chodce, ale děláme to v kanceláři a chvíli to trvá. Představa, že se něco takovýho děje na mašině před srážkou je dost velký sci-fi.

Ale na nehody máme i my lidi dost primitivní heuristiky. Pískals? Brzdils? Pískovals? Ano? Pak je všechno v pořádku a udělals všechno, cos měl a ten přejetej je přijatelná oběť. Občas se stane, že vlak MUSÍ brzdit a je dost možné, že z toho někdo bude mít bouli, to už je riziko jezdění vlakem. A občas se stane, že závěrečná fáze odrychlování je prudší a o ulomenou skálu. Pak jsou i zlomeniny. Máme moc krásný tratě mezi skálama, tak riskujeme moc pěkný gypsový obvazy. Takovej je život.

Ad: Sofiiny volby.
Automat není morální, automat jede podle programu a program jistě bude minimalizovat škody. Hodně to řešil Isaac Asimov - viz tři zákony robotiky a zejména knížka Já, robot.
Obecně platí: automat je spolehlivější než člověk. Uvidí-li před sebou kamión, určitě začne brzdit, ale určitě si - na rozdíl od strojvedoucího - stihne spočítat a porovnat (podle zadaného algoritmu) škody od prudkého brzdění a škody od prudkého nárazu. Kdybych ten algoritmus psal já, tak bych nejspíš respektoval i obsazenost: prázdný vlak by člověka na trati zachraňoval i za cenu sebezničení, vlak plný by toho nešťastníka nejspíš přejel.
Sofie sem, Sofie tam - ve skutečnosti se nepochybně optimalizuje mezi naprostou bezpečností (vlak nikam nedojede - viz auta s červeným praporkem) a naprostým nezájmem o okolí: https://www.youtube.com/watch?v=mh5TGnBmKs8
Původní tři zákony robotiky jsou:
1) Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.
2) Robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem.
3) Robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním nebo druhým zákonem.

Nickon: vzhledem ke svým technickým možnostem se jedoucí vlak s žádnými Sofiinými volbami nesetkává a pro strojvedoucího platí už sto let zlaté pravidlo: nasyp to tam, jestli si chceš zachránit kožich. Žebřiňák se slámou se dá mašinou projet hladce, jenže tenhle veze v tý slámě žulovej pomník :--)
Pokud zastavit zbytečně stojí stovku a opravovat fíru a mašinu po střetu s pomníkem milión, tak můžu 9999x zastavit zbytečně a jednou před obelixem v kožichu a jsem na svejch.

Představa, že nezáleží na tom, jak často morální dilema nastane, ale že vůbec může nastat, je pustá teorie. Abys ho mohl vyřešit špatně (a někoho zabít), musíš se do něj nejdřív dostat.

hortulana: Je celkem jedno s jak velkou pravděpodobností, důležité je, že to tzv. morální dilema nastat může. A to klidně v nečekaných situacích. Například: Mám brzdit před malým stromkem spadlým přes trať, když použitím elektromagnetické brzdy pravděpodobně zraním své cestující a zablokuju trať, čímž způsobím značné nepřímé škody? Jak vůbec rozeznám neškodnou větev od nebezpečného stromu? Nebo: to zvíře je docela velké, přejedu ho, nebo zastavím s výše uvedenými riziky? Případně: jak prudce mám brzdit před malým autem, uvázlým na přejezdu (nebo člověkem na kolejích, to už je celkem jedno)? Má větší cenu záchrana řidiče/chodce, nebo mých cestujících, které může nouzové brzdění ohrozit i na životě? (ano, takové případy už se staly) Atd. atd., v podobných případech se bohužel musí počítat i s velmi nepravděpodobnými scénáři.

Automatizace je ve své podstatě dobrá věc. A to v případě, kdy pomáhá člověku při práci, tím, že mu ji usnadňuje. Samotnému mě v práci mnohé ulehčuje. Ale i tak mě nepřipadá úplně dobré, když člověka vyloženě nahrazuje. Kdy to skončí? Budeme nakonec všichni nahrazeni roboty? Kdo to chce? Budeme jako lidé nepotřební? Pokud je pokrokem nahrazení lidí ve všech ohledech, pak nechápu jakožto člověk, proč bych tomuhle měl tleskat? Pokrok nezastavíš. To je všude omílané heslo některých lidí. Ale můžeme snad jako lidé říct, že tohle nechceme? Nebo snad pár(budou jich miliony) IT odborníků pracuje zaslepeně za mrzkou odměnu ve formě peněz na likvidaci lidského druhu a my tomu máme jen tak přihlížet? Ano tato doba robotů je vzdálená, ale kdo ví? Třeba za 50 let už lidé nebudou mít co na práci a budou z nich povaleči nebo se z nich stanou otroci robotů. Uvidíme. Jsem zvědav až půjdu za 30 let do důchodu(asi nepůjdu, ale co kdyby) co bude. Ale přál bych si, aby lidé byli tím kdo mají tu možnost volby se svobodně rozhodnout co chtějí a co ne. Berte tenhle komentář jen jakési zamyšlení nad budoucností, která nemusí být je růžová. Nic víc.

NIcKON: Na druhou stranu, jak často se strojvedoucí (popř. samořiditelný vlak) dostane do takové situace morálního dilematu tak, jak je naznačeno na těch stránkách? Vlak jede po kolejích a nemá moc kam uhnout. Bude to asi o něco jednodušší – vidím překážku/lidi/auta/spadlý most –> brzdím*. Sitací, kdy by např. rozjetý vlak bez možnosti brzdit, mohl:
a) buď rozšmelcnout lidi na koncovém nádraží nebo
b) přehodit výhybku, vyhnout se nádraží, ale nabourat v plné rychlosti do skály moc nebude. V takovou chvíli beztak musí vstoupit do hry člověk, stejně jakoby vstoupil, kdyby to nebyl samořiditelný vlak. U auta je situace přeci jen výrazně složitější a naopak železnice je výborné místo, kde automatizaci zavádět (a kde taky už zavedena byla). Nebo se mýlím?

* Co si budem nalhávat, ono to v mnoha případech bude stejně prd platné.

Já si myslím, že to tak horké nebude. Museli bychom totiž úplně odfiltrovat automatický provoz od manuálně řízeného. On totiž ten fíra je dost rizikový faktor.

Takže třeba to začne od nějakých koncových úseků regionálních tratí, kde lze ostatní provoz celkem jednoduše vyloučit. Pak se uvidí.

U letadel toto nastane mnohem dříve. Tam budu moci jednoduše vyhlásit, že od určitého data do určitých vzdušných prostorů nesmí nic, co je manuálně řízené, takže tam to bude jednodušší.

Tu sa rozobera problematika do detailov:

https://www.vlaky.net/zeleznice/spravy/6775-Nase-tema-Budou-strojvedouci-na-zeleznici-zbytecni/

Mě by zase docela zajímalo, jak bude takový vlak reagovat na mimořádné situace. A jak si poradí s různými Sofiinými volbami, které potenciálně čekají každý autonomní samohyb ve veřejném provozu (doporučuju tuhle stránku http://moralmachine.mit.edu/, týká se sice aut, ale princip je podobný a v okamžiku, kdy začnou autonomní lokomotivy vozit lidi, bude úplně stejný). A jak to bude se zodpovědností v případě nehody, způsobené vlakem. Nebude žádný fíra, na kterého by se jednoduše hodila, výrobce samozřejmě udělá první poslední, aby se jí zbavil, a provozovatel také. Podobné problémy už se docela dlouho řeší u aut a jen samotná příprava legislativního rámce je hodně velká překážka.

jstange: A před 50 léty vymřeli topiči hlady. A ještě mnohem dříve pomřeli hlady nosiči vody - vynález vodovodu jim sebral práci. Pokrok nezastavíš.