[SRT]

Det är intressant att läsa en del av analyserna på nätet av olyckan.

Många verkar rätt säkra på att det beror på mjukvaran och att det var ett uttalat beslut att köra över fotgängaren.

Att samtliga sensorer skulle missa det långsamt rörliga målet när inga störningar i fall av fordon eller andra föremål finns mellan bilen och fotgängare blir det väldigt osannolikt att samtliga sensorer missar personen.

Mjukvaran måste ju i detta ögonblick ta ett moraliskt beslut vad som innebär störst risk för samtliga inblandande. Tvärnit eller kraftig undanmanöver kan ju skapa risk för passagerare och ev andra människor i omgivningen både oskyddade och i andra fordon.

Algoritmerna kan helt enkelt viktat fram att det i detta fallet med en Jaywalker framför bilen är det absolut bästa att helt enkelt köra över personen för att minska risken för andra, och därigenom minska risken för övriga.

Problemet är ingalunda nytt och har funnits länge hos militären med smarta granater och robotar som analyserar slagfältet framför sig och väljer ut mål sent under sin flygbana. Där viktar ju algoritmen mellan att slå ut olika fiendemål i förhållande till exempel att riskera skada egna resurser av tex splitter o tryckvågen.

Det är alltid ett dilemma att skriva sådan mjukvara, sitter du bakom ratten är det ju bara instinkten som styr i panik, men skriver du algoritmen har du ju flera månader på dig att fundera hur du moraliskt ska programmera beslutet som ska tas i situationer som denna.

Vi har bara sett början på liknande system som dyker upp med AI, inte bara i bilar utan överallt i samhället.

Mjukvaran och dess AI är tyvärr inte så pass utvecklade år 2018 i en dator så den kan ta några moraliska beslut i frågan om det är bättre att köra över damen eller inte.Att den sedan blivit programerad i ett större antal scenarion för att efterlikna detta eventuella påstådda moraliska beteende är en sak men att den skulle enligt ett mänskligt perspektiv vara moralisk är tyvärr att gå framtiden i förväg när det inte finns någon dator vid dags datum som har en självmedveten AI för att lyckas med konsten att som sagt var ta detta moraliska beslut.

[Mwi]

Teslas "Autopilot" är samma sak som Volvos Pilot Assist. Det kräver att föraren hela tiden är med på att ta över och är alltså bara ett assisterande system på Nivå3.

I detta fallet hade Tesla föraren berört ratten 6 sekunder innan kraschen.
Volvo ligger väl på Nivå2, medans jag uppfattar som att Tesla ger föraren lite friare tyglar och släpper föraren lite över Nivå2 närmare Nivå3.
Och om man ska tro artikeln i Teknikens värld så verkar Volvo vilja gå direkt från Nivå2 till Nivå4.

I det här läget är det bilen som ansvarar för körningen, men föraren måste ändå vara beredd att ta över i nödfall, vilket kan vara en fråga om några få sekunder. Volvo anser att denna Level 3-nivå är osäker och hoppar därmed över denna typ av autonom körning.

http://teknikensvarld.se/volvo-hoppar-o ... ar-459155/
Sedan kan man ju fundera på ett företag som Über som har utvecklat en app för att kunna beställa taxi, vad har de för kapacitet att utveckla ett system för autonomkörning och koppla på det på en befintlig bil. Jämfört med biltillverkare som kan utveckla hela bilen med säkerhetssystem och system för autonomkörning, och det utvecklas ihop.

[joel80]

Fel av mig.. Teslas är nivå 2 den också. (Fick för mig att den sorts självkörning som både Tesla och andra har kallades nivå3.) Men precis som med Volvon, Hyundai Ioniq, Nissan Leaf och säkert ett par till kan man släppa ratten ett tag innan den gnäller och vill att man visar med en hand på ratten att man har koll.

Det är fortfarande man själv som förare som har hela ansvaret för körningen, precis som när man använder adaptiv farthållare.

Tesla hade mer frihet, även om nivån var densamma, på första versionen dom släppte. Men dom ändrade mjukvaran OTA efter det började komma ut filmer p youtube på folk som klättrade över till baksätet och folk som satt och sov under resor!! Själv körde jag i den veva förbi en förare som satt och läste en bok på E4an mellan Gävle - Uppsala.

[Mwi]

Ja det förklarar varför jag trodde Tesla låg närmare Nivå3 och var mer autonom än den nu är.

[svergie2]

Videon på olyckan som släpptes är mycket missvisande, I verkligheten är det inte alls lika mörkt på vägen som det ser ut att vara i filmen. (Börja vid 3:13)

Skickat från min Galaxy S8+ via Tapatalk

[joel80]

Intressant! Och tydligen ligger Über rätt långt efter andra autonoma bilar vad gäller hur ofta mänskliga föraren måste ingripa! Inte ens så man borde kalla systemet helt autonomt. Med tanke på det borde ju säkerhetsföraren absolut inte suttit och smsat eller vad hon nu gjorde! :/

Många faktorer som orsakade olyckan känns det som. Efter att ha sett den där videon känns de mer som en mix av alla tre;
Kvinnan korsade en stor bred väg där man inte fick, utan att se sig för.
Bilens förare som anställts för att hålla koll höll inte koll.
Mjukvaran som borde sett och reagerat på hindret gjorde inte det av någon anledning.

[svergie2]

Intressant! Och tydligen ligger Über rätt långt efter andra autonoma bilar vad gäller hur ofta mänskliga föraren måste ingripa! Inte ens så man borde kalla systemet helt autonomt. Med tanke på det borde ju säkerhetsföraren absolut inte suttit och smsat eller vad hon nu gjorde! :/

Många faktorer som orsakade olyckan känns det som. Efter att ha sett den där videon känns de mer som en mix av alla tre;
Kvinnan korsade en stor bred väg där man inte fick, utan att se sig för.
Bilens förare som anställts för att hålla koll höll inte koll.
Mjukvaran som borde sett och reagerat på hindret gjorde inte det av någon anledning.

Ja precis! :)

Skickat från min Galaxy S8+ via Tapatalk

[VolvoB20]

Videon på olyckan som släpptes är mycket missvisande, I verkligheten är det inte alls lika mörkt på vägen som det ser ut att vara i filmen. (Börja vid 3:13)

Skickat från min Galaxy S8+ via Tapatalk

Tack där var videon jag letade efter...

Intressant, precis det jag har tjatat om hela tiden. Bilan rör sig i 17 meter per sekund och sensorn bör ha sett henne minst 100-150 meter innan då hon ju går rätt långsamt över alla filerna utan att skymmas innan smällen så datorn borde haft över 6-10 sekunder på sig att fundera ut vad den skulle göra, byta fil, bromsa, släppa gasen, tuta, varna reservföraren osv.... det fanns ju en uppsjö av beslut datorn kunde tagit.

Även föraren bör ha haft gott om tid på sig med XC90 bilens bra halvljus då inga bländande möten föreligger, men reservföraren verkar ju surfa på mobilen och tittar inte framåt överhuvudtaget.

Visst kan de vara fel på sensorn. Men mer troligt är att algoritmerna i mjukvaran inte lyckades förstå vad som var på väg att hända och därför inte lyckades fundera ut någon bra motåtgärd.

OT: Mjukvara är svår att få till så den kan tänka ut alla möjligheter, Nu var det ju bara en bil och en människa, Läs om Stanislav Petrov som räddade en miljard människor till livet 26 september 1983 då ha satt som commanding officer för det sovjetiska strategiska kärnvapenarsenalen. Mjukvaran rapporterade in att USA hade gjort ett fullkskaligt anfall som skulle förinta sovjet om några minuter och han skulle därför skicka iväg sina missiler för att utplåna USA. Han fick en magkänsla och litade inte på systemet och räddade en miljard människor på kuppen när han inte följde order. Detta kom inte ut förrens efter Sovjets fall.

Det var inte raketflammorna av de inkommande atom-missilerna utan solreflektion från partiklar från en sandstorm högt i atmosfären som lurade systemet, något som man inte tänkt på när man byggde det. Så värden kunde tagit slut när du var bara tre år gammal Joel80. Och något sådant kan ju hända när som helst igen ....

Självkörande bilar är nog det minsta problemet i detta ...

[grillchips]

Nu ryktas det (enligt påstådda läckor hos Uber) att bilen registrerade kvinnan som ett falsklarm. Det vill säga, bilen såg henne, men reagerade inte.
Här finns en artikel på svenska:
http://etn.se/index.php/nyheter/64682-u ... -falsklarm

[VolvoB20]

Ja det är inte lätt att skriva mjukvara som kan hantera alla situationer. Kanske tyckte mjukvaran att det varken var en fotgängare eller cyklist då det ju var en fotgängare som ledde en cyckel och det fallet kanske man kanske inte hade med i mjukvaran och efter som det var ett okänt objekt blev det ok att köra över det.