Dilemas éticos das decisões dos veículos com condução automática


(João Bernardino) #1

Dois excertos:

"It is the year 2035, and a self-driving car
http://www.ft.com/cms/s/2/08929ada-4eca-11e4-a1ef-00144feab7de.html#slide0 is
ferrying its owner to the office. Suddenly, a school bus, travelling in the
other direction, veers out of control and into its path.

To the right of the car is a cyclist with no protective headgear. To the
left is another cyclist wearing a helmet.

In a split second, the self-driving car must make a seemingly impossible
choice: continue driving straight on and risk injuring several children, or
swerve and possibly hit one of the cyclists."

“These companies know they cannot afford a high profile, morally
questionable accident
http://robohub.org/if-a-death-by-an-autonomous-car-is-unavoidable-who-should-die-results-from-our-reader-poll/
with
their “driverless” technology. Especially an accident in which an
autonomous car is programmed to protect its occupant by sacrificing others.”

Driverless cars must learn to take ethical route
http://www.ft.com/intl/cms/s/0/4ab2cc1e-b752-11e4-981d-00144feab7de.html#slide0


De quem é a culpa se um carro autónomo matar uma pessoa?
Peak Clarkson
(Anónimo) #2

Colocar máquinas e algoritmos a resolver dilemas morais é mesmo muito perverso e deturpa o que é mais elementar do ser humano.


(João Bernardino) #3

Acredito mais numa máquina a resolver um dilema daqueles em microsegudos do
que num condutor primordialmente (instintivamente) preocupado com a sua
própria segurança.

Mas não há escolha possível: quando começarem a aparecer veículos com
condução automática, eles irão ter que ter esses algorítmos. E aqui estará
com uma probabilidade de, diria eu, 90%, o futuro da advocacia da segurança
dos vulneráveis.

No dia 2 de março de 2015 às 16:13, João Pimentel Ferreira forum@mubi.pt
escreveu:


(Mario J Alves) #4

A questão é fascinante pelas avenidas de debate que abre em termos operacionais, éticos, jurídicos, etc.

Uma questão interessante, para para além da tecnologia, tocada nos nos dois artigos, e que muitos acham que atrasará a adopção da condução automática, muito para além das possibilidades técnicas, é a questão da responsabilidade e seguros. Segundo parece, o piloto automático dos aviões poderia dispensar totalmente os pilotos humanos. Uma das razões porque eles estão lá é para servirem de “bode expiatórios” - em caso de falha do sistema, nunca é a empresa que fabrica o piloto automático a ir à falência com um processo em tribunal, mas esta responsabilidade cai sobre o “erro humano” de um (geralmente) morto (o piloto humano).

O artigo sobre os dilemas éticos é muito bom. Aliás já me tinha interrogado: passarão os peões e ciclistas a ter prioridade absoluta sobre os automóveis? Na prática um peão ou ciclista poderá “atirar-se” (agora sim pareço o Barbosa) com a certeza que o carro travará eficientemente e quase imediatamente. Eu estaria tentado a experimentar :smile:

Um aluno de antropologia que acompanhei num estudo do Largo do Rato (publicado pela Assirio-Alvim / ACA-M), observou aquilo que chamou a “arrogância da fragilidade” - principalmente os peões idosos, sabendo que os condutores têm (em princípio) extremo cuidado para não os atropelar, comportam-se com alguma “autoridade” em comportamentos ilegais, sabendo que as suas vidas seriam poupadas :smile:. Com condução automática “jaywalking” passa imediatamente a ser possível, seguro, até subversivo, e possivelmente cómico (partindo do princípio que a maquina funciona)!

A outra questão interessante é que a condução automática irá permitir distâncias bem mais curtas entre veículos, fora das zonas urbanas, mas também dentro das zonas urbanas. Este facto faz com que alguns defendam que ajudará a reduzir o congestionamentos, porque “compactará” o fluxo de veículos motores (como se a procura fosse constante e não aumentasse perante este novo “espaço” encontrado). Mas este pequeno grande detalhe, tem enormes impactos na qualidade de vida das nossas cidades. Como diz o @JoaoBernardino a advocacia da segurança dos mais vulneráveis passará muito por aqui: já pensaram que o que torna possível grande parte dos atravessamentos em zonas urbanas, são precisamente as brechas aleatórias entre veículos. Imaginem um “comboio” de carros às distância exacta de 23 centímetros entre eles. Mas, okay, podemos forçar o atravessamento em qualquer lugar, porque a software “ético” estancará rapidamente o carro perante a fragilidade do peão! :smile:

Para quem se interessa por questões éticas associadas á “segurança rodoviária” o último post da Ciência Rodoviária no facebook sobre o ABS. Infelizmente o número de comentários é demasiado longo.


(João Bernardino) #5

Os comboios automobilizados serão, mais década menos década, inevitáveis.
Primeiro nas auto-estradas, só mais tarde em meio urbano. Mas apesar de
tudo podem ser bem-vindos com algumas condições:

  • Que o aumento de capacidade das vias se repercuta em aumento do espaço
    dedicado a outros fins
  • Que estejam garantidas as condições de segurança (penalizar mais o
    jaywalking em certas situações poderá ter que acontecer)
  • Que os veículos sejam limpos
  • De preferência, que sejam não detidos pelos seus utentes (haverá um carro
    automático/táxi atrás de cada esquina que aparecerá num clicar de dedos -
    ok, numa dedada no smart coiso), libertando espaço de estacionamento e com
    um nível de serviço para o utilizador superior (não tem que se deslocar
    do/para o estacionamento)
    Se esta última condição acontecer, o problema da indução pode ser resolvido
    por o preço de cada viagem refletir todos os custos do veículo e não só os
    operacionais.

Mas já fugi ao tema dos dilemas éticos. Muito boa a analogia com os aviões!


(Mario J Alves) #6

Pois… mas para isso é preciso que…

Tenho as minhas dúvidas que haja coragem política para tal.

Mas a questão do Jaywalking continua-me a intrigar.

Pois… como escrevi no post do International Federation of Pedestrians estamos perante um paradoxo: o jaywalking será de tal forma seguro, que terá um poder imenso que poderá levar a penalizações enormes…

@JoaoBernardino só não percebo “em certas situações” - tirando as raríssimas excepções de Shared Space (e reparem que mesmo o actual CE não teve a coragem de dizer que nas zonas de coexistência há “Prioridade ao Peão”). Mas mesmo assumindo que no futuro haverá mais zonas de coexistência com prioridade ao peão, resta que o “poder” do peão de parar um carro repentinamente pode ocorrer em 99.9% da rede viária e não estou a ver que este poder (inevitável do ponto de vista ético) seja aceite de forma pacífica.


(João Bernardino) #7

@JoaoBernardino
http://mandrillapp.com/track/click/30208586/forum.mubi.pt?p=eyJzIjoiNUVCdnVBV2o0ZmxBNXVjVlBScW9aUmNySDI4IiwidiI6MSwicCI6IntcInVcIjozMDIwODU4NixcInZcIjoxLFwidXJsXCI6XCJodHRwOlxcXC9cXFwvZm9ydW0ubXViaS5wdFxcXC91c2Vyc1xcXC9qb2FvYmVybmFyZGlub1wiLFwiaWRcIjpcIjhiY2FiYWNlYjEzNTQ3ODg4YzQ2YWMwOTAyZjA5YjkxXCIsXCJ1cmxfaWRzXCI6W1wiOWRlNDYzZjQ3MGJjYzgwYWU0YmRiNmI0Y2E2YTcwMTc5ODRhYjA2ZVwiXX0ifQ

não percebo “em certas situações” - tirando as raríssimas excepções de
Shared Space (e reparem que mesmo o actual CE não teve a coragem de dizer
que nas zonas de coexistência há “Prioridade ao Peão”). Mas mesmo assumindo
que no futuro haverá mais zonas de coexistência com prioridade ao peão,
resta que o “poder” do peão de parar um carro repentinamente pode ocorrer
em 99.9% da rede viária e não estou a ver que este poder (inevitável do
ponto de vista ético) seja aceite de forma pacífica.”

Estava a imaginar que mesmo em vias urbanas em que a velocidade de ponta
dos veículos automáticos seja de 30, 40 ou 50, nos casos em que não haja
uma muito intensidade de tráfego muito elevada poderá ser possível e
aceitável os peões atravessarem a qualquer momento mesmo que obriguem os
veículos a travar um pouco (tal como já acontece hoje, mesmo nos
atravessamentos de passadeiras). Isso obrigaria, da parte dos peões, tal
como hoje, a avaliarem as distâncias em que o atravessamento é possível.

E isto leva a pensar que com condução automática generalizada as
passadeiras e os semáforos poderão, em muito mais situações do que acontece
atualmente, deixar de fazer sentido. Qualquer ponto da estrada pode ser uma
passadeira.


(Anónimo) #8

Acham mesmo que um piloto automático lançará um carro pela ribanceira (com o cliente e comprador lá dentro) para não acertar num ciclista? Jamais, até por questões de mercado.

Há um investigador do IST que me aborda sobre essa questão há algum tempo no âmbito da minha atividade profissional como examinador de patentes, mais precisamente sobre os carros automáticos da Google, e eu digo-lhe sempre que o problema que enfrentamos no domínio da mobilidade é POLÍTICO e não é técnico.

Na Europa a ocupação média dos automóveis ronda 1,2 ocupantes por carro num número que pode ir de 1 a 5; dando 0,2 passageiros num número que pode ir de 1 a 4; ocupação média de apenas 5% se pensarmos apenas em passageiros exceto condutor; bastava que tivéssemos um sistema tipo Uber muito mais liberalizado e aberto e com o desemprego que há precisaríamos apenas de um quarto dos carros que temos. Além disso a maioria dos carros novos já traz sistemas de travagem automática perante obstáculos, sendo a travagem (e a velocidade obviamente) um dos fatores principais do ponto de vista da segurança rodoviária envolvendo automóveis.

Por isso a pilotagem automática no meu entender é mais um embuste tecnológico. Nos comboios poderá ser uma boa solução para evitar as greves.

João Pimentel Ferreira


Enviado do meu Nokia


(João Bernardino) #9

então porque é que as marcas e outras grandes empresas, incluindo a Uber,
estão a gastar dinheiro a investir nisso? Achas que estão todos enganados?

No dia terça-feira, 3 de março de 2015, João Pimentel Ferreira <
forum@mubi.pt> escreveu:


(Anónimo) #10

Da mesma forma que as marcas investem milhões todos os anos em ‘segurança’ e conforto dos seus veículos, mas o paradigma da mobilidade não se altera.

João Pimentel Ferreira


Enviado do meu Nokia


(João Bernardino) #11

Ahh já percebi, acreditas que a tecnologia virá, não acreditas é que traga
benefícios. Ok

No dia 4 de março de 2015 às 11:39, João Pimentel Ferreira forum@mubi.pt
escreveu:


(Mario J Alves) #12

O que me intriga é que os peões (e os ciclistas) podem obrigar os carros a travar a fundo não “um pouco”. Com alguma experiência temerária os peões e ciclista irão começar a perceber que têm prioridade absoluta em qualquer circunstância. Ora será interessante como é que o sistema lidará com essa transferência de poder absoluto para o mais vulnerável.

Poderá acontecer as duas coisas - áreas sem passadeiras e ciclovias (zonas urbanas) e áreas em que a segregação será total e absoluta (como hoje em dia as autoestradas) e os atravessamentos só serão permitidos em zonas desenhadas para tal (seja passadeiras ou passagens superiores/inferiores). Foi sempre um dos pontos que discuti com o Monderman nos últimas anos da sua vida. Ele acreditava que havia dois espaços (car space / people space) o que sempre me espantou para quem é considerado o pai do Shared-Space. Na visão dele “people space” eram as cidades e “car space” eram os canais entre cidades. O que o alertava na altura é que ele estava demasiado enquadrado na realidade do Norte dos Países baixos em que as localidades estão muito bem delimitadas. Na maior parte do resto do mundo é muitas situações de espalhamento urbano em que não é carne nem é peixe. São estas zonas onde vive uma enorme percentagem de portugueses (e não só) que eu acho que haverá problemas enormes em decidir o que é (car space ou people space). Receio quais serão os modos de transporte nessa batalha que ficarão a perder.

Apesar de concordar com o @joaopferreira que a indústria automóvel terá tendência naturalmente em defender primeiro os ocupantes dos automóveis (como expliquei na Ciência Rodoviária isso tem sido o que aconteceu desde a invenção do automóvel), penso que desta vez esta opção (preferir matar o ciclista em vezes de conduzir para fora da estrada) será muito menos subtil e sujeita ao escrutínio social. Mas de momento não tenho respostas, nem sei bem como é que a sociedade reagirá. A indústria automóvel não está livre da meditação ética, mas no fim dependerá da sociedade, representada pelos governos e regulador.


(Anónimo) #13

Meditação ética da indústria automóvel em relação aos outros que não lhes pagam o salário não existe. Repara que só há pouco tempo é que a Volvo desenvolveu uma proteção para evitar fatalidades em caso de atropelamentos de peões, conceito que data desde a criação do automóvel.

João Pimentel Ferreira


Enviado do meu Nokia


(Mario J Alves) #14

Reparo…reparo… Não tenho dito outra coisa de há muitos anos ara cá. Aliás se leres a discussão para o ABS verás que é precisamente sobre isso.


(Ricardo Ferreira) #15

Olá,

Vejam neste link uma abordagem um bocado disparatada sobre essa questão: http://youtu.be/fZjwzM35scY?t=11m55s

Também vi há dias um vídeo curto a anunciar que em 2017 haveria 100 Volvos de condução automática a circularem em Gotemburgo. Parecia bastante definitivo.

abraços

RF


(Mario J Alves) #16

On-topic Breaking news: the end of an era - emotional driving by colourful lads might be so last century.

Next presenter of Top Gear will be a cousin of HALL 9000 :slight_smile:


(Antonio Cruz) #17

Não querendo iniciar a teoria da conspiração mas este último acidente aéreo fez-me mesmo lembrar esta discussão:

Segundo parece, o piloto automático dos aviões poderia dispensar totalmente os pilotos humanos. Uma das razões porque eles estão lá é para servirem de “bode expiatórios” - em caso de falha do sistema, nunca é a empresa que fabrica o piloto automático a ir à falência com um processo em tribunal, mas esta responsabilidade cai sobre o “erro humano” de um (geralmente) morto (o piloto humano).

Todas as notícias apontam agora para um co-piloto que teria até um conveniente atestado médico rasgado. É mesmo dificil de acreditar nesta versão caramba!


(Alexandre Climber) #18

Também disse logo isso!!! E o médico que passou o atestado não comentava
logo essa situação!!! Muito estranho…


(Anónimo) #19

O que acho mau nestas notícias, e relacionado com o tópico, é que as pessoas perdem toda a perceção que o transporte aéreo é muito mais seguro que o rodoviário.

O automóvel ‘assassina’ por ano 1,2 milhões de seres humanos. São os ‘danos colaterais’ da política económica externa americana. Mais automóvel, mais consumo de petróleo, dólar mais forte através do sistema petrodólar, podendo assim os decisores americanos imprimir as notas que quiserem que a moeda não perde valor, para desta forma investirem em armamento e invadirem os países que lhes aprouver.
E até os peritos na matéria, como o Mário Alves ou o João Bernardino aqui da MUBi parecem reiteradamente desconsiderar tais evidências. Caro Mário, pensa nisso quando apresentares a ‘visão zero’!

Acham sinceramente que os decisores europeus - continente de Einstein, Da Vinci, Newton, Kant, Beethoven e Voltaire - são assim tão estúpidos e idiotas para terem concebido um sistema de transportes que é 99% dependente de uma matéria prima que o continente não tem? Se há teoria da conspiração mais válida nesta matéria, só pode ser esta!

E mesmo nós Portugueses, um povo ‘que deu mundos ao mundo’ através da ciência náutica, não seríamos demasiado idiotas e muito estúpidos ao ponto de termos concebido um sistema de mobilidade que nos custa dez mil milhões de euros por ano em importações, e que ceifa a vida a milhares de portugueses anualmente em sinistralidade rodoviária, poluição e sedentarismo? Lamento, não somos assim tão estúpidos!


(Anónimo) #20

as fontes para as afirmações que proferi: