Na minha opinião, a questão aqui é entre projectar carros autónomos com um desempenho superior aos seres humanos (que me parece ser por exemplo o caso da Tesla), ou projectar carros autónomos para não matar ninguém (caso dos links que partilhei de malta sueca, em que está a Volvo envolvida).
A Uber parece-me que nem está muito preocupada com que os carros autónomos conduzam melhores que os seres humanos (naquela situação em específico talvez a maior parte dos condutores tivesse feito melhor), mas simplesmente com a redução dos custos da plataforma.
E aqui a decisão base de desenho do sistema é diferente. Ou se assume que é permitido ao automóvel entrar numa situação em que pode matar alguém, existindo um trade-off entre risco e velocidade, resultando no tal trolley problem. Ou se desenha o automóvel de raiz para garantir que nunca se coloca numa situação de risco. Seguindo este último modelo à risca, no limite se o sistema falhar, estás numa situação em que nem sequer podes confiar no teu sistema de detecção, não tendo garantias sobre onde estão os peões ou se eles de facto existem, não tendo portanto de resolver nenhum problema moral.
tens razao… mas olha que nao sei se no caso do acidente com a uber um humano tinha feito melhor…
vendo o video do acidente, um humano igualmente nao teria tempo de reação
ali estranho é o peão nao ter sido detetado pelos sensores do carro, coisa que deveria ter sido, ja que ao contrario dos nossos olhos, os sensores deviam detetar obstaculos mesmo em escuridão total.
enquanto o sistema se aperfeicoa certamente ainda irão existir mais acidentes, mas a tendencia será sempre a de ser melhor que qualquer humano.
ainda nao percebo é a nivel de desenvolvimento destes sistemas, se temos N empresas a trabalhar em N sistemas de automação diferentes, que vao ter comportamentos diferentes e onde a probabilidade de bugs é tambem multiplicada por N, ou se no fim vamos ter um sistema de automatização com um core comum usado por todas as empresas para garantir que todos os carros seguem as mesmas regras e usam o mesmo sistema certificado/testado e que nao temos N empresas a inventarem a mesma coisa de forma parecida mas diferente
Talvez, até porque provavelmente a maior parte dos seres humanos estaria a circular a maior velocidade naquele caso. Mas também já andaram aí a circular uns vídeos a afirmar que a iluminação no local é melhor do que a mostrada no vídeo da Uber. Mas isso é pouco relevante.
Há cerca de 2 anos a Mobileye (empresa que fornecia o sistema de visão da Tesla), na sequência daquele acidente em que o condutor morreu, abandonou a parceria que tinha com a Tesla pelos excessos no marketing do sistema Autopilot.
Há uma questão pertinente que é levantada, contudo, a meu ver, os exemplos dados são tiros que sairam pela culatra. Assim, acho que o vídeo perde o seu valor ao procurar atingir as emoções.
A questão é acerca do ónus da responsabilidade das decisões tomadas: será dos programadores, das empresas, das políticas?
Os exemplos são maus porque partem do princípio que as condições de segurança são deliberadamente alteradas ou ignoradas.
As motas não parecem ser veículos com condução automática, ao contrário da premissa inicial “imagine que está numa auto estrada de veículos com condução automática…”
Porque se assume que o trânsito flui compacto a elevadas velocidades? O veículo deve estar programado para manter uma distância do veículo da frente de modo a conseguir parar em segurança, em função da velocidade.
Ainda bem que conseguimos pensar nestes cenários por mais improváveis que possam ser; quer dizer que podemos considerá-los e melhorar os algoritmos de decisão.
Óbviamente será das empresas que comercializam o produto… Os programadores apenas implementam directivas, não as definem. Estas são definidas entre as empresas e o regulador político.
Poderá sempre existir restrição de determinados veículos em vias seleccionadas.
Também não se percebe esta. As distâncias de travagem não se alteram pelo simples facto da condução ser automática. Continuam a existir factores imprevisíveis como estado do pavimento e dos pneus, derrames na estrada, condições climatéricas, etc.
Para deixar claro, a questão é tirada do vídeo. E não, não é óbvio, caso contrário não seria um dilema.
Quando uma ponte cai, quem são os responsáveis: os engenheiros e arquitectos, a empresão a onde trabalham, ou o município? Quando uma cirurgia corre mal, quem são os responsáveis: o médico e equipa, o hospital, ou o ministério da saúde? Certamente reconhecerás que estas questões já apareceram nos meios de comunicação várias vezes, e a resposta, quando há, provavelmente também depende do país ou cultura onde surgem. (*)
Isto são apenas exemplos da questão ética que se aborda. Tenta ver mais para além do óbvio que está nas palavras. Se ainda assim continuas a achar que é óbvio, tens aí uma oportunidade de uma grande contribuição para a sociedade: elabora um trabalho que esclareça a questão de uma vez por todas.
(*) não respondas a estas perguntas; são retórica.
Policy implications: When the risk is unknown, AV manufacturers should program AVs to stay in the lane. But when the risk of staying in the lane is higher than swerving, AVs should swerve. Regardless of outcomes, AVs should make decisions most in line with humans’ moral codes, the researchers argue.
E que tal não dotar os veículos com inteligência suficiente para perceber esses dilemas?
O veículo não tem de saber que o autocarro leva crianças. Se não souber isso, não há dilema. Limita-se a agir segundo o algoritmo que permita evitar o acidente que estatisticamente causa mais feridos.
Garanto que não me meterei num carro que já venha programado por uma qualquer inteligente ‘comissão de ética’ que decida substituir-me e interpretar a régua e esquadro a moral social dominante, transformando-a em bits. Quero ser eu a decidir nos ‘trilemas’: mato as criancinhas, o paraplégico ou vou eu de cabeça para o abismo?!
Eu é que escolho como o meu carro deve ser programado e assim serei, como hoje acontece, o único responsável.
Se perante as dezenas de situações e opções que me sejam apresentadas para programar me acobarde e fique incapaz de tomar decisões, então agradeço que me dispensem de seguir regras com que não concordo e desarrisquem-me de utilizador de máquinas que acham que sabem o que eu quero.
Gosto particularmente de, no inicio a ideia é que os veiculos autonomos sao a soluçao para todos os nossos problemas da mobilidade dentro da cidade, mas após se ir dissecando ponto por ponto, chega-se à conclusao que existe sempre um mas, e que talvez não sejam só vantagens.
Adoro a parte em que o tipo da Mercedes diz que acredita 100% na implementaçao com sucesso dos veiculos autonomos. Mas depois durante um teste com o veiculo em andamento, carrega no escape sem querer, e o ecra que mostrava as camaras e os sensores passa a ter so letras e numeros tipo matrix. Ele fica todo atrapalhado,porque poe a nu que a situaçao de o computador crachar é bastante plausível e nenhum de nos gostaria de ter a sua vida dependente de um sistema informatico!
Bastante interessante. Obrigado. Na verdade, os gajos do MIT têm a típica visão americana de que é necessário matar umas quantas pessoas para os carros puderem andar na estrada.
Em claro contraste com a malta da Suécia que assume a Visão Zero como princípio. Já tinha partilhado uns artigos com autores da Volvo lá em cima.
ultrapassa o ciclista e fica parado uns 20m depois para fazer a curva à esquerda xD
está cada vez mais realista esta condução autónoma ahah
(mas a sério, é fixe ver estas melhorias, infelizmente acho que para países como Portugal vai mesmo ter de ser a tecnologia a resolver o problema da sinistralidade, o que noutros sítios se conseguiu com design e fiscalização muito antes :x
