Filósofos estão desenvolvendo "algoritmos éticos" para carros autônomos
comentada em 17/02/2018 12:48

vacinas sao assim

toda campanha de vacinação morre alguem por efeito da vacina
mas salvam-se milhares de vidas

Eticamente falando, um carro que seja propriedade de uma pessoa e tenha pessoas sob sua custódia como passageiros tem que fazer de tudo para salvar os ocupantes.

Então aqueles dilemas a respeito de sacrificar os ocupantes para salvar tantas vidas a mais de quem está fora estão fora de cogitação. Eu não entraria em um carro cujo algoritmo ético me sacrificaria. Minimizar dano humana inclusive às custas dos ocupantes pode ser uma OPÇÃO de configuração, mas não o padrão de decisão do carro. No geral motoristas tendem, instintivamente, a tentar salvar seus passageiros. Caso não seja possível, vão tentar salvar pelo menos a si próprios. Qualquer coisa diferente vai contra o instinto de auto-preservação.

O interessante do carro autônomo é que com processamento muito rápido ele pode tomar decisões bizarras mas que salvam todos. Exemplo: você está sozinho no carro, vai bater de frente em um caminhão e morrer no cálculo dele, se desviar pra calçada mata 1 criança que está ali, mas ele calcula que fazendo uma certa manobra pode colidir com o caminhão de lado de forma que você sobreviva. Dentro do algoritmo ético ele sempre vai trocar "material" (destruir o carro, destruir propriedade de terceiros) por pessoas nas prioridades, isso é certo.

Outro dilema interessante são os cenários probabilísticos (e a esmagadora maioria dos cenários reais serão assim). Exemplo: deixa colidir com 25% de chance de óbito do ocupante e 40% de chance de sequelas, ou desvia com 80% de chance de matar um pedestre?

Exato, celtiberian. Você não entraria, eu também não entraria. Logo, um algoritmo que preveja o sacrifício do motorista ou de passageiros como opção obrigatória diminui a demanda, as pessoas não usam porque o instinto humano é de autopreservação.

Por outro lado, olhando de forma objetiva, a visão utilitarista é a de que todas as vidas têm o mesmo valor intrínseco. Logo, entre salvar o motorista e salvar 2 pedestres, melhor salvar os 2 pedestres.

Essa é a visão por trás das vacinas, por exemplo, como o Bastter citou: você conta em número de vidas salvas. A diferença é que, na vacina, a maioria das pessoas que tome a vacina aumenta suas chances de sobreviver à doença. Algumas não aumentam suas chances, de fato, algumas morrem. Mas não é possível prever quem morre e quem vive e, por isso, o cálculo racional incentiva o uso de vacinas. Minha chance de morrer é pequena e, em troca, minha chance de não contrair a doença se eu não morrer é alta.

O problema no caso dos carros autônomos é que dá pra prever a chance de a pessoa morrer. Isso muda o cálculo racional. E aí tem várias implicações. Existe um conflito entre a ética subjetiva do comprador do carro (que privilegia a própria vida) e a ética objetiva de salvar o máximo de pessoas. Mas a visão subjetiva do comprador do carro influencia a demanda e isso também tem que ser levado em conta.

E ainda tem o fato que ninguém diz: as vidas humanas não são valoradas da mesma maneira. Com certeza vai ter algoritmo pra salvar a vida do presidente ou de autoridades pra matar um criminoso. Quem tem mais valor, o velho ou a criança? E aí tem aquela coisa da probabilidade também. Talvez o algoritmo calcule que aquela pessoa tem maior probabilidade de ser um criminoso, mas não se sabe se ele é. Melhor matar esse cara ou a velhinha do lado?

A questão é que o carro inteligente tira o domínio do condutor. É um sistema centralizado de decisão, é tipo um aparato estatal sobre rodas. Um conjunto de burocratas vai decidir as regras sobre quem vive ou quem morre.

Parece aquele filme do Capitão América em que a Hidra se apossou de uma máquina que pode matar qualquer pessoa do mundo, desde que o algoritmo dela dissesse que a pessoa merecia morrer.

Lembra também o filme Eu Robot. A cena dos carros caindo na água e o robô tendo que decidir quem salvar.

Isso tudo para mim é muito simples e já existe hoje: a linha de trem.

O trem sai da linha e descarrilha quando alguém entra na frente? Não. Simplesmente o trem passa por cima! Linha de trem é para para trem. Quem entra na frente vai morrer. Simples assim.

Será o mesmo para carros autônomos. Haverá pistas exclusivas para os carros e depois rodovias exclusivas. Nas cidades, será um uso misto por muito anos ainda. Aliás, os carros atualmente são assim. Semi-autônomos e que demandam o motorista em determinados momentos. E serão assim por muitos anos, talvez décadas.

aviao ja anda sozinho
piloto so pousa
nem sei se ainda isso
ha decadas

Não. Piloto alimenta o cachorro. E o cachorro impede o piloto de mexer no avião.

Provavelmente o algoritmo dos carros vão preservar o motorista, a não ser que as montadoras não importem com vendas...