Inteligência Artificial para Decisões Impopulares
comentada em 23/08/2021 11:37

Não concordo, me predisponho a sentar no trono com o cetro e tomar as decisões impopulares necessárias.

Cara, nunca vi ou participei, mas pelo pouco que sei, sei que não é tão simples assim... no estilo "vamos delegar toda decisão impopular para uma IA resolver e assim não termos culpa". Tanto é que já existem discussões no âmbito legal no sentido de, por exemplo, se um carro autônomo atropela alguém, de quem é a responsabilidade? Isso é algo bem controverso.

Sempre vai haver alguém bem pago para fazer isso. E o fará com todo gosto.

E quem define os parâmetros do sistema p distribuir os prejuízos?

O q vc quer chama-se tecnocracia.

A politica é a arena de disputa não violenta em uma democracia.

Lembrei nesse exato instante daquele filme que George Clooney tinha o emprego para despedir as pessoas falando direitinho. Up In the Air.

Mas a ideia é diametralmente oposta: não seria “despedir” porque isso afeta 100% do faturamento da pessoa física. Seria ir, por exemplo, retirando progressivamente carga horária para dar tempo da pessoa progressivamente ir se realocando. (Ou quem sabe também ir subindo a carga horária.)

Quem decide sempre é o gestor, mas ele teria a desculpa: “Foi o computador que determinou.”

Não vai resolver por justamente reclamarem que tais decisões são importantes demais para serem decididas por uma máquina, já que causam prejuízo. Alguém tem que tomar essas decisões difíceis.

Em uma acepção, isso que você fala sempre existiu. A obediência à lei, que caracteriza o Estado de Direito, é uma forma de automatizar parcialmente decisões e distribuir recursos e prejuízos conforme regras impessoais e abstratas. É isso que se chama, na Administração Pública, de sistema burocrático.

Em outra acepção, isso que você fala dificilmente poderia existir. Houve um período na História do Direito em que se intentou automatizar totalmente as decisões jurídicas. O juiz seria como um robô que apenas repete o comando da lei, sem maior reflexão ou adaptação concreta. Mas na prática isso gerou todo o tipo de consequências indesejáveis. Como se diz no brocardo em latim: "summum ius, summa iniuria" - a lei levada ao extremo é o máximo da injustiça.

A verdade é que, apesar de os seres humanos sonharem com esse mundo em que tudo de ruim é culpa do outro (mas tudo de bom é culpa nossa), a responsabilidade sempre será nossa pelo que fazemos com o que está em nosso domínio. Os sistemas impessoais servem pra entregar um respaldo sONcial à decisão e pra reduzir o impacto psicológico do agente decisório, mas o ser humano não pode sair de si mesmo. Obedecer é sempre uma escolha. 

postado por @oxe em 18/08/2021 20:06

Em uma acepção, isso que você fala sempre existiu. A obediência à lei, que caracteriza o Estado de Direito, é uma forma de automatizar parcialmente decisões e distribuir recursos e prejuízos conforme regras impessoais e abstratas. É isso que se chama, na Administração Pública, de sistema burocrático.

Em outra acepção, isso que você fala dificilmente poderia existir. Houve um período na História do Direito em que se intentou automatizar totalmente as decisões jurídicas. O juiz seria como um robô que apenas repete o comando da lei, sem maior reflexão ou adaptação concreta. Mas na prática isso gerou todo o tipo de consequências indesejáveis. Como se diz no brocardo em latim: "summum ius, summa iniuria" - a lei levada ao extremo é o máximo da injustiça.

A verdade é que, apesar de os seres humanos sonharem com esse mundo em que tudo de ruim é culpa do outro (mas tudo de bom é culpa nossa), a responsabilidade sempre será nossa pelo que fazemos com o que está em nosso domínio. Os sistemas impessoais servem pra entregar um respaldo sONcial à decisão e pra reduzir o impacto psicológico do agente decisório, mas o ser humano não pode sair de si mesmo. Obedecer é sempre uma escolha. 

Caramba! Mesmo num post deste o @oxe consegue dar uma luz de sabedoria.

Sempre que penso nisso de decisões impopulares, lembro desse conto grego.

Dâmocles, era um cortesão bastante bajulador na corte de Dionísio I de Siracusa – um tirano do século 4 A. C, na Sicília. Ele dizia que, como um grande homem de poder e autoridade, Dionísio era verdadeiramente afortunado.

- Que sorte a sua! Você tem tudo que se pode desejar. Só pode ser o
homem mais feliz do mundo!

Dionísio foi ficando cansado de ouvir esse tipo de conversa.

- Ora essa! Você acha mesmo que eu sou mais feliz do que todo mundo?
O amigo respondeu:

- Mas é claro! Olhe só o seu tesouro e todo o seu poder! Você não tem
absolutamente nada com que se preocupar. Poderia sua vida ser melhor do
que isso?

- Talvez você queira trocar de lugar comigo - disse Dionísio.

- Ora, eu nem sonharia com uma coisa dessas! Mas se eu pudesse ter sua
riqueza e desfrutar de todos esses prazeres e da posição de comando por
um dia apenas, não desejaria felicidade maior.

- Pois bem! Troque de lugar comigo por um dia apenas e desfrute disso
tudo.

E então, no dia seguinte, Dâmocles foi levado ao palácio e todos os criados
reais lhe puseram na cabeça as coroas de ouro. Ele sentou-se à mesa na
sala de banquetes e foi-lhe servida lauta refeição. Nada lhe faltou ao seu
bel-prazer. Havia vinhos requintados, raros perfumes, lindas flores e música
maravilhosa. Recostou-se em almofadas macias. Sentiu-se o homem mais
feliz do mundo.

- Ah, isso é que é vida! - confessou a Dionísio, que se encontrava sentado à
mesa, na outra extremidade. - Nunca me diverti tanto.

De repente Dâmocles enrijeceu-se todo. O sorriso fugiu-lhe dos lábios e o
rosto empalideceu. Suas mãos estremeceram. Esqueceu-se da comida, do
vinho, da música. Só quis saber de ir embora dali, para bem longe do
palácio, para onde quer que fosse. Pois havia observado que pendia bem
acima de sua cabeça uma espada, presa ao teto por um único fio de crina
de cavalo. A lâmina brilhava, apontando diretamente para seus olhos. Ele
foi se levantando, pronto para sair correndo, mas deteve-se tremendo que
um movimento brusco pudesse arrebentar aquele fiozinho fino e fizesse
com que a espada lhe caísse em cima. Ficou paralisado, preso ao assento.

- O que foi, meu amigo? - perguntou Dionísio - Parece que você perdeu o
apetite.

- Essa espada! Essa espada! - disse o outro, num sussurro - Você não está
vendo?

- É claro que estou. Vejo-a todos os dias. Está sempre pendendo sobre
minha cabeça e há sempre a possibilidade de alguém ou alguma coisa partir
o fio. Um dos meus conselheiros pode ficar enciumado do meu poder e
tentar me matar. As pessoas podem espalhar mentiras a meu respeito, para
jogar o povo contra mim. Pode ser que um reino vizinho envie um exército
para tomar-me o trono. Ou então, posso tomar uma decisão errônea que
leve à minha derrocada. Quem quer ser tirano, ocupar as primeira posições
e controlar a ferro e fogo tudo e todos precisa estar disposto a aceitar esses
riscos. Eles vêm junto com o poder, percebe?

- É claro que percebo! - disse Dâmocles - Vejo agora que eu estava
enganado e que você tem muitas coisas no que pensar além de sua riqueza,
fama e posição. Por favor, assuma o seu lugar e deixe-me voltar para a
minha modesta casa.

Até o fim de seus dias, Dâmocles não voltou a querer trocar de lugar com o
rei tirano, nem por um momento sequer.

@oxe brilhante como sempre. Mas ideia seria exatamente essa: o gestor “se basear no algoritmo” para decidir, a semelhança que o juiz se baseia nas leis para decidir.

@laotzu

Nesse caso, remeto ao comentário do ebitda acima. Os parâmetros de uma técnica decisória são, em si, uma decisão. Enxergar a técnica como neutra é apenas autoenganação, uma ilusão que se cria pra tentar realizar o "sonho" da não responsabilização pessoal. Quem programa o algoritmo? E quem escolhe o seguir? Do fato de a lei ter outro nome e outra apresentação não a torna menos política e nem a obediência a ela se torna um caminho inexorável. No final do dia o ser humano tem que conviver com seu livre arbítrio, mesmo quando escolhe apenas agir cegamente segundo a vontade de outros.

Just Business my friend..do not take  it personal

Alguém mais foi no google pesquisar a palavra acepção? Haha Oxe pega pesado na sabedoria!

postado por @oxe em 18/08/2021 20:06:45

Em uma acepção, isso que você fala sempre existiu. A obediência à lei, que caracteriza o Estado de Direito, é uma forma de automatizar parcialmente decisões e distribuir recursos e prejuízos conforme regras impessoais e abstratas. É isso que se chama, na Administração Pública, de sistema burocrático.

Em outra acepção, isso que você fala dificilmente poderia existir. Houve um período na História do Direito em que se intentou automatizar totalmente as decisões jurídicas. O juiz seria como um robô que apenas repete o comando da lei, sem maior reflexão ou adaptação concreta. Mas na prática isso gerou todo o tipo de consequências indesejáveis. Como se diz no brocardo em latim: "summum ius, summa iniuria" - a lei levada ao extremo é o máximo da injustiça.

A verdade é que, apesar de os seres humanos sonharem com esse mundo em que tudo de ruim é culpa do outro (mas tudo de bom é culpa nossa), a responsabilidade sempre será nossa pelo que fazemos com o que está em nosso domínio. Os sistemas impessoais servem pra entregar um respaldo sONcial à decisão e pra reduzir o impacto psicológico do agente decisório, mas o ser humano não pode sair de si mesmo. Obedecer é sempre uma escolha. 

Cooperativas?

Bom, duas coisas:

Primeiramente, como eu sempre falo: pega leve no fentanil. Isso gera demissão, inclusive de outras pessoas envolvidas no processo de controle destas medicações.

Segundo: Quem programar o algoritmo estará decidindo. Mesmo que involuntariamente, o algoritmo sempre obedecerá uma programação, quem programar estará decidindo. A grande mágica de gerir pessoas, ao contrário do que muitos acham, não está na ciência dos número. Está em ler as pessoas e se apropriar de conhecimento/ferramentas/experiências prévias para poder decidir.

Não dá pra delegar a decisão para uma máquina, por mais terrível que seja essa decisão. Ainda mais quando estamos falando de pessoas em empregos. Tem coisas que você precisa despedir um excelente profissional, porque ele pode ter ultrapassado uma linha extrema que impede de continuar. Tem coisas que você só vai pegar no ar e que uma máquina não teria capacidade de julgar. Um dos maiores empresários que conheço, refere que seu grande diferencial competitivo foi de, desde o começo, olhar nos olhos do funcionário que iria contratar e saber, de cara, quem "presta e quem não presta", quem vale a pena empregar e quem não vale. Por esse motivo, de fato, a empresa dele tem o menor absenteísmo da concorrência, nunca teve uma demissão por justa causa e poquíssimos processos trabalhistas (cerca de 30% do benchmark pra indústria em que ele atua).



Vou te dar outro exemplo: médico que, querendo agir em prol do paciente, quebra alguma regra/protocolo sem base científica que prove sua ação e que possa expor o hospital/clinica/operadora Ele pode ser o melhor médico do mundo, ter o melhor coração e a mlehor intensão, que será descredenciado. Enfim, todo mundo erra, mas existem erros que são imperdoáveis.

Te dar outro exemplo: uma das pessoas mais gentis, competentes e eficientes que conheço "quebrou" uma regra do banco para ajudar uma pessoa precisava de auxílio urgente. Basicamente, deixou para fazer 6 horas depois, algo que deveria ser feito na hora, de forma que esta ação beneficiou o cliente. Isso foi considerado fraude, culminou em justa causa e uma das demissões mais tristes que eu já vi. Todos que trabalhavam com a pessoa sentiram a perda, inclusive seus superiores e colegas de vários anos de trabalho, por ser extremamente competente, responsável e gentil. Porém, aos olhos do empregador, houve fraude e isso é imperdoável.

Outro exemplo interessante:

 

Num dos fóruns sobre inteligência artificial, IoT e etc, a grande discussão era:


Como programar uma A.I. num caso em que você tem a seguinte opção:

1 - Você mata o motorista, salvando a vida de 3 pedestres.
ou
2 - Você salva o motorista mas mata os 3 pedestres.



Pode trocar a comparação de 3 pedestres para, por exemplo, uma criança, etc etc.

 

Qual o dilema: Você compraria um carro que pode decidir te matar para salvar outra pessoa?

Marcas de luxo, por exemplo, não abrem mão da segurança de seus clientes, afinal de contas esse é um dos diferenciais de algumas delas. Porém, elas deveriam abrir mão de um dilema moral em que, em teoria, você poderia salvar mais vidas se não protegesse o motorista. 

 

Enfim, difícil de dizer como será resolvido isso. Isso seria, inclusive, diferencial competitivo se não for corretamente regulado e definido antes de começar a rolar essa tecnologia...

Como eu sei que o @Rincewind vibra em alegria com esses assuntos a ponto dar salto duplo twist carpados, vou invocá-lo.
(mas ele já clicou antes de eu invocá-lo)

Outra coisa. Eu não entendi essa de vc estar repetindo isso do fentanil. Eu sou o laotzu, um personagem fantástico que não usa drogas; eu não sou o HOUSE.

 

(parece brincadeira, mas a pergunta é sincera para discussão)

 

@rincewind que vc acha de algum algoritmo para ir substituindo os colegas de alta carga horária por vários colegas de pequena carga horária?

Quando uma UTI fecha, não precisaria lascar de desemprego os colegas de alta carga horária.

@laotzu cuidado que quebrar a quarta parede toda a hora falando que é um personagem faz a vida real se confundir com a ficção.

@laotzu seria o cavalo uma bicicleta de 04 pernas?

@Paulo eu nunca usaria drogas.
Mal uso bebida.
Remédios somente muito bem indicados cientificamente.

O que falta no site? Um personagem Michel Jackson tomando propofol?

@laotzu Quarta parede é um termo da arte (especialmente livros, teatro e filmes) quando o personagem fala diretamente com a plateia. Nessa hora ele quebra a parede da ficção e o personagem começa a se misturar com a realidade, desfazendo o personagem.

 @laotzu esse tal de Michel Jackson é algum irmão brasileiro do Michael Jackson?

@Paulo foi até pesquisar na internet esse termo “quarta parede”. Achei brilhante!

Mas a pergunta que me vem à cabeça é, com todas essas perguntas feitas até agora na Bastter.com:

A casa do @laotzu tem parede?

@brunocrg fotos reais da casa do laotzu

@monke

A tua resposta está em Netflix, Love, Dath & Robots (Quando o iogurte assumiu o controle)

@Zaphod_Beeblebrox foi bom lembrar do iogurte. Esse episódio foi um dos melhores!

@laotzu ta aí! Talvez as suas questões possam ser respondidas por um iogurte.

@laotzu
É que os últimos colegas médicos doidos de pedra que eu conheci, desses que falariam as coisas que você fala, da forma que fala, usavam muito fentanil além de outras "pedras" se é que você me entende.

Independente disso, qual essa fixação em tirar os colegas que gostam de trabalhar muito?

Me desculpe mas UTI só fecha se for de Covid19. 

O cara que trabalha numa UTI Covid19 ficar bravo porque fechou é que nem xingar o sol por nascer todo santo dia. Era trabalho que tinha hora para acabar. Quem largou outros locais para trabalhar nestes, porque provavelmente a remuneração era maior, nada mais justo que voltar ao mercado e procurar emprego do zero.

Quem ficou onde sempre esteve, recebeu menos, porém não trocou o certo pelo duvidoso está empregado normalmente...