Musk e especialistas pedem pausa em pesquisa sobre inteligência artificial
comentada em 03/04/2023 14:00

Ainda não sei a motivação deles, mas está aí a petição para quem quiser entender melhor:

“Sistemas de IA com inteligência competitiva com a humana pode trazer profundos riscos à sociedade e à humanidade, como mostrado por extensa pesquisa e reconhecido por importantes laboratórios de IA. Como se afirma no amplamente apoiado Asilomar AI Principles, uma IA avançada poderia representar uma profunda mudança na história da vida na Terra, e deveria ser planejada e gerida com os correspondentes cuidados e recurso. Infelizmente, este nível de planejamento e gestão não está ocorrendo, mesmo que tenhamos visto, nos últimos meses, ao laboratórios de IA presos a uma corrida fora de controle para desenvolver e empregar cérebros digitais ainda mais poderosos que ninguém – nem mesmo seus criadores – pode compreender, predizer ou controlar razoavelmente.

Os sistemas de IA contemporâneos estão, agora, se tornando competitivos com os humanos em tarefas em geral, e devemos nos perguntar: deveríamos permitir que máquinas inundem nossos canais de informação com propaganda e inverdades? Deveríamos automatizar todos os trabalhos, inclusive os mais gratificantes? Deveríamos desenvolver mentes não-humanas que poderiam, eventualmente, nos superar em número e em inteligência, nos tornando obsoletos e nos substituindo? Deveríamos nos arriscar a perder o controle de nossa civilização? Essas decisões não devem ser delegadas para líderes do setor de tecnologia não-eleitos. Poderosos sistemas de IA deveriam ser desenvolvidos, somente se estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis. Esta confiança deve ser bem justificada e crescer com a magnitude dos efeitos potenciais de um sistema. A recente declaração da OpenAI sobre a inteligência artificial em geral afirma que “em certo ponto, pode ser importante contar com revisão independente, antes de iniciar o treinamento de futuros sistemas, e para os esforços mais avançados para estabelecer um limite para a taxa de crescimento da computação utilizada para criar novos modelos.” Nós concordamos. E estamos neste ponto agora.

Portanto, conclamamos todos os laboratórios de IA a suspender imediatamente por, pelo menos, 6 meses, o treinamento de sistemas de IA mais poderosos que o GPT-4. Esta pausa deveria ser pública e verificável, e incluir todos os atores-chave. Se tal pausa não puder ser implementada rapidamente, os ONREVOGs deveriam vir a campo e instituir uma moratória.

Os laboratórios de IA e especialistas independentes deveriam usar essa pauta para, em conjunto, desenvolver e implementar um leque de protocolos de segurança compartilhados para o design e o desenvolvimento de IAs avançadas, que sejam rigorosamente auditados e supervisionados por experts externos e independentes. Esses protocolos deveriam assegurar que os sistemas que aderirem a eles são seguros, acima de qualquer dúvida razoável. Isso não significa uma pausa no desenvolvimento de IAs em geral, mas simplesmente um passo atrás de uma perigosa corrida rumo a cada vez maiores e imprevisíveis “modelos caixas-pretas” com capacidades emergentes.
A pesquisa e o desenvolvimento de IA deveria ser reorientada para tornar os atuais e poderosos sistemas, que representam seu estado-da-arte, mais acurados, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais.

Em paralelo, os desenvolvedores de IA devem trabalhar em conjunto com os formuladores de políticas públicas para acelerar dramaticamente o desenvolvimento de sistemas robustos de governança das IAs. Isso deveria, no mínimo, incluir: novas e capacitadas autoridades regulatórias dedicadas à IA; monitoramento e rastreamento de sistemas de IA altamente capazes e grandes pools de capacidade computacional; sistemas de proveniência e marca-d’água para auxiliar a distinguir o real do sintético e rastrear fissuras no modelo; um robusto ecossistema de auditoria e certificação; responsabilização por danos causados por IA; robustos fundos públicos para a pesquisa técnica de segurança de IA; e institutos bem financiados para lidar com as dramáticas disrupturas econômicas e políticas (especialmente à democracia) que a IA causará.

A humanidade pode gozar de um futuro florescente com a IA. Ao sermos bem-sucedidos em criar poderosos sistemas de IA, podemos agora usufruir de um “verão da IA”, no qual colhemos os frutos, projetamos os sistemas para o claro benefício de todos, e damos à sociedade uma chance de se adaptar. A sociedade já suspendeu outras tecnologias com efeitos potencialmente catastróficos. Podemos fazer o mesmo aqui. Vamos gozar de um longo verão da IA, e não corrermos despreparados para um outono decadente.”

só um adendo :-)
o musk tentou controlar / comprar a OpenAI

de qq forma ele já vem avisando sobre esse "perigo" há alguns anos

Faz sentido, movimento parecido do que aconteceu com a bomba atômica... 

"não consegui comprar a empresa /comprar as pessoas que entendem e conseguem fazer essas AIs, como posso ganhar tempo para correr atrás ?"

Alguém pede a opinião dessa notícia para a IA no ChatGPT por favor.

Nassim Taleb hoje no Twitter:
"If AI represents a problem, it is mostly for established technology companies and cartels."

Vejo isso por 2 lados, eles podem estar com certo medo disso por questão simplesmente financeira, pois se um grande sistema de AI for feito praticamente não vai precisar de outro, logo vai ter um monopólio que vai ganhar muito dinheiro com isso.

Aí tem o outro lado (que eu tenho minhas dúvidas se eles realmentes estão preocupados), que é uma grande evolução da AI substituir em grande escala empregos em um curto espaço de tempo, gerando uma grande crise global, além de problemas de segurança cibernética e facilidade em criar e divulgar coisas falsas.

Mas eu acho que eles preocupam mais com a primeira opção

Elon musk e esse outro que não sei escrever o nome não sabem nem derivar exp(x). Oq vc acha que eles sabem sobre isso aí pra falar oq é ou deixa de ser uma ameaça?
É brincadeira bixo

kkk, é o mesmo que o Hamilton pedir para a FIA da uma barrada no Verstappen pra ver se conseguem alcançar ele.

Cadê o Bastter com a petição para proibir a sardinhagem por pelo menos 6 meses?

Gostei dessa parte do documento elaborado pelos liberais notórios:
"Esta pausa deveria ser pública e verificável, e incluir todos os atores-chave. Se tal pausa não puder ser implementada rapidamente, os ONREVOGs deveriam vir a campo e instituir uma moratória"

hummm....

ai socorro a AI vai me matar kkkkkkk
é só dinheiro filho, tem ninguém preocupado com vcs não.

Talvez a AI poderia realmente quebrar um pouco esse monopólio das Big Techs, mas a Microsoft já tá dentro da OpenAI então uma já deve continuar.

Eu acho que no final das contas vai ser uma evolução que vai deixar alguns trabalhos mais rápidos, reduzir o tempo em algumas coisas e ao mesmo tempo vai criar outros postos de trabalho que a gente nem imagina.

Mas se acontecer de surgir uma super AI que domine praticamente tudo que se faz no computador, e que arrume uma fonte de energia e processamento gigantesca para substituir tanta força de trabalho no mundo, a gente não vai poder fazer nada contra também, vai ser o fim do capitalismo que a gente conhece.

Corolla: a verdadeira reserva de valor Ver mais

Tenho medo de tecnologia não, se precisar a gente anda com carburador, né @Pai_Naldo?

Eu conectei um computador na impressora 3D industrial na garagem, e disse que ela poderia usar o que tivesse lá para criar um corpo,  agora não consigo mais entrar na garagem e só ouço o barulho das ferramentas 24h por dia, estou com medo do que vai sair de lá. PS: fanfic

postado por @saga em 30/03/2023 22:33

Eu conectei um computador na impressora 3D industrial na garagem, e disse que ela poderia usar o que tivesse lá para criar um corpo,  agora não consigo mais entrar na garagem e só ouço o barulho das ferramentas 24h por dia, estou com medo do que vai sair de lá. PS: fanfic

Fica tranquilo e bons sonhos nesta noite sem nuvens.

No rain, no brain.

postado por @ebitda em 30/03/2023 21:49

Tenho medo de tecnologia não, se precisar a gente anda com carburador, né @Pai_Naldo ?

That’s how we roll.

Elon: essa bagaça aí é minha?
ChatGPT: Não!
Elon: da para comprar?
ChatGPT: Não!
Elon: então manda parar isso aí e diga que é perigoso para a humanidade!!!

Musk co-founded OpenAI in 2015, but resigned in 2018

2023:

não sei não...

qual é a chance do criador da SpaceX; Neuralink; PayPal; Tesla, Inc.; SolarCity e atual dono do Twitter estar se sentindo "ameaçado" pelo avanço das AI?

Quem desdenha quer comprar, diz o ditado...

(ou já comprou)

Essas AÍ vão sair e amadurecer no final das contas do mesmo jeito e vão fazer parte da vida de toda forma… Depois da ideia amadurecida, ninguém vai nem ligar mesmo…

Vc se emociona quando vê um UBER? Vc se emociona hoje quando alguém retira uma calculadorazinha de camelô do bolso? Vc acha que o Google é alguma espécie de oráculo divino?

Não me assunto com essas IAs porque elas não são pessoas.
Elas não tem corpo, e não andam por aí…
Se eles inundarem as redes sONciais e as fontes de informação com besteira, pode ficar tudo do mesmo jeito, pois do jeito que já está nas redes sONciais… já é tudo mentira mesmo.

Conhecimento que é conhecimento mesmo, para o longo prazo, vc adquire dentro de 10 anos.
Ou muito mais tempo… IA não convence quem é da área.

Então eu vou ter que estudar do mesmo jeito…. (adotando as novidades tecnológicas do tempo.)
Então vou ter que trabalhar… (adotando as novidades tecnológicas do tempo.)

Meio que não mudou nada.

Para aqueles que dizem que ele nem sabe do que está falando, cabe lembrar que ele foi um dos fundadores da OpenAI...

OpenAI nasceu sem fins lucrativos, inclusive recebia doações
Agora do nada a Microsoft é dona 

postado por @Omar_o_magnifico em 30/03/2023 13:54

Ainda não sei a motivação deles

Ganhar tempo para tirar a diferença para a OpenAI...

postado por @Giovanni em 31/03/2023 11:50

Mas não segue as leis de asimov.

O que é perigoso.

Os "ethical guidelines" conforme interpretados pelos programadores ou supervisores podem ser muito diferentes do que eu ou você consideramos ético.

O ideal seria ser programado para seguir as leis de asimov ou algo parecido.

Se o foco for apenas o meio, eu paro de me perguntar se devo e passo apenas a me perguntar se posso. IA é beeeem diferente de outras invenções da humanidade, na minha humilde opinião, mas claro, posso estar errado. Interesses econômicos estão envolvidos, é óbvio, mas não anula a necessidade de cautela. 

postado por @celtiberian em 02/04/2023 14:33

Mas não segue as leis de asimov.

O que é perigoso.

Os "ethical guidelines" conforme interpretados pelos programadores ou supervisores podem ser muito diferentes do que eu ou você consideramos ético.

O ideal seria ser programado para seguir as leis de asimov ou algo parecido.

chatGPT é uma AI com foco de parecer o mais natural possível conversando
o foco é chat

se você perguntar a opinião dela, ela não tem opinião, mas ela pode simular ser alguém com alguma característica

mas no fundo é só uma AI de chat mesmo

esses dias eu pedi para ela fingir que era da antiga suméria e criei toda uma fanfic de alguém dessa época
como é uma AI linguistica ela cria até linguagem de programação para vc:


mas é isso, o sucesso do chatGPT é parecer ser um ser vivo conversando e criando coisas, mas a inteligência é só isso

é um conceito difícil de entender e até mesmo de explicar
as pessoas acham que o chatGPT é um canivete suíço quando na verdade é uma chave philips extremamente especializada no que faz

então tanto faz ética para ela, porque ela não tem noção nem precisa saber de ética
mas ela pode simular o que alguém de alguma época/povo/região diria sobre ética e parecer ser essa pessoa escrevendo

agora uma AI overlord que venha aniquilar os humanos poderia sim utilizar o chatGPT como forma de se comunicar com seus escravos de carne, por exemplo

ChatGPT tem opinião sim - e diversas formas de extraí-la - não tem é "vontade de opinar", é passivo. Mas entrega a avaliação que o processamento de linguagem considerar a resposta correta - na opinião do chatgpt - para as perguntas.

postado por @Giovanni em 03/04/2023 11:03

é um conceito difícil de entender e até mesmo de explicar
as pessoas acham que o chatGPT é um canivete suíço quando na verdade é uma chave philips extremamente especializada no que faz

Eu já passei um case interview de processo seletivo (não é um case disponível na internet, foi criado por nós) e a AI foi bem. Não passou no nível que preciso, mas bateu na trave e em diversas perguntas foi muito melhor que a média dos humanos que fizeram até hoje. Provavelmente a versão 4 passe com tranquilidade. Não passa somente em um teste de turing "simples" (meramente conversar) mas também em um teste de turing feito por desafios e comandado por um operador hábil.

A mente humana é justamente, do ponto de vista prático, uma máquina generalista de resolver problemas. E é justamente essa competência que o chatGPT vem mostrando em um nível nunca antes visto em máquinas. E a mente humana, em sua "programação de alto nível", trabalha justamente com processamento de linguagem - a ponto de pessoas alfabetizadas em diferentes línguas terem sua cognição aumentada ou reduzida frente a pares em certos aspectos, dadas as características daquela língua (amplamente conhecido para o caso da matemática e línguas asiáticas vs inglês). Criamos nosso "filho" à nossa imagem e semelhança, por enquanto...

postado por @Giovanni em 03/04/2023 11:03

então tanto faz ética para ela, porque ela não tem noção nem precisa saber de ética
mas ela pode simular o que alguém de alguma época/povo/região diria sobre ética e parecer ser essa pessoa escrevendo

A ética não é para a AI, é para ser cumprida pela a AI em prol dos humanos que a usam.

Se você notar no uso do chatGPT, muita coisa sequer cai no processamento de linguagem, cai em um filtro praticamente hard coded (ou perto disso), em respostas relativamente diferentes do tom que normalmente ela responde.
Hoje a regra ética é "vai fazer o que os humanos que programam o filtro ético mandarem".

As leis de asimov (ou alguma normativa equivalente, genérica) são obviamente melhores para a humanidade que filtros hard coded por humanos de acordo com suas preferências ou interpretações.