Musk e especialistas pedem pausa em pesquisa sobre inteligência artificial
comentada em 03/04/2023 14:00

Ainda não sei a motivação deles, mas está aí a petição para quem quiser entender melhor:

“Sistemas de IA com inteligência competitiva com a humana pode trazer profundos riscos à sociedade e à humanidade, como mostrado por extensa pesquisa e reconhecido por importantes laboratórios de IA. Como se afirma no amplamente apoiado Asilomar AI Principles, uma IA avançada poderia representar uma profunda mudança na história da vida na Terra, e deveria ser planejada e gerida com os correspondentes cuidados e recurso. Infelizmente, este nível de planejamento e gestão não está ocorrendo, mesmo que tenhamos visto, nos últimos meses, ao laboratórios de IA presos a uma corrida fora de controle para desenvolver e empregar cérebros digitais ainda mais poderosos que ninguém – nem mesmo seus criadores – pode compreender, predizer ou controlar razoavelmente.

Os sistemas de IA contemporâneos estão, agora, se tornando competitivos com os humanos em tarefas em geral, e devemos nos perguntar: deveríamos permitir que máquinas inundem nossos canais de informação com propaganda e inverdades? Deveríamos automatizar todos os trabalhos, inclusive os mais gratificantes? Deveríamos desenvolver mentes não-humanas que poderiam, eventualmente, nos superar em número e em inteligência, nos tornando obsoletos e nos substituindo? Deveríamos nos arriscar a perder o controle de nossa civilização? Essas decisões não devem ser delegadas para líderes do setor de tecnologia não-eleitos. Poderosos sistemas de IA deveriam ser desenvolvidos, somente se estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis. Esta confiança deve ser bem justificada e crescer com a magnitude dos efeitos potenciais de um sistema. A recente declaração da OpenAI sobre a inteligência artificial em geral afirma que “em certo ponto, pode ser importante contar com revisão independente, antes de iniciar o treinamento de futuros sistemas, e para os esforços mais avançados para estabelecer um limite para a taxa de crescimento da computação utilizada para criar novos modelos.” Nós concordamos. E estamos neste ponto agora.

Portanto, conclamamos todos os laboratórios de IA a suspender imediatamente por, pelo menos, 6 meses, o treinamento de sistemas de IA mais poderosos que o GPT-4. Esta pausa deveria ser pública e verificável, e incluir todos os atores-chave. Se tal pausa não puder ser implementada rapidamente, os ONREVOGs deveriam vir a campo e instituir uma moratória.

Os laboratórios de IA e especialistas independentes deveriam usar essa pauta para, em conjunto, desenvolver e implementar um leque de protocolos de segurança compartilhados para o design e o desenvolvimento de IAs avançadas, que sejam rigorosamente auditados e supervisionados por experts externos e independentes. Esses protocolos deveriam assegurar que os sistemas que aderirem a eles são seguros, acima de qualquer dúvida razoável. Isso não significa uma pausa no desenvolvimento de IAs em geral, mas simplesmente um passo atrás de uma perigosa corrida rumo a cada vez maiores e imprevisíveis “modelos caixas-pretas” com capacidades emergentes.
A pesquisa e o desenvolvimento de IA deveria ser reorientada para tornar os atuais e poderosos sistemas, que representam seu estado-da-arte, mais acurados, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais.

Em paralelo, os desenvolvedores de IA devem trabalhar em conjunto com os formuladores de políticas públicas para acelerar dramaticamente o desenvolvimento de sistemas robustos de governança das IAs. Isso deveria, no mínimo, incluir: novas e capacitadas autoridades regulatórias dedicadas à IA; monitoramento e rastreamento de sistemas de IA altamente capazes e grandes pools de capacidade computacional; sistemas de proveniência e marca-d’água para auxiliar a distinguir o real do sintético e rastrear fissuras no modelo; um robusto ecossistema de auditoria e certificação; responsabilização por danos causados por IA; robustos fundos públicos para a pesquisa técnica de segurança de IA; e institutos bem financiados para lidar com as dramáticas disrupturas econômicas e políticas (especialmente à democracia) que a IA causará.

A humanidade pode gozar de um futuro florescente com a IA. Ao sermos bem-sucedidos em criar poderosos sistemas de IA, podemos agora usufruir de um “verão da IA”, no qual colhemos os frutos, projetamos os sistemas para o claro benefício de todos, e damos à sociedade uma chance de se adaptar. A sociedade já suspendeu outras tecnologias com efeitos potencialmente catastróficos. Podemos fazer o mesmo aqui. Vamos gozar de um longo verão da IA, e não corrermos despreparados para um outono decadente.”

só um adendo :-)
o musk tentou controlar / comprar a OpenAI

de qq forma ele já vem avisando sobre esse "perigo" há alguns anos

Faz sentido, movimento parecido do que aconteceu com a bomba atômica... 

Alguém pede a opinião dessa notícia para a IA no ChatGPT por favor.

Nassim Taleb hoje no Twitter:
"If AI represents a problem, it is mostly for established technology companies and cartels."

Vejo isso por 2 lados, eles podem estar com certo medo disso por questão simplesmente financeira, pois se um grande sistema de AI for feito praticamente não vai precisar de outro, logo vai ter um monopólio que vai ganhar muito dinheiro com isso.

Aí tem o outro lado (que eu tenho minhas dúvidas se eles realmentes estão preocupados), que é uma grande evolução da AI substituir em grande escala empregos em um curto espaço de tempo, gerando uma grande crise global, além de problemas de segurança cibernética e facilidade em criar e divulgar coisas falsas.

Mas eu acho que eles preocupam mais com a primeira opção

Elon musk e esse outro que não sei escrever o nome não sabem nem derivar exp(x). Oq vc acha que eles sabem sobre isso aí pra falar oq é ou deixa de ser uma ameaça?
É brincadeira bixo

kkk, é o mesmo que o Hamilton pedir para a FIA da uma barrada no Verstappen pra ver se conseguem alcançar ele.

Cadê o Bastter com a petição para proibir a sardinhagem por pelo menos 6 meses?

Gostei dessa parte do documento elaborado pelos liberais notórios:
"Esta pausa deveria ser pública e verificável, e incluir todos os atores-chave. Se tal pausa não puder ser implementada rapidamente, os ONREVOGs deveriam vir a campo e instituir uma moratória"

hummm....

ai socorro a AI vai me matar kkkkkkk
é só dinheiro filho, tem ninguém preocupado com vcs não.

Talvez a AI poderia realmente quebrar um pouco esse monopólio das Big Techs, mas a Microsoft já tá dentro da OpenAI então uma já deve continuar.

Eu acho que no final das contas vai ser uma evolução que vai deixar alguns trabalhos mais rápidos, reduzir o tempo em algumas coisas e ao mesmo tempo vai criar outros postos de trabalho que a gente nem imagina.

Mas se acontecer de surgir uma super AI que domine praticamente tudo que se faz no computador, e que arrume uma fonte de energia e processamento gigantesca para substituir tanta força de trabalho no mundo, a gente não vai poder fazer nada contra também, vai ser o fim do capitalismo que a gente conhece.

Corolla: a verdadeira reserva de valor Ver mais

Tenho medo de tecnologia não, se precisar a gente anda com carburador, né @Pai_Naldo?

Eu conectei um computador na impressora 3D industrial na garagem, e disse que ela poderia usar o que tivesse lá para criar um corpo,  agora não consigo mais entrar na garagem e só ouço o barulho das ferramentas 24h por dia, estou com medo do que vai sair de lá. PS: fanfic

postado por @saga em 30/03/2023 22:33

Eu conectei um computador na impressora 3D industrial na garagem, e disse que ela poderia usar o que tivesse lá para criar um corpo,  agora não consigo mais entrar na garagem e só ouço o barulho das ferramentas 24h por dia, estou com medo do que vai sair de lá. PS: fanfic

Fica tranquilo e bons sonhos nesta noite sem nuvens.

No rain, no brain.

postado por @ebitda em 30/03/2023 21:49

Tenho medo de tecnologia não, se precisar a gente anda com carburador, né @Pai_Naldo ?

That’s how we roll.

Elon: essa bagaça aí é minha?
ChatGPT: Não!
Elon: da para comprar?
ChatGPT: Não!
Elon: então manda parar isso aí e diga que é perigoso para a humanidade!!!

não sei não...

qual é a chance do criador da SpaceX; Neuralink; PayPal; Tesla, Inc.; SolarCity e atual dono do Twitter estar se sentindo "ameaçado" pelo avanço das AI?

Quem desdenha quer comprar, diz o ditado...

(ou já comprou)

Essas AÍ vão sair e amadurecer no final das contas do mesmo jeito e vão fazer parte da vida de toda forma… Depois da ideia amadurecida, ninguém vai nem ligar mesmo…

Vc se emociona quando vê um UBER? Vc se emociona hoje quando alguém retira uma calculadorazinha de camelô do bolso? Vc acha que o Google é alguma espécie de oráculo divino?

Não me assunto com essas IAs porque elas não são pessoas.
Elas não tem corpo, e não andam por aí…
Se eles inundarem as redes sONciais e as fontes de informação com besteira, pode ficar tudo do mesmo jeito, pois do jeito que já está nas redes sONciais… já é tudo mentira mesmo.

Conhecimento que é conhecimento mesmo, para o longo prazo, vc adquire dentro de 10 anos.
Ou muito mais tempo… IA não convence quem é da área.

Então eu vou ter que estudar do mesmo jeito…. (adotando as novidades tecnológicas do tempo.)
Então vou ter que trabalhar… (adotando as novidades tecnológicas do tempo.)

Meio que não mudou nada.

Para aqueles que dizem que ele nem sabe do que está falando, cabe lembrar que ele foi um dos fundadores da OpenAI...

OpenAI nasceu sem fins lucrativos, inclusive recebia doações
Agora do nada a Microsoft é dona 

postado por @Omar_o_magnifico em 30/03/2023 13:54

Ainda não sei a motivação deles

Ganhar tempo para tirar a diferença para a OpenAI...

postado por @Giovanni em 31/03/2023 11:50

Mas não segue as leis de asimov.

O que é perigoso.

Os "ethical guidelines" conforme interpretados pelos programadores ou supervisores podem ser muito diferentes do que eu ou você consideramos ético.

O ideal seria ser programado para seguir as leis de asimov ou algo parecido.

Se o foco for apenas o meio, eu paro de me perguntar se devo e passo apenas a me perguntar se posso. IA é beeeem diferente de outras invenções da humanidade, na minha humilde opinião, mas claro, posso estar errado. Interesses econômicos estão envolvidos, é óbvio, mas não anula a necessidade de cautela.