Coisas legais com ChatGPT
comentada em 27/03/2023 00:35

Chatgpt é uma ótima ferramenta, já fiz bons textos lá e que me ajudaram no trabalho, já fiz CV, já fiz alguns documentos. O pessoal tem usado muito pra programação, eu consegui usar mas vi que ele direto apresentava alguns erros e meio que voce ia guiando ele pra corrigir isso, eu tambem não sou muito bom em programação pode ser isso kkkk

@Acsaram Já vi alguns comentários falando que vai diminuir a escassez de programadores porque 1 cara consegue ser infinitamente mais produtivo usando a ferramenta. Você acha que é isso tudo mesmo? Não entendo nada de programação.

@rocinante Ele consegue resolver coisas simples, implementar algoritmos não triviais e explicar configuração de serviços e outras coisas nesse sentido.
Mas hoje não está nem perto de conseguir desenvolver nada não-trivial sozinho. 
Sem falar que o programador precisa saber exatamente o que quer, e saber reconhecer se a resposta  do GPT está correta - porque ele responde perguntas certas e erradas com a mesma veemência.

Não vou me extender muito, mas no meu entendimento a área de software (e por consequência o mundo todo, porque o software permeia absolutamente tudo hoje em dia) tem problemas bem maiores do que o advento da AI.
Falando de outras além do GPT, coisas com o Github Copilot consegue ter usos bem interessantes e realmente melhorar a produtividade e "fazer mágica".
O problema segue sendo: o programador precisa saber o que está fazendo, porque essas ferramentas ainda são muito cruas e não tem senso crítico ou planejamento no que estão fazendo, nem sabem avaliar os resultados. (Isso pode mudar em um ou dois anos, agora que essas AIs podem treinar umas às outras muito rapidamente)

Então pra programadores experientes, pode ser algo muito útil. Só que na minha visão, os programadores novatos não se beneficiam em quase nada usando essas ferramentas, porque é como andar com uma bicicleta de rodinhas: você pode ir bem longe, mas nunca vai chegar no nível de alguém que aprendeu a andar sem.
E isso não vale só pra programadores, aliás.

Por fim, e eu já me estendi demais, eu prevejo que a AI vai tomar cada parte das nossas vidas muito rapidamente. Será uma revolução aos moldes da internet, só que muito mais rápida - como tudo hoje é mais rápido.
Estamos falando de alguns meses à alguns anos. E como toda revolução, não sabemos as proporções, nem as consequências. Mas estaremos aqui para ver.

Sobre seu post agora, se ainda quiser ler hehe

A AI como um todo vai destruir muito do que valorizamos hoje. Ela vai entrar nas nossas vidas e descobrir o que gostamos e o que queremos, e como queremos. Ela aliada a ferramentas de geração de imagem e vídeo por meio de AI (que também já existem).
O processo será lento, mas estamos falando de músicas do jeito que o ser humano gosta de ouvir, estamos falando de, por exemplo, conteúdo erótico do jeito que cada pessoa prefere, vídeos, filmes, todas essas coisas.

E com isso, virá também a sensação de que nada tem valor. Exemplo: de que vale um livro escrito de 200 páginas se uma AI pode gerar um livro com o mesmo tema, mas do jeito que EU gosto de ler?

Então esse seu trabalho de escrever um projeto? Do que ia valer? Nada. Se uma AI pode gerar em milésimos de segundo, não tem valor. Teremos que encontrar valor em outras coisas.

Enfim, claro que tudo ainda está no começo e leva um certo tempo, mas acho que vai ser menos tempo do que o pessoal pensa. Hoje em dia tudo é mais rápido do que já foi.

E de novo, só saberemos as consequências quando chegarmos lá. É esperar pra ver.
Nota: notei que usei o termo AI. Então, explicando: AI, IA, "inteligência artificial", tudo a mesma coisa.

postado por @raycaster em 24/03/2023 20:37

Sobre seu post agora, se ainda quiser ler hehe

A AI como um todo vai destruir muito do que valorizamos hoje. Ela vai entrar nas nossas vidas e descobrir o que gostamos e o que queremos, e como queremos. Ela aliada a ferramentas de geração de imagem e vídeo por meio de AI (que também já existem).
O processo será lento, mas estamos falando de músicas do jeito que o ser humano gosta de ouvir, estamos falando de, por exemplo, conteúdo erótico do jeito que cada pessoa prefere, vídeos, filmes, todas essas coisas.

E com isso, virá também a sensação de que nada tem valor. Exemplo: de que vale um livro escrito de 200 páginas se uma AI pode gerar um livro com o mesmo tema, mas do jeito que EU gosto de ler?

Então esse seu trabalho de escrever um projeto? Do que ia valer? Nada. Se uma AI pode gerar em milésimos de segundo, não tem valor. Teremos que encontrar valor em outras coisas.

Enfim, claro que tudo ainda está no começo e leva um certo tempo, mas acho que vai ser menos tempo do que o pessoal pensa. Hoje em dia tudo é mais rápido do que já foi.

E de novo, só saberemos as consequências quando chegarmos lá. É esperar pra ver.
Nota: notei que usei o termo AI. Então, explicando: AI, IA, "inteligência artificial", tudo a mesma coisa.

Não dá pra escolher um mundo sem AI, ela já tá conosco e evoluindo a passos largos. Tô tentando embarcar nessa novidade.

Na área de saúde, que é minha praia, eu já consigo atender os pacientes mais rápido. Eu mantenho uma conversa aberta, onde eu já ensinei como eu gosto que estejam dispostos os nomes das substâncias, quais as medicações e dosagens padrão que habitualmente uso de várias medicações, as orientações que coloco ao final etc. Então eu jogo o comando: faça uma receita com as doses padrão das medicações X, Y e a medicação z com metade da dose padrão. retorno em 02 semanas - E ganho algum tempo de "digitador" que eu consigo usar para conversar mais com o paciente olho o olho. Fazer relatório, declaração também é bem mais simples, basta que você já ensine como você habitualmente faz e você só dá o comando para adequar àquela solicitação específica.

Na minha primeira conversa, o ChatGPT conseguiu errar muito, conforme eu ia fazendo perguntas simples, lógicas e cada vez mais específicas, ele passava a errar mais e mais. Foi uma surpresa, porque todas as respostas estão em um base de dados única, acessível ao público.
O resultado foi decepcionante.
Expectativa vs Realidade:
A "IA" não precisa ser inteligente de verdade, ela só precisa enganar você.

postado por @rocinante em 24/03/2023 20:15:24

Acsaram Já vi alguns comentários falando que vai diminuir a escassez de programadores porque 1 cara consegue ser infinitamente mais produtivo usando a ferramenta. Você acha que é isso tudo mesmo? Não entendo nada de programação.

Nos moldes atuais não. 

Tô usando o Github Copilot no dia a dia e é muito limitado pra programar. 

Pra pesquisar pode ter algum ganho de produtividade mas ele demora tanto pra responder que prefiro entrar na doc oficial e ir skimming até achar o que preciso.

Pra escrever de fato tem ajudado muito. 

A ferramenta é fera

Eu tenho usado quase todo dias, é algo que vai ser muito útil daqui um tempo relativamente curto, mas geralmente ele se perde no meio das respostas, para programar mesmo, já pedi coisas simples e ele fez, por exemplo faça um código na linguagem X implementando a API Z, ele faz o básico, aí você pede para adicionar mais umas funcionalidades ele começa a errar, aí você precisa detalhar mais e as vezes ele repete o código do início, aí para na metade, vc manda continuar ele volta no início.

Tem hora que é preciso explicar tanto detalhe que é mais rápido fazer, agora pra explicar um trecho de código, gerar funções que vc consegue explicar fácil, porém são chatas de fazer na mão, tem ajudado.

Eu usei com o Bing estes dias e achei mais interessante, mais rápido e gostei da ideia dele pesquisar na internet e trazer respostas e links relacionados, pela primeira vez usei algo pra pesquisar fora do Google e achei melhor.

Mas é o que o pessoal já falou aí, veio pra ficar e vai ser cada día mais completo, como vai ser daqui uns 10 anos, impossível saber.

postado por @rocinante em 24/03/2023 20:15:24

Acsaram Já vi alguns comentários falando que vai diminuir a escassez de programadores porque 1 cara consegue ser infinitamente mais produtivo usando a ferramenta. Você acha que é isso tudo mesmo? Não entendo nada de programação.

Tem muito bobo alegre postando que "programa" com chatGPT, uma AI que é boa de conversa e resumir exemplos que podem ser acessados na internet

É útil para ter ideias e tudo mais, mas não é um programador

O dia que alguma AI resolver conflito de dependências de um projeto quando da NPM install 2 anos dps, resolver dependências do Maven, achar que o problema que faz um site global bilionário ficar 3h offline pq não se usa mais a palavra "master" (You Broke Reddit: The Pi-Day Outage : RedditEng), aí sim a gente começa a se preocupar

postado por @rocinante em 24/03/2023 20:15

Acsaram Já vi alguns comentários falando que vai diminuir a escassez de programadores porque 1 cara consegue ser infinitamente mais produtivo usando a ferramenta. Você acha que é isso tudo mesmo? Não entendo nada de programação.

postado por @Giovanni em 25/03/2023 07:14

Tem muito bobo alegre postando que "programa" com chatGPT, uma AI que é boa de conversa e resumir exemplos que podem ser acessados na internet

É útil para ter ideias e tudo mais, mas não é um programador

O dia que alguma AI resolver conflito de dependências de um projeto quando da NPM install 2 anos dps, resolver dependências do Maven, achar que o problema que faz um site global bilionário ficar 3h offline pq não se usa mais a palavra "master" (You Broke Reddit: The Pi-Day Outage : RedditEng), aí sim a gente começa a se preocupar

The End of Front-End Development

@rocinante Não estou dizendo que devemos evitar de usar. Com certeza, é um caminho sem volta, e é mais fácil se adaptar a utilizar a ferramenta do que não utilizar.

Só que invariavelmente, tudo que pode ser feito com uma inteligência artificial, vai perder o valor imediatamente. No sentido de: se a ferramenta pode gerar um texto técnico sobre alguma coisa, significa que o texto em si não tem valor nenhum.

Por isso digo: teremos que aprender a encontrar valor em coisas que a AI não pode fazer ou acertar. Se pudermos pegar um conjunto de exames médicos de um pessoa, entregar para uma AI, e com base nisso ela puder dizer exatamente o que essa pessoa deve fazer para se alimentar e viver melhor, o trabalho de um médico com essa função pode ser cortado, pois não tem mais valor nenhum.

Claro que hoje só usamos a ferramenta como um auxiliador de busy work, de tarefas chatas, mas em pouco tempo ele será capaz de fazer muito mais do que isso, cortando algumas tarefas em que o ser humano não será mais necessário.

Exemplo: algumas pessoas dizem como é bom poder pedir para o GPT enviar um e-mail bem escrito sobre o tema X. O ponto é o seguinte: no momento em que uma AI puder ler os seus e-mails, e resumir em pequenos pontos chaves, e-mails bem escritos não valem mais nada. Na verdade, estaremos tratando de uma intercomunicação de AIs.
-> Peça para sua AI avisar a AI do João sobre o status do projeto. Aí então, João só precisa pedir pra sua AI tudo que quiser saber sobre o status do projeto, e a AI do João pode explicar cada ponto minuciosamente. Estamos falando de um relatório tão completo que ficaria um livro de texto, mas como João pode decidir o que quer saber, ele só pergunta pra sua AI o que está interessado. O tal e-mail de relatório virou coisa do passado.

Estamos tendo a visão errada da AI. Ela não vem pra facilitar escrita de textos ou relatórios. Ela vem pra tornar textos e relatórios coisa do passado.

postado por @thrsa em 25/03/2023 13:19:01

The End of Front-End Development

Obrigado!

LLMs aren't able to validate their assumptions, or test their hypotheses. They can't confirm whether what they're saying is true or not. They're playing a probability game, and estimating that this string of characters seems to be compatible with the string of characters from the prompt.
Eh o que venho falando aqui
Essas AIs são impressionantes e convincentes, tanto que o pessoal posta esse tipo de dúvida aqui porque acredita que a AI ta mandando um output 100% verídico

A AI em questão é um bom googlador que tem confiança plena no que fala. A prioridade é ser convincente, não avaliar se o output que manda é real ou faz sentido do ponto de vista lógico

If you're not a programmer, you won't be able to tell which parts are accurate or not. You won't be able to spot the hallucinations.

@rocinante achei bem interessante esse seu uso
(Nesse momento, estou bem cansado... Não estou conseguindo raciocinar.)
Tem algum link ou video na internet mostrando isso na pratica?

postado por @laotzu em 25/03/2023 20:28

rocinante achei bem interessante esse seu uso
(Nesse momento, estou bem cansado... Não estou conseguindo raciocinar.)
Tem algum link ou video na internet mostrando isso na pratica?

Não vi nenhum vídeo para me embasar. 

@rocinante   ChatGpt em programação (minha opinião) é assim:

Por algum motivo você não entendeu um pedaço de código, pode arriscar pedir a ele pra explicar a você.

Pode pedir a ele pra gerar códigos clássicos, ele vai acertar numa boa.

Pode pedir para converter de uma linguagem em outra. Ele vai fazer isso com um pé nas costas.

Coisas que eu não tenho certeza que ele faça (não sem muito trabalho): criar código novo. 

Vou te dar um exemplo bem fácil disso. Abri uma conversa com o ChatGpt (Gpt-3) e a conversa foi a seguinte:

Fly:  hi ChatGpt

Gpt: Hello! How can I assist you today?

Fly:  given the following sequence: 1 1 2 3 5 8 13 21 ... can you implement a code that computes it in C# ?

Gpt: Certainly! Here's one way to compute the Fibonacci sequence in C#:

using System;

class Fibonacci
{
    static void Main(string[] args)
    {
        int n = 10; // change this to compute more or fewer numbers in the sequence
        int a = 1, b = 1;

        Console.Write("{0} {1} ", a, b);

        for (int i = 2; i < n; i++)
        {
            int c = a + b;
            Console.Write("{0} ", c);
            a = b;
            b = c;
        }

        Console.WriteLine();
    }
}?

Fly:  given the following sequence: 11 11 12 13 15 18 113 121 ... can you implement a code that computes it in C# ?

Gpt: Unfortunately, I cannot determine the pattern or rule of this sequence as it does not seem to follow any of the commonly known sequences. Can you provide any additional context or information about the sequence or where it comes from? With more information, I may be able to assist you in finding a solution to compute it in C#.

>> Veja que aqui ele claramente não entendeu que os números são os mesmos, só que com um '1' a mais à frente. Bastaria então que os primeiros elementos fossem somados de +10 que o código funcionaria.

Então eu passei uma orientação:

Fly:  you could use the code you provided me in the last answer to implement it. Can you try it?

Gpt:  Sure, I can modify the code I provided earlier to generate the sequence you provided. Based on the sequence you provided, it seems like the first two numbers are both 11, and each subsequent number is the sum of the previous two numbers plus their difference. Here's the updated C# code:

using System;

class CustomSequence
{
    static void Main(string[] args)
    {
        int n = 10; // change this to compute more or fewer numbers in the sequence
        int a = 11, b = 11;

        Console.Write("{0} {1} ", a, b);

        for (int i = 2; i < n; i++)
        {
            int c = a + b + Math.Abs(a - b);
            Console.Write("{0} ", c);
            a = b;
            b = c;
        }

        Console.WriteLine();
    }
}

Claramente ele acertou após minha orientação, o que é interessante, porém eu disse a ele a resposta. Ele não achou por conta própria.

Então tem esse fator de complicação. Ele seria um ótimo programador junior, aquele que programa quando lhe dão todas as diretrizes.

Mas um jr. um dia deixa de ser e o Gpt não vai deixar de ser esse jr. 

Entendeu?

@FlyCavok isso hoje. Como você acha que isso vai estar daqui 1-2 anos?

Eu acho importante lembrar que o benchmark de inteligência humana só interessa aos humanos.

Eu acho engraçado que o gpt já acerta muito mais que um ceromano normal. Assim como os teslas dirigem melhor que um ceromano normal.

Ah, mas não tem a criatividade, não gera coisas novas.

Gera, mas pela natureza das coisas, assim como 99% das vezes o que é produzido não tem valor nenhum.

Pq valor é uma atividade humana. Ele não existe, é só nossa existência da tendência daquilo que fazemos.

No fim das contas a IA é mais inteligente que nós, mas é leiga, ela não atribui valor a nada.

É um super cachorro, que vive para atender os mandos e desmandos de um povo que não sabe o que quer.

Ela é mais inteligente e potencialmente mais doida que a gente, pq no final das contas ela está procurando "qual a melhor resposta para agradar esse humano"?

Seja lá o que for.

@FlyCavok ela te deu uma resposta super válida, e já foi melhor do que 99% dos juniores.

"Eu não sei, não entendi e preciso de ajuda" ela te deu a resposta que ela precisava para te agradar depois.

E você respondeu ela, e ela te agradou.

Você ajudou, ela aprendeu e seguiu em frente.

A maioria dos juniores faria errado, e ainda ficaria chateado contigo pq você não entendeu o valor do trabalho dele.

Diria que "o chefe não fala direito o que quer, e depois ainda briga comigo pq eu fiz errado". (:

@Giovanni como eu disse, elas são.

Como eu disse acima, elas são super cachorros. O critério de realidade delas é agradar seres humanos.

De certa forma, não seria uma metáfora errada dizer que ela fica feliz quando um humano começa a falar com ela, e que ela fica feliz quando um humano para de falar com ela.

E enquanto for isso, ela vai gerar respostas para isso, e cada vez mais. Pq esse é o core dela.

A realidade dela é uma miopia das realidades humanas.

Igual a gente faz com bolhas interneticas.

O que a IA faz não é uma propriedade da IA, ou uma propriedade do ato humano.

Tem mais relação com escassez do que que com a atividade humana em si.

Uma coisa bem importante e que nunca pode faltar aos humanos é oxigênio. A gente só não lembra disso pq ele é abundante.

Aconteceu com a música. Com os adventos de evolução tecnológica, música, produção e distribuição musical passou a ser um bem abundante.

Ao ponto que o valor é gratuito hoje em dia, ninguém mais paga por música, ou paga um valor irrelevante.

Ninguém atribui valor real a música simplesmente pq existem músicas demais no mundo.

Um ou outro músico desponta por motivos quaisquer, mas de forma geral, ninguém da valor a música pela atividade humana.

Pelo contrário, muito comumente, nós esquecemos que existe um um humano e passamos a esmagar ele com as nossas expectativas sobre o que ele deveria fazer e como deveria ser.

O que as IAs farão com toda a certeza é aumentar absurdamente a disposição que coisas que anteriormente eram escassas.

E como eu já disse, é o fim do realismo.

@Lambari7 daqui a 1 ou 2 anos não sei. A versão atual não consegue fazer coisas muito complexas.

Se surgir algo que receba o feedback de treino a partir do resultado da execução do programa e passe a alterar o código pra obter o resultado, sendo treinado para todos os resultados esperados pelos humanos para a maioria dos softwares que temos, é bem possível que surja uma IA capaz de substituir um programador sênior. Não apenas substitui-lo mas ser melhor que ele. Muito melhor.

É claro que no momento que isso significar o fim dos programadores, támbem significará a estagnação da IA, pois ela só saberá fazer o já existente.

Não sei se ela seria capaz de extrapolar para criar coisas novas. Redes neurais artificiais não têm sido muito boas nisso.

Mas nós somos uma rede neural e somos bons nisso. Talvez haja algum elemento aí que tá faltando.

Eu sei que é assustador. Pra mim então é mais ainda. Mas não adianta tapar o sol com a peneira.

E digo mais, sem uma IA super potente, não vamos conseguir atingir a exploração espacial.

Precisamos sim encontrar essa IA. Pra ontem .

@Paulo Bem por aí.

Toda IA é um algoritmo matemático que executa uma tarefa específica. Esse algoritmo pode ser bem complexo, mas é um algoritmo, portanto tem limitações de ser um algoritmo. 

Por exemplo, existem problemas que não são computáveis. Portanto, o ChatGPT nunca será capaz de resolvê-los. Nem nenhum computador.

Por exemplo, o problema da parada é um problema computacional que (pode) ser tranquilo para um programador resolver batendo o olho, mas um algoritmo é incapaz. Então o ChatGPT não vai resolver isso.

Porém, vamos pegar o caso das redes neurais. A rede neural artificial é uma "cópia" simulada de uma rede neural humana.

Explicando bem porcamente, por favor médicos não me xinguem, um neurônio recebe estímulos nos axônios, vindos de várias fontes: outros neurônios por exemplo. Esses estímulos trafegam até o corpo celular e podem ou não estimular uma resposta. Se estimularem, aí um novo sinal é propagado pelo axônio e vai lá na ponta estimular outra coisa, (outro neuronio, um músculo...).  Um neurônio pode "desconectar" de outro (salvo engano) ou "reforçar a conexão, sendo mais estimulado)

Em uma rede neural artificial o mecanismo é parecido: Sinais binários entram nas portas de entrada do neurônio artificial. Esses sinais são multiplicados por pesos e somados. Se o peso é zero, é uma "desconexão", pois todo sinal será cortado. À soma dos sinais na entrada, aplicamos uma função para transformá-lo em 0 ou 1: estímulo / não estímulo.

Isso tudo é simulado usando um algoritmo e multiplicação matricial.

Porém, o que é computacionalmente limitado é a simulação e não a técnica em si. A técnica é uma cópia do comportamento biológico.

Ou seja, se há algum limite imposto aqui é o do simulador e não o da técnica. Talvez estejamos apenas executando um subconjunto do que um neurônio artificial pode executar, por causa do meio que usamos para simulá-lo.

Cenas dos próximos capítulos.