Dyego Maas - Blog

Consultor em IA Generativa e Arquiteto de Software

Experiências Com Chatgpt

Experiências Com Chatgpt

Some text between 120 and 165 characters for google and social media

3 min de leitura

Nos últimos meses, testei o ChatGPT extensivamente. Isso me ajudou a entender como tirar vantagem dele para minha vida, tanto no âmbito profissional quanto pessoal. Abaixo, compartilho insights valiosos que tive nesses últimos meses.

A augue nunc lacus auctor efficitur tempor placerat, dictum volutpat mi vitae viverra porta non sem, himenaeos senectus vivamus potenti cubilia sollicitudin. Curae cursus inceptos tincidunt magna mi nibh ad enim etiam, molestie eu quis primis hendrerit taciti phasellus. Feugiat ultricies dictumst iaculis potenti odio laoreet urna at, ultrices curae leo accumsan proin sem lobortis.

Outline:

  • RLHF
  • Cada chat é uma nova ferramenta
  • Prompt engineering: vai ter um post próprio
  • Exemplos
  • Valor do GPT-4 vs GPT-3.5

Insights

Alguns insights. TODO melhorar.

ChatGPT == GPT 3.5+ para conversa com humanos

Dentro do universo de problemas que podem ser endereçados através de uma interface linguística, podemos considerar o GPT 3.0+ como uma ferramenta de propósito geral, também chamado de Modelo Fundacional. Tem enorme potencial e pode resolver vários problemas. Mas é difícil de usar, o que restringe sua utilidade.

Relatório de cobertura da biblioteca ForeverFactory, mostrando 99% de cobertura de código, incluindo namespaces, classes e métodos
Relatório de Cobertura da biblioteca ForeverFactory

Como o modelo é pré-treinado (GPT significa General Pre-Trained) com uma base gigantesca de texto extraídos da Internet, possui capacidades latentes incríveis, como entender conceitos, construir cadeias de raciocínio, aplicar lógica e produzir ficção. Esta primeira e gigantesca camada, o GPT 3.0, foi criada através de um processo de treinamento não-supervisionado. Isso significa que a rede neural foi alimentada com texto da Internet, e fragmentos do próprio texto foram usados para aferir a qualidade do aprendizado.

Mas para tornar a ferramenta mais útil para seres humanos, foi aplicado um longo processo de fine-tuning chamado RHLF (*Reinforced Learning Human Feedback), através do qual o modelo foi treinado para atender educadamente as requisições de seres humanos numa dinâmica de conversa: um chat.

Cada chat é uma nova ferramenta

A forma como o ChatGPT está configurado para atender nossas requisições nos permite criar uma nova dinâmica de resolução de problemas a cada nova sessão de chat. Podemos entender cada sessão dessas como uma nova camada de treinamento, curta e extramente poderosa, treinada através de um processo chamado few-shot prompting: com algumas poucas instruções, podemos fazer o assistente assumir uma persona adequada para o nosso problema, e instruí-lo a resolvê-lo da forma desejada.

TODO: linkar RHLF ao artigo sobre GPT 4.0.

etapa de treinamento é nã Mas através de um processo de treina

ChatGPT é, de Existem duas formas como um modelo fundacional como o GPT pode ser especializado numa ferramenta Falar sobre como modelos fundacionais podem ser especializados de duas formas: fine tuning e few shot prompting

Prompt engineering

Algumas dicas de como montar um bom prompt.

Programação linguística é o futuro

TODO verificar como o Wolfram chama no episódio de podcast com o Lex Fridman.

TODO questionamento: as linguagens de programação serão o novo Assembler?