Data Engineer & Machine Learning | Electrical Engineer
Joined September 2020
- Tweets10.1K
- Following628
- Followers14.1K
- Likes4.8K
Hoje teve corrida de rua pró Lula na minha cidade. Daí vi uma limítrofe postando vídeo do pessoal correndo dizendo que eles eram sem noção que estavam atrapalhando o pace dela e por isso o Flávio vai ganhar e acabar com a folga “desse povo”. Sabe, são essas coisas que tornam o ambiente agressivo, incompreensível e dolorido pra ambos os lados, a certeza de algo como a >rua< é seu e que ninguém mais tem direito sobre aquilo.
Eu votaria com muita vontade em qualquer candidato que viesse com a proposta de remover a imunidade parlamentar. É de um absurdo uma pessoa que ocupa uma posição de representante do povo levantar um celular e se gravar querendo humilhar outras pessoas por pensamentos diferentes com papo de “desempregado” ou qualquer outra exposição e não responder por isso na justiça. Ninguém poderia ter proteção pra fazer qualquer coisa e não ser responsabilizado no instante em que fez.
Esse é um dos melhores materiais que já compartilhei aqui.
Tenho me aprofundado em estudos sobre LLMs até RAGs. E acabei elaborando um material bacana sobre isso, vou compartilhar tudo nessa thread.
Como funciona um LLM por dentro?
De transformar palavras em números até gerar respostas com contexto, existe uma arquitetura por trás dos modelos de linguagem.
Podemos esse mundo de maneira geral nesse infografo, e conforme avançamos detalharei seus itens.
Tenho me aprofundado em estudos sobre LLMs até RAGs. E acabei elaborando um material bacana sobre isso, vou compartilhar tudo nessa thread.
Como funciona um LLM por dentro?
De transformar palavras em números até gerar respostas com contexto, existe uma arquitetura por trás dos modelos de linguagem.
Podemos esse mundo de maneira geral nesse infografo, e conforme avançamos detalharei seus itens.
Como tudo se conecta?
Tokenização, embeddings, atenção, FFN, normalização, treinamento, inferência e RAG não são conceitos isolados.
Cada componente participa de uma etapa diferente do funcionamento de um sistema baseado em LLM.
(aqui adicionei a mesma imagem do começo mas num outro ponto de vista)
Conclusão.
Estudar Transformers é perceber que a inteligência dos LLMs surge da combinação de matemática, arquitetura, otimização e dados.
Compartilho esses resumos como material de estudo para quem também está explorando Engenharia de IA que vem fortíssima junto a Engenharia de Dados porque alguém tem que abastecer esses bancos de dados.