🧠 O que são os LLMs?
Modelos de Linguagem de Grande Escala que revolucionaram a compreensão e geração de linguagem natural
🧠 Teste os seus conhecimentos
Antes de começar, que tal fazer um quiz de 10 minutos sobre IA Generativa? É um teste criado pela nossa parceira AQIA - Academia de IA e corrigido por uma inteligência artificial.
💡 Uma experiência de aprendizagem onde a própria IA avalia o seu conhecimento!
O que são os LLMs?
Os Modelos de Linguagem de Grande Escala (Large Language Models, ou LLMs) são sistemas de Inteligência Artificial treinados para compreender e gerar linguagem natural. Conseguem escrever textos, traduzir línguas, responder a perguntas ou interagir em diálogo com utilizadores.
O desenvolvimento destes modelos tornou-se viável em 2017 com a introdução da arquitetura Transformer, apresentada por Vaswani e colaboradores no artigo "Attention is All You Need".
Artigo original: https://arxiv.org/abs/1706.03762
A arquitetura Transformer
Antes dos Transformers, os principais modelos usavam redes neuronais recorrentes (RNNs) e LSTMs (Long Short-Term Memory), que processavam palavra por palavra. Esta abordagem era funcional, mas apresentava limitações.
RNNs e LSTMs
- Processamento sequencial (palavra por palavra)
- Lento e difícil de escalar
- Limitações em textos longos
Self-Attention
- Análise simultânea de todas as palavras
- Treino paralelo e escalável
- Identificação de relações relevantes
Os Transformers introduziram o mecanismo de self-attention, permitindo ao modelo analisar todas as palavras em simultâneo e identificar as relações mais relevantes dentro de um texto.
Explicações adicionais:
Capacidades dos LLMs
Leituras adicionais:
Adoção e utilização dos LLMs
Não existem dados sistematizados sobre a utilização de LLMs em Portugal. No entanto, podem observar-se tendências semelhantes às de outros países:
👤 Uso individual
Recurso a ferramentas como o ChatGPT para apoio em estudo, escrita e tarefas quotidianas.
🏢 Setor empresarial
Experimentação de modelos de linguagem em áreas como automação de processos e comunicação com clientes.
🎓 Educação e formação
Professores e alunos que testam estas ferramentas como complemento, ainda que exista debate sobre a sua integração formal.
Benefícios e limitações
Mais informações sobre regulação: AI Act da União Europeia
Perspetivas futuras
Os LLMs poderão integrar-se em sectores como marketing, atendimento ao cliente, turismo, saúde e educação. A sua utilização dependerá tanto da evolução técnica como da formação de profissionais que compreendam as potencialidades e limitações destes sistemas.
Os LLMs são modelos de IA baseados na arquitetura Transformer, treinados com grandes volumes de texto. Permitem compreender e gerar linguagem natural, com múltiplas aplicações. Em Portugal, o seu uso poderá crescer de forma progressiva, acompanhado por desafios técnicos, éticos e regulatórios.
📚 Continue a aprender
Agora que compreende os fundamentos dos LLMs, explore o próximo tópico do nosso mini-curso para descobrir como comunicar eficazmente com estes sistemas.