Apesar dos benefícios significativos dos modelos de linguagem generativa (LLMs), estes não estão isentos de falhas. Uma das questões importantes é o enviesamento (ou bias), que se refere às tendências do modelo para gerar respostas que favoreçam certas perspetivas, preconceitos ou informações incorretas.

Os Modelos de Linguagem de Grande Escala (LLMs) têm transformado a forma como processamos e geramos linguagem. Este artigo técnico explora o funcionamento dos LLMs, focando nas técnicas essenciais que sustentam sua operação: codificação, incorporação e auto-atenção, todas integradas na arquitetura de transformers.