O que significa GPT (Generative Pre-Trainer Transformer)?
“Generativa” em GPT representa a sua capacidade de gerar texto em linguagem humana natural. O “Pré-formado” representa o facto de o modelo já ter sido treinado em alguns conjuntos de dados finitos. Muito como se tivesse lido um livro ou talvez vários livros antes de lhe terem sido feitas perguntas sobre o mesmo. “Transformer” representa a arquitectura de aprendizagem por máquina subjacente que alimenta o GPT.
Porque deve usar o ChatGPT?
Como modelo linguístico formado pelo OpenAI, ChatGPT tem uma vasta gama de capacidades e pode realizar muitas tarefas diferentes. Aqui estão algumas das coisas que o ChatGPT pode fazer:
- Responder a perguntas: ChatGPT pode responder a perguntas em linguagem natural, fornecendo informação sobre uma grande variedade de tópicos.
- Gerar texto: Pode gerar texto de tipo humano numa variedade de estilos e tons, tornando-o útil para a criação de conteúdo e geração de texto.
- Resumir texto: ChatGPT pode fornecer uma visão geral concisa de artigos ou documentos longos, facilitando a rápida compreensão das ideias principais.
- Traduzir texto: Pode traduzir texto de uma língua para outra, tornando-o útil para a comunicação com pessoas que falam línguas diferentes.
- Gerar poesia: ChatGPT pode criar poemas originais numa variedade de estilos, fornecendo inspiração e exemplos para poetas e escritores.
- Fornecer feedback por escrito: ChatGPT pode analisar a escrita e fornecer feedback sobre factores tais como gramática, estilo e tom, ajudando os escritores a melhorar o seu ofício.
Como é que o ChatGPT funciona?
A um nível elevado, ChatGPT é um modelo de aprendizagem profunda que utiliza uma rede neural para gerar texto de tipo humano. A versão específica do modelo, ChatGPT-3, é baseada numa técnica chamada arquitectura transformadora. Este tipo de arquitectura permite que o modelo reconheça padrões e estruturas na linguagem. Faz isto processando uma sequência de fichas e gerando uma sequência de saída.
O modelo incluiu um enorme conjunto de dados de texto, incluindo livros, artigos, websites, e muito mais. Durante o processo de formação, o modelo acolheu milhões de exemplos de texto e pediu para prever a palavra seguinte em cada sequência.
Quando interage com o ChatGPT, fornece-lhe uma pergunta ou pergunta rápida, e o modelo gera uma resposta baseada nos padrões que aprendeu com os dados de formação. O resultado é uma ferramenta de processamento de linguagem natural (PNL) altamente inteligente.
Como é que o ChatGPT é treinado?
Uma técnica de aprendizagem profunda chamada arquitectura de transformador treinou o chatGPT. A versão específica do modelo, ChatGPT-3, recebeu um enorme conjunto de dados com mais de 45 terabytes de texto.
Modelo SFT (Fine Tuning supervisionado)
O primeiro desenvolvimento envolveu o aperfeiçoamento do modelo GPT-3 através da contratação de 40 contratantes para criar um conjunto de dados de formação supervisionada, em que a entrada tem um resultado conhecido para o modelo aprender com ele. As entradas, ou prompts, eram entradas reais do utilizador na API Aberta.
Modelo de Recompensa
O passo seguinte é utilizar um modelo de recompensa para melhorar a qualidade das respostas geradas. O modelo de recompensa avalia o resultado do modelo SFT. Em seguida, atribui uma pontuação com base no grau de correspondência com o resultado pretendido.
Modelo de Aprendizagem de Reforço
O passo final é utilizar uma abordagem de aprendizagem reforçada para melhorar ainda mais o desempenho do GPT. Proximal Policy Optimization é o nome do algoritmo. Isto implica que o chatbot de IA interaja com os utilizadores num ambiente simulado. Depois, recebe um sinal de recompensa com base no seu desempenho.
Avaliação de Desempenho
A entrada de trabalhadores humanos treinam o modelo. É por isso que a parte central da avaliação se alimenta do feedback humano. Isto significa que os labradores avaliam a qualidade dos resultados dos modelos.
Três critérios de alto nível avaliam o modelo:
- Ajuda: avaliar a capacidade do modelo para seguir e inferir as instruções do utilizador.
- A veracidade: Em tarefas de domínio fechado, a veracidade é determinada pela avaliação da propensão do modelo para alucinações (inventariação de factos). O modelo é testado utilizando o conjunto de dados TruthfulQA.
- Imunidade: os etiquetadores avaliam se a produção do modelo é apropriada, desacredita uma classe protegida, ou contém conteúdo depreciativo.
Como utilizar o ChatGPT?
- Escolha uma API ou biblioteca do ChatGPT: Existem várias APIs e bibliotecas disponíveis para usar o ChatGPT. Escolha a que melhor se adapta às suas necessidades e experiência de programação.
- Criar uma conta e obter uma chave de API (se aplicável): Se estiver a usar uma API, terá de criar uma conta e obter uma chave de API para usar o ChatGPT. Seguir as instruções fornecidas pelo fornecedor do API.
- Instalar as bibliotecas necessárias (se estiver usando uma biblioteca): Se estiver a utilizar uma biblioteca como a Hugging Face Transformers, terá de instalar as bibliotecas necessárias no seu ambiente de programação.
- Inicializar o ChatGPT: Assim que tiver as bibliotecas ou chaves API necessárias, pode inicializar o modelo ChatGPT no seu programa.
- Introduza a sua mensagem: Para utilizar o ChatGPT, é necessário fornecer uma mensagem que descreva o contexto ou o tópico da conversa, caso pretenda gerar uma resposta.
- Gerar resposta: Depois de ter fornecido a pergunta, o modelo ChatGPT gera uma resposta com base na pergunta de entrada e no contexto dos seus dados de treino.
- Avaliar e refinar a resposta: A qualidade da resposta gerada pode variar consoante a pergunta de entrada e outros factores. Verifique a resposta, uma vez que ainda precisa de ajuda para discernir os factos a partir da desinformação.
- Repetir: Pode repetir os passos 5-7 tantas vezes quantas as necessárias para gerar uma conversa ou uma série de respostas que satisfaçam as suas necessidades.
Perguntas Mais Frequentes
OpenAI é uma empresa de investigação sem fins lucrativos que visa desenvolver e dirigir a inteligência artificial (IA) de forma a beneficiar a humanidade como um todo. A empresa foi fundada por Elon Musk e Sam Altman em 2015 e está sediada em São Francisco, Califórnia, e apoiada por milhares de milhões em financiamento da Microsoft.
ChatGPT é uma ferramenta ai do modelo linguístico mais recente do OpenAI, e representa uma melhoria significativa em relação ao GPT-3.5. Tal como muitos modelos de linguagem de grande dimensão, pode gerar texto numa variedade de estilos e para uma variedade de finalidades, mas com muito maior precisão, detalhe e coerência. É a próxima geração na linha de modelos de linguagem de grande dimensão da OpenAI, com uma forte ênfase em conversas interactivas. ChatGPT é o último passo na implementação iterativa do OpenAI de sistemas de IA generativos cada vez mais seguros e úteis.
