OpenAI & ChatGPT
- Nicola Occhipinti
- Sergio Santos (Unlicensed)
- 1 Fazendo uma ponte de conexão com a conta OpenAI
- 2 Ações nativas OpenAI
- 3 Criar conclusão de texto
- 4 Geração de imagem
- 4.1 Entrada:
- 4.2 Resposta:
- 4.3 Dados de resposta de amostra
- 4.4 Melhores Práticas:
- 5 Fala para Texto
- 5.1 Entrada:
- 5.2 Resposta:
- 5.3 Dados de resposta de amostra
- 5.4 Melhores Práticas:
- 6 Traduzir Áudio para Inglês
- 6.1 Entrada:
- 6.2 Resposta:
- 6.3 Dados de resposta de amostra
- 6.4 Melhores Práticas:
- 7 Criar conclusão de bate-papo - ChatGPT
- 7.1 Entrada:
- 7.2 Resposta:
- 7.3 Dados de resposta de amostra
- 7.4 Melhores Práticas:
- 8 Casos de usuário: ChatGPT
- 9 Limpar histórico de bate-papo lembrado
- 10 Embeddings OpenAI e construção de sua base de conhecimento
- 10.1 Crie uma incorporação:
- 10.2 Importando incorporações:
- 10.3 Incorporando ações de correspondência e conclusão
- 10.3.1 Entrada:
- 10.3.2 Resposta:
- 10.3.3 Entrada:
- 10.3.4 Resposta:
- 10.3.5 Dados de resposta de amostra
Open AI é uma ferramenta de IA assim como o Dialogflow, que permite aos usuários interagir usando IA. Desde responder aos usuários até gerar imagens, você pode usar o OpenAI para diversas tarefas.
A integração do ChatGPT da OpenAI com o NicoChat pode oferecer inúmeros benefícios para empresas que buscam interagir com seus clientes em vários canais.
Com todos os canais de suporte NicoChat, como Messenger, Instagram, WhatsApp, Google Business Messenger, Voz, SMS, Viber, Line, VK, web chat, WeChat e muito mais, conectando-se ao ChatGPT, você pode oferecer às empresas recursos de conversação com tecnologia de IA que pode compreender e responder às dúvidas dos clientes de maneira humana, melhorando a experiência do cliente e aumentando o envolvimento.
Os recursos avançados de compreensão e geração de linguagem natural do ChatGPT permitem que nosso chatbot entenda o contexto da conversa e ofereça respostas personalizadas que são relevantes para as dúvidas dos clientes.
Combinados com as nossas capacidades multicanais, as empresas podem interagir com os seus clientes através dos seus canais de comunicação preferidos, melhorando a sua experiência geral. O resultado é maior satisfação do cliente, maior envolvimento e suporte simplificado ao cliente, tudo isso pode ajudar as empresas a crescer e ter sucesso.
NicoChat oferece integração nativa com OpenAI, que permite aos usuários configurar fluxos complexos com apenas um clique de um botão.
Vamos primeiro ver como podemos estabelecer uma conexão entre OpenAI e NicoChat.
Fazendo uma ponte de conexão com a conta OpenAI
Visite
Faça login usando suas credenciais.
Clique no canto superior direito da guia “Pessoal”.
A partir daqui, você poderá gerar uma chave de API.
Você só poderá ver sua chave de API uma vez, para poder salvar a cópia em um local seguro.
Cole sua chave API dentro do NicoChat e clique em “Salvar” para estabelecer a conexão.
Sua conta foi conectada com sucesso ao NicoChat.
Ações nativas OpenAI
O NicoChat oferece muitas ações com OpenAI que os usuários podem usar de acordo com suas necessidades.
Iremos agora discuti-los em detalhes, um por um.
Criar conclusão de texto
O preenchimento de texto oferece a funcionalidade de enviar prompts para OpenAI em formato textual e com base no recebimento de uma resposta no prompt.
Entrada:
Prompt : Esta é a sua entrada principal para a qual você deseja que a IA lhe dê uma resposta ou resultado. Pode ser uma pergunta, uma instrução, etc.
Modelo : o modelo que você deseja usar dentro do OpenAI para a tarefa. Por padrão, text-DaVinci-003 foi selecionado.
Máximo de tokens : cada tarefa dentro do OpenAI consome tokens. Esses tokens podem ser reabastecidos com crédito. Este campo limita o número máximo de tokens que você deseja usar para uma tarefa específica.
Temperatura : atua como um medidor de precisão onde valores mais altos fornecem respostas mais aleatórias e valores mais baixos fornecem respostas mais determinísticas e focadas. O padrão é 1
Penalidade de presença : Este valor faz com que o OpenAI use frases e textos exclusivos ao concluir uma tarefa. Quanto maior o valor, menos repetitivas são as palavras. O padrão é 0.
Número de conclusões : o número de vezes que você deseja que a IA gere uma resposta com base no seu prompt. O valor mais alto resultará em mais respostas. O padrão é 1 para evitar o consumo de tokens.
Melhor das conclusões : retorna as melhores respostas possíveis para seu prompt. O padrão é 1. Isso funciona com o campo Número de conclusão para escolher a melhor resposta possível em um grupo de respostas.
Resposta:
Mapeie a resposta para o campo personalizado
Você pode selecionar o texto nas opções e, em seguida, ver o caminho JSON selecionado e, em seguida, salvar a resposta em seu próprio campo personalizado do usuário e, em seguida, usar essa resposta em seu construtor de fluxo.
Dados de resposta de amostra
{
"id": "cmpl-6zchlUy0OiAjX91LHOPBcZjuXaDgE",
"object": "text_completion",
"created": 1680144809,
"model": "text-davinci-003",
"choices": [
{
"text": " 1. Understand Your Target Audience - Before you begin any marketing campaign, it’s important to have a clear understanding of who you’re targeting with your message. Researching and understanding your target audience will help you create campaigns specifically tailored to their interests. 2. Leverage Social Media - Social media has become one of the most effective ways to communicate with your target audience. Utilizing social media channels such as Facebook, Twitter, and Instagram can help you build",
"index": 0,
"logprobs": null,
"finish_reason": "length"
}
],
"usage": {
"prompt_tokens": 4,
"completion_tokens": 100,
"total_tokens": 104
}
}
Id : O id da conclusão do texto. Um valor único.
Objeto : A ação/tarefa que você deu ao OpenAI. No nosso caso “text_completion”
Criado : um campo de data e hora que informa a instância da criação da resposta. Está no formato de carimbo de data/hora Unix.
Motivo de término : O motivo da paralisação da referida tarefa.
Tokens de prompt : o número de tokens usados para concluir a tarefa.
Melhores Práticas:
Às vezes, a resposta completa que você recebe parece interrompida. Isso se deve à falta do número de tokens necessários para a conclusão da tarefa. Simplesmente ajustar o valor dos tokens máximos dentro dos campos de entrada resolverá esse problema.
Também é aconselhável ajustar valores como temperatura, número de conclusões, melhor conclusão, etc., ao seu caso de uso por meio de testes A/B. Cada caso de uso é único e você deve desejar a melhor utilização possível dos recursos disponíveis.
Geração de imagem
A geração de imagens é usada para gerar imagens com base nos prompts de entrada do usuário. Este recurso irá gerar a melhor imagem possível que corresponda ao seu prompt.
Entrada:
Prompt : Esta é a entrada principal para a qual você deseja que a IA gere uma imagem para você. Pode ser uma pergunta, uma instrução etc.
Número de imagens : o número de imagens que você deseja que a IA gere para você. O padrão é 1
Tamanho : As dimensões que você deseja que a imagem tenha. OpenAI suporta três tamanhos que são:
512x512
256x256
1024x1024
Resposta:
Dados de resposta de amostra
{
"created": 1680145479,
"data": [
{
"url": "https://oaidalleapiprodscus.blob.core.windows.net/private/org-2FEbJIRL7GXfKmGw2BT9wh9b/user-nk6UUN7L9nFqzGEw67uTMonD/img-FhZpxMrCbiDBR4O62e7pPF08.png?st=2023-03-30T02%3A04%3A39Z&se=2023-03-30T04%3A04%3A39Z&sp=r&sv=2021-08-06&sr=b&rscd=inline&rsct=image/png&skoid=6aaadede-4fb3-4698-a8f6-684d7786b067&sktid=a48cca56-e6da-484e-a814-9c849652bcb3&skt=2023-03-29T17%3A40%3A49Z&ske=2023-03-30T17%3A40%3A49Z&sks=b&skv=2021-08-06&sig=4DF0dw/peG7FSVMUml4ShuQP98T0xECW1gE%2BeutdRAw%3D"
}
]
}Criado : um campo de data e hora que informa a instância de criação da resposta. Está no formato de carimbo de data/hora Unix.
Url : o URL público da(s) sua(s) imagem(s).
Melhores Práticas:
A geração de imagens consome mais poder computacional e, portanto, as respostas podem ser atrasadas com base nas solicitações fornecidas.
A IA é um campo em desenvolvimento e, portanto, as imagens produzidas podem ser bastante imprecisas, dada a complexidade das instruções fornecidas. Portanto, encontrar a complexidade correta do prompt às vezes pode ser um desafio.
Fala para Texto
A ação de conversão de fala em texto é usada quando você deseja converter a entrada de áudio em texto. Isso tem vários casos de uso, como implementação em IVRs.
Entrada:
URL do arquivo : este é o URL do áudio que você deseja converter em texto. Certifique-se de que o URL seja um URL hospedado publicamente e termine com formatos de áudio como mp3. mpeg etc.
Observe que o URL precisa começar com https:// e terminar com mp3 ou mp4, mpeg, mpga, m4a,wav, webm
Idioma : O idioma para o qual você deseja que a fala seja convertida. Usamos o formato ISO-639-1, o que significa que você precisa colocar os idiomas como 'en', 'es' etc.
Resposta:
Dados de resposta de amostra
{
"text": "Welcome to Rensen. This is a test to see if everything works well. And if the IVR can guide you to your work."
}
Texto : O texto que é convertido do discurso.
Melhores Práticas:
Você pode converter fala em texto com bastante precisão usando este recurso. É considerada uma prática recomendada fornecer o áudio no mesmo idioma da saída desejada para obter resultados e latência mais precisos.
Traduzir Áudio para Inglês
A ação Traduzir áudio para inglês é usada quando você deseja converter a entrada de áudio em texto no idioma inglês. Isso tem uma variedade de casos de uso, como implementação em IVRs.
Entrada:
URL do arquivo : este é o URL do áudio que você deseja converter em texto. Certifique-se de que o URL seja um URL hospedado publicamente e termine com formatos de áudio como mp3. mpeg etc.
Observe que o URL precisa começar com https:// e terminar com mp3 ou mp4, mpeg, mpga, m4a,wav, webm
Resposta:
Dados de resposta de amostra
{
"text": "Welcome to Rensen. This is a test to see if everything works well. And if the IVR can guide you to your work."
}
Texto : O texto que é convertido do discurso.
Melhores Práticas:
Experimentar diferentes formatos de áudio pode fornecer resultados mais (ou menos) precisos. Isso se deve simplesmente à qualidade do áudio fornecido, portanto, faça um teste A/B com diferentes formatos para obter o melhor formato possível para o seu caso de uso.
Criar conclusão de bate-papo - ChatGPT
A conclusão do bate-papo oferece a funcionalidade de enviar prompts ao OpenAI em formato textual e com base no prompt receber uma resposta. Isso é semelhante à ação de completar texto, mas usa ChatGPT, que também é 10x mais rápido e mais barato.
Entrada:
Mensagem do sistema: este é um campo opcional e é usado para fornecer contexto adicional sobre você ou sua empresa ao concluir bate-papos.
Você pode configurar informações básicas detalhadas como esta se estiver construindo um chatbot de restaurante:
Sistema: Você é um assistente prestativo da churrascaria NicoChat. Você cuidará do suporte ao cliente, orientará o usuário e fará reservas. O horário de funcionamento do restaurante é das 9h às 20h, de segunda a sábado. Não são permitidos animais de estimação. Sempre ofereça o código do cupom se achar que é um bom momento para fazê-lo.
Isso permitirá que você configure facilmente informações básicas sobre o chatbot e poderá atender seu cliente com base nas informações que você instruiu.
Mensagem : Esta é a sua entrada principal para a qual você deseja que a IA lhe dê uma resposta ou saída. Geralmente esta é a resposta do usuário. Pode ser uma pergunta, uma instrução, etc. Você pode adicionar “usuário:” como prefixo ao seu prompt para fornecer mais contexto à IA, por exemplo:
“usuário: vai chover hoje?”
Também funcionará se você não adicionar “usuário” na frente da resposta. Você pode usar nosso campo de sistema como {{last_text_input}}
Lembrar Histórico: Se selecionado “Sim”, o histórico de bate-papo entre usuário e assistente será salvo em um campo do sistema para ser usado posteriormente, se necessário.
A resposta da ação openAI será salva automaticamente na função de assistente. Você não precisa fazer nada.
Além disso, introduzimos um novo campo JSON do sistema: {{openAI}} que terá todo o histórico de chat com o usuário:
Você pode encontrar o campo do sistema openAI em seu perfil de usuário. Este JSON salvará a configuração do sistema e todo o histórico do chat.
Observe que nossos limites de tamanho de campo JSON são 20.000. Se o histórico de bate-papo tiver mais de 20.000 caracteres, excluiremos o histórico de bate-papo mais antigo para manter o histórico de bate-papo dentro dos limites.
Modelo : O modelo que você deseja usar dentro do ChatGPT para a tarefa. Por padrão, gpt-3.5-turbo foi selecionado.
Máximo de tokens : cada tarefa dentro do ChatGPT consome tokens. Esses tokens podem ser reabastecidos usando o crédito. Este campo limita o número máximo de tokens que você deseja usar para uma tarefa específica.
Temperatura : atua como um medidor de precisão onde valores mais altos fornecem respostas mais aleatórias e valores mais baixos fornecem respostas mais determinísticas e focadas. O padrão é 1
Penalidade de presença : Este valor faz com que o ChatGPT use frases e textos exclusivos ao concluir uma tarefa. Quanto maior o valor, menos palavras repetitivas. O padrão é 0.
Número de conclusões : o número de vezes que você deseja que a IA gere uma resposta com base no seu prompt. O valor mais alto resultará em mais respostas. O padrão é 1 para evitar o consumo de tokens.
Melhor das conclusões : retorna as melhores respostas possíveis para seu prompt. O padrão é 1. Isso funciona com o campo Número de conclusão para escolher a melhor resposta possível em um grupo de respostas.
Resposta:
Dados de resposta de amostra
{
"id": "chatcmpl-6zef5zEUdDzTx8VKu2r4gkIJfVcBE",
"object": "chat.completion",
"created": 1680152331,
"model": "gpt-3.5-turbo-0301",
"usage": {
"prompt_tokens": 18,
"completion_tokens": 100,
"total_tokens": 118
},
"choices": [
{
"message": {...}, // 2 keys
"finish_reason": "length",
"index": 0
}
],
"messages": [
{
"role": "user",
"content": "can you help me with planting a mango tree?"
},
{
"role": "assistant",
"content": "Of course! Here are some steps to plant a mango tree: 1. Choose a spot: Mango trees need plenty of sunlight and well-draining soil. They also need protection from strong winds, so choose a spot that's sheltered. 2. Prepare the soil: Mango trees prefer slightly acidic soil, with a pH between 5.5 and 7. If your soil is too alkaline, add sulfur or peat moss to lower the pH. If it's too acidic, add lime"
}
]
}
Id : O id da conclusão do texto. Um valor único.
Objeto : A ação/tarefa que você deu ao OpenAI. No nosso caso “text_completion”
Criado : um campo de data e hora que informa a instância de criação da resposta. Está no formato de carimbo de data/hora Unix.
Escolha -> Conteúdo: O campo de conteúdo dentro do objeto de escolha contém a resposta ao seu prompt.
Mensagem: Este é um JSON para conversa completa que aconteceu entre o usuário e o assistente.
Melhores Práticas:
A ação de conclusão do bate-papo também permite que você forneça entrada JSON, portanto, você pode salvar a conversa completa entre os usuários e o assistente em um JSON para fornecer respostas mais focadas e contextuais relacionadas a essa conversa.
Como a conclusão do bate-papo exige mais informações, o consumo de token pode ser maior do que a conclusão do texto.
Casos de usuário: ChatGPT
Como ajustar o ChatGPT para o seu negócio
Se você usar a incorporação openAI junto com o ChatGPT, poderá treinar o chatGPT para responder às suas perguntas relacionadas ao negócio com total facilidade!
Gere o fluxo do chatbot usando IA
Você já imaginou que com uma instrução simples como “criar um fluxo para pedir pizza” e então o NicoChat pode gerar todo o fluxo automaticamente para você.
Tudo é feito com ChatGPT e NicoChat.
Melhore seu chat ao vivo com o assistente de IA
Você já pensou que pode usar o assistente inteligente de IA para usar a incorporação de openAI para gerar respostas de sugestões automaticamente?
Isso aumentará a eficiência do suporte ao cliente e reduzirá o custo do suporte ao cliente.
Resposta do treinamento OpenAI aos comentários das postagens do Facebook e Instagram
Você já pensou em usar o openAI para responder aos comentários do seu Facebook e Instagram automaticamente e, o mais importante, a resposta será altamente relevante e precisa para o seu próprio negócio.
O motivo é que estamos usando a incorporação de openAI para obter respostas altamente relevantes do seu próprio banco de dados de negócios, e isso pode ser feito automaticamente.
Limpar histórico de bate-papo lembrado
Limpar histórico lembrado é usado para excluir ou limpar o campo do sistema onde o histórico de bate-papo do chatGPT está armazenado.
Esta ação irá ajudá-lo a redefinir o histórico de bate-papo.
O campo do sistema tem um limite máximo de caracteres de 20.000 caracteres, após o qual ele exclui o valor do par de chaves mais antigo do JSON para abrir espaço para valores mais recentes
Embeddings OpenAI e construção de sua base de conhecimento
OpenAI oferece a capacidade de fornecer uma base de conhecimento de seu caso de uso ou negócio para a IA gerar respostas. Isso permite que a IA forneça respostas mais precisas, contextuais e específicas, em vez de filtrá-las da Internet.
Crie uma incorporação:
Para criar uma incorporação, vá em Integrações e selecione OpenAI
Clique em “Nova Incorporação”
Tipo : Este é um campo opcional. Isso é usado para classificar embeddings com base em um determinado contexto. É usado como filtro quando há um grande número de embeddings associados. É sempre melhor fornecer este campo, pois fornece mais contexto e torna mais fácil a filtragem da IA.
Título : O tópico da incorporação que você criou. O título ou resumo.
Texto : Este é o texto ou corpo principal da incorporação. O limite máximo de caracteres é 1.000. Você pode colocar os detalhes do tópico aqui para que a IA gere a resposta.
Importando incorporações:
Em vez de criar embeddings manualmente, você pode criá-los em massa, importando-os como um arquivo CSV.
Clique na seta suspensa ao lado de “Nova incorporação” e clique em “Importar CSV”
Agora importe o arquivo CSV contendo os embeddings e seus embeddings serão criados. Se você tiver caracteres especiais como: è à ì ù, selecione “Importar de csv sem visualização”
Certifique-se de que as primeiras linhas de todas as colunas sejam os nomes dos campos de entrada, como tipo, título, texto, etc., e nenhum deles deve começar com letra maiúscula.
Incorporando ações de correspondência e conclusão
A ação de correspondência de incorporação é usada para combinar o prompt inserido com a incorporação de melhor correspondência da base de conhecimento
Entrada:
Entrada: é aqui que você inserirá ou mapeará o prompt ao qual deseja corresponder a incorporação.
Resposta:
Incorporação: O título da incorporação com o qual o prompt corresponde melhor.
Texto: O texto da incorporação do prompt é mais adequado.
Entrada: o prompt que você insere para incorporar a pesquisa.
Pontuação: Esta é a% de correspondência entre o prompt e os embeddings disponíveis. Você pode usar essa pontuação para determinar se o prompt a seguir deve ser usado para conclusão ou se não é suficiente e fornecerá respostas imprecisas.
Observa-se que uma pontuação de 0,79 e acima fornece a melhor correspondência de incorporação possível. No entanto, este é um valor empírico e você usou o teste A/B para seu caso de uso para obter as melhores respostas possíveis.
A ação de correspondência e conclusão de incorporação é usada para combinar o prompt inserido com a incorporação de melhor correspondência da base de conhecimento e, em seguida, gerar a resposta usando essa base de conhecimento específica.
Entrada:
Entrada: é aqui que você inserirá ou mapeará o prompt ao qual deseja corresponder a incorporação.
Introdução: Isso é usado para fornecer mais contexto ao prompt, tornando-o mais preciso e ajuda a aumentar a pontuação da partida incorporada.
Resposta:
Dados de resposta de amostra
{
"status": "ok",
"result": {
"heading": "Free trial",
"text": "NicoChat offer 14 days free trial. No credit card required, you can access to all the pro features. You can sign up here: https://app.nicochat.com.br/login",
"score": 0.903164959234692,
"input": "Free trial for NicoChat",
"completion": " Yes, NicoChat offers a 14-day free trial. No credit card is required and you can access all the pro features. You can sign up here: https://app.nicochat.com.br/login."
}
}Incorporação: O título da incorporação com o qual o prompt corresponde melhor.
Texto: O texto da incorporação do prompt é mais adequado.
Entrada: o prompt que você insere para incorporar a pesquisa.
Pontuação: Esta é a% de correspondência entre o prompt e os embeddings disponíveis. Você pode usar essa pontuação para determinar se o prompt a seguir deve ser usado para conclusão ou se não é suficiente e fornecerá respostas imprecisas. Observa-se que uma pontuação de 0,79 e acima fornece a melhor correspondência de incorporação possível. No entanto, este é um valor empírico e você usou o teste A/B para seu caso de uso para obter as melhores respostas possíveis.
Conclusão: esta é a saída ou a conclusão do prompt inserido pelo usuário.
Usando incorporação openAI para responder seus comentários do Facebook e Instagram
Se você estiver veiculando anúncios ou tiver uma postagem viral em sua página do Facebook ou Instagram. Você pode não ter tempo para assistir a esses comentários.
Você não quer responder sempre algumas respostas genéricas e também deseja que a resposta seja altamente relevante para suas questões de negócios.
É por isso que você precisa usar a incorporação openAI para fornecer respostas automatizadas altamente relevantes.