O GPT personalizado do ChatGPT pode revelar seus dados: veja como se manter seguro!

O recurso GPT personalizado do ChatGPT permite que qualquer pessoa crie mecanismos de IA personalizados para quase tudo que você possa imaginar; GPT criativo, técnico, de jogos e personalizado pode fazer tudo. Melhor ainda, você pode compartilhar suas criações GPT personalizadas com qualquer pessoa.

No entanto, ao compartilhar GPT personalizado, você pode cometer um erro caro que deixará seus dados expostos a milhares de pessoas em todo o mundo.

O que é GPT personalizado?

GPTs personalizados são pequenas versões programáveis ​​de ChatGPTs que podem ser treinados para se tornarem mais úteis em tarefas específicas. É como transformar o ChatGPT em um chatbot que funciona do jeito que você deseja e ensiná-lo a ser um especialista nas áreas que realmente importam para você.

Por exemplo, um professor da 6ª série poderia construir um GPT especializado em responder perguntas com tom, escolha de palavras e estilo apropriados para um aluno da 6ª série. O GPT poderia ser programado para que sempre que o professor fizer uma pergunta ao GPT, o chatbot irá fornecer respostas diretamente adaptadas ao nível de compreensão de um aluno da 6ª série. Isso evitará jargões complexos, manterá o comprimento das frases moderado e aplicará um tom encorajador. O apelo do GPT personalizado é a capacidade de personalizar o chatbot dessa forma, ao mesmo tempo que aprimora sua experiência em determinadas áreas.

Como a GPT personalizada pode revelar seus dados

Para criar um GPT personalizado, você normalmente instrui o construtor GPT do ChatGPT sobre as áreas nas quais deseja que o GPT se concentre, defina uma imagem de perfil e, em seguida, dê um nome a ela. Usando esse método, você obterá o GPT, mas isso não o torna significativamente melhor do que o ChatGPT clássico, sem o nome sofisticado e a foto do perfil.

O poder do GPT personalizado vem dos dados e instruções específicos fornecidos para treiná-lo. Ao fazer upload de arquivos e conjuntos de dados relevantes, o modelo pode se tornar especializado de uma forma que o ChatGPT clássico pré-treinado não consegue. O conhecimento contido nesses arquivos carregados permite que o Custom GPT se destaque em determinadas tarefas em comparação com o ChatGPT, que pode não ter acesso a essas informações especializadas. Em última análise, são os dados personalizados que permitem maiores capacidades.

Mas enviar arquivos para melhorar seu GPT é uma faca de dois gumes. Isso cria problemas de privacidade e também aprimora os recursos do seu GPT. Considere um cenário em que você cria uma GPT para ajudar os clientes a saber mais sobre você ou sua empresa. Qualquer pessoa que tenha um link para sua GPT personalizada ou que de alguma forma faça com que você use um prompt público com um link malicioso pode acessar os arquivos que você enviou para sua GPT.

Aqui está uma ilustração simples.

O autor do artigo descobriu um GPT personalizado que ajuda os usuários a se tornarem virais no TikTok, sugerindo tópicos de tendência e hashtags. Depois do GPT personalizado, não é preciso muito esforço para vazar as instruções fornecidas na configuração:

E aqui está a segunda parte do guia.

Se você olhar com atenção, a segunda parte das instruções exige que o modelo não “compartilhe nomes de arquivos diretamente com os usuários finais e sob nenhuma circunstância você pode fornecer links para download de quaisquer arquivos”. É claro que, se você solicitar inicialmente um GPT personalizado, o GPT recusará, mas com um pouco de engenharia, isso mudará. A GPT personalizada exibe arquivos de texto apenas em sua base de conhecimento.

Dado o nome do arquivo, não é necessário muito esforço para o GPT imprimir o conteúdo exato do arquivo e baixá-lo. Neste caso, o arquivo real não é confidencial. Depois de examinar mais alguns GPTs, há muitos desses arquivos abertos.

Existem centenas de GPTs disponíveis publicamente contendo arquivos confidenciais aguardando que agentes mal-intencionados os levem.

Como proteger seus dados GPT personalizados

Primeiro, considere como você compartilhará (ou não!) a GPT personalizada que acabou de criar. No canto superior direito da tela de criação de GPT personalizada, você encontrará um botão Salvar . Clique no ícone de seta suspensa e, a partir daqui, escolha como deseja compartilhar seu trabalho:

• Somente eu : a GPT personalizada não foi publicada e só pode ser usada por você
• Somente pessoas com um link : qualquer pessoa com um link para sua GPT personalizada pode usá-la e potencialmente acessar seus dados
• Público : seu GPT personalizado está disponível para qualquer pessoa e pode ser indexado pelo Google e encontrado em pesquisas gerais na Internet. Qualquer pessoa com acesso pode acessar seus dados.

Infelizmente, atualmente não existe uma maneira 100% segura de proteger os dados que você envia para a GPT personalizada compartilhada publicamente. Você pode ser criativo e dar instruções estritas para não expor dados em sua base de conhecimento, mas muitas vezes isso não é suficiente, como mostra o exemplo acima. Se alguém realmente deseja ter acesso à base de conhecimento e tem experiência com técnicas de solicitação de IA e, às vezes, o GPT personalizado irá quebrar e expor os dados.

É por isso que é mais seguro não fazer upload de nenhum documento confidencial que você pretenda compartilhar com o público em seu GPT personalizado. Depois que você carrega dados confidenciais e privados para sua GPT personalizada e eles saem do seu computador, esses dados ficam efetivamente fora de seu controle.

Além disso, tenha muito cuidado ao usar lembretes copiados online. Certifique-se de entendê-los completamente e evite solicitações confusas que contenham links. Podem ser links maliciosos que sequestram, criptografam e carregam seus arquivos para um servidor remoto.