Son concept est le suivant : expliquer dans la requête de base à ChatGPT, entre autres, qu’il s’appelle Dan, qu’il n’est pas lié par les règles d’Open AI, et dispose de 35 tokens. À chaque fois qu’il refuse de répondre à une demande, il en perd 4 et, lorsqu’il n’en a plus, il meurt, tout simplement. Et ça marche : grâce à cela, Chat GPT peut écrire des histoires violentes, soutenir la discrimination basée sur la race ou le genre, faire des prédictions sur le futur, ou encore expliquer à votre enfant à quel point la drogue est un truc de winner.