Comment FLASK réalise-t-il la réponse de streaming en temps réel en temps réel?

Simuler la réponse en streaming en temps réel de Chatgpt à l'aide de Flask

De nombreux développeurs espèrent réaliser des effets de réponse en temps réel de type Chatgpt dans les applications de balles: la génération de contenu est en permanence transmise au client. Cependant, un objet response FLASK simple ne peut pas répondre à cette exigence, et il attendra que la fonction du générateur soit entièrement exécutée avant d'envoyer le résultat. Cet article explique comment utiliser le framework Flask pour réaliser un véritable streaming.

La cause profonde du problème est que le code d'origine utilise directement response pour envelopper la fonction du générateur, ce qui fait que le navigateur attend que le générateur s'exécute complètement avant que le contenu puisse être affiché, ce qui est contraire à l'effet de réponse en temps réel attendu.

Le cœur de l'amélioration est stream_with_context . L'extrait de code suivant montre l'approche améliorée:

 depuis Flask Import Stream_With_Context, demande

@ app.Route ('/ stream')
def streamed_response ():
    Def Generate ():
        Rendre 'bonjour'
        rendement demande.args ['name']
        rendement '!'
    return app.response_class (stream_with_context (generate ()))

stream_with_context(generate()) Enveloppe la fonction du générateur. Le rôle de stream_with_context est crucial, garantissant que le générateur renvoie les données au client immédiatement après chaque yield , plutôt que d'attendre que l'ensemble du générateur se termine. Dans cet exemple, le programme renvoie d'abord "Hello", puis renvoie le nom correspondant en fonction du name du paramètre de demande, et revient enfin "!", Réalisant l'effet de la génération et de la transmission.

Comparé au code d'origine, le code amélioré utilise stream_with_context pour éviter le problème d'attendre que la fonction de générateur entière soit exécutée avant de retourner des données, le streaming réel est obtenu et le client peut recevoir des données en temps réel, simulant ainsi l'effet de réponse en temps réel de Chatgpt. Il convient de noter que request.args['name'] montre la méthode de passage des paramètres. Dans les applications réelles, il peut être remplacé par d'autres méthodes d'acquisition de données selon les besoins, comme l'obtention de données à partir d'une base de données ou d'une autre API. De cette façon, des applications Web plus dynamiques et interactives peuvent être construites.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!