Ugrás a tartalomhoz

Neuron adatfolyam-lépés

Megtekintés Markdownként Szerkesztés itt: GitHub Dokumentáció itt: 2cc7b2b

Ez a példa jól szemlélteti a feladatok szétválasztását. A Neuron darabonként továbbítja az ügynök válaszát, a Queuety pedig a StreamingStep segítségével tartósan elmenti az egyes részeket. Így a UI élő vázlatot kaphat, miközben a munkafolyamat túléli a feldolgozó összeomlását vagy az újrapróbálkozásokat.

Mikor hasznos ez a minta

Akkor használd, ha egy vázlat vagy válasz elég hosszú ahhoz, hogy élőben szeretnéd továbbítani, ha nem akarod elveszíteni a részleges kimenetet a feldolgozó leállása esetén, és ha a végső eredménynek az adatfolyam befejezése után is a munkafolyamat állapotában kell maradnia.

A Neuron ügynök

PHP
namespace App\Neuron;

use NeuronAI\Agent\Agent;
use NeuronAI\Providers\AIProviderInterface;
use NeuronAI\Providers\OpenAI\Responses\OpenAIResponses;
use NeuronAI\SystemPrompt;

final class DraftMemoAgent extends Agent
{
    protected function provider(): AIProviderInterface
    {
        return new OpenAIResponses(
            key: $_ENV['OPENAI_API_KEY'],
            model: $_ENV['OPENAI_MODEL'],
        );
    }

    public function instructions(): string
    {
        return (string) new SystemPrompt(
            background: [
                'You write crisp internal strategy memos.',
                'Prefer short sections and operationally useful language.',
            ],
        );
    }
}

A Queuety adatfolyam-lépés

PHP
namespace App\Workflow\Steps;

use App\Neuron\DraftMemoAgent;
use NeuronAI\Chat\Messages\UserMessage;
use Queuety\Contracts\StreamingStep;
use Queuety\Heartbeat;

final class StreamMemoDraftStep implements StreamingStep
{
    public function stream(array $state, array $existing_chunks = []): \Generator
    {
        if (! empty($existing_chunks)) {
            return;
        }

        $handler = (new DraftMemoAgent())->stream(
            new UserMessage(sprintf(
                "Write a strategy memo about %s for account %d.",
                $state['topic'],
                $state['account_id'],
            ))
        );

        foreach ($handler->events() as $i => $chunk) {
            Heartbeat::beat(['chunks' => $i + 1]);

            // This example assumes the agent has no tools attached, so
            // Neuron will stream text/reasoning chunks only.
            yield $chunk->content;
        }
    }

    public function on_complete(array $chunks, array $state): array
    {
        return [
            'draft_markdown' => implode('', $chunks),
        ];
    }

    public function config(): array
    {
        return [
            'max_attempts' => 3,
        ];
    }
}

Használata munkafolyamatban

PHP
use Queuety\Queuety;

Queuety::workflow('memo_drafting')
    ->then(BuildDraftBriefStep::class)
    ->then(StreamMemoDraftStep::class)
    ->then(StoreMemoStep::class)
    ->dispatch([
        'account_id' => 10,
        'topic' => 'pricing changes for enterprise accounts',
    ]);

Miért használjuk a Queuety-t önmagukban álló Neuron adatfolyam-adapterek helyett

A Neuron adatfolyam-adapterei hasznosak a frontend-protokollokhoz és -átvitelekhez. A Queuety mást nyújt: minden kibocsátott részt elment, az újrapróbálkozás a korábban mentett részekkel folytatható, a kész vázlat visszakerül a munkafolyamat állapotába, az adatfolyam pedig egy nagyobb vezénylés tartós lépésévé válik.

Ez a minta akkor illik jól a feladathoz, ha az adatfolyam egy többlépéses üzleti folyamat része, nem csupán egy kérés-válasz UI.

Egy fontos tudnivaló

Ha a Neuron ügynököd adatfolyam közben eszközöket használ, kezeld explicit módon az adatfolyam darabtípusait. A Neuron jelenlegi adatfolyam-dokumentációja a TextChunk, ReasoningChunk, ToolCallChunk és ToolResultChunk típusokat ismerteti. Háttérben futó szövegalkotási munkafolyamat esetén általában a legegyszerűbb megoldás, ha az adatfolyamot használó ügynök csak szöveget kezel.