Neuron Потоковый шаг

Просмотреть как Markdown Редактировать на GitHub Документация по 2cc7b2b

В этом примере показано четкое разделение задач. Neuron передает ответ агента потоком, по частям, а Queuety надежно сохраняет каждую часть через StreamingStep. Это позволяет UI получать черновик в реальном времени, даже если рабочий процесс переживает сбои или повторные запуски исполнителя.

Когда этот подход полезен

Используйте его, если черновик или ответ достаточно длинный и его удобно передавать потоком в реальном времени, если вы не хотите терять частичный результат при сбое исполнителя и если итоговый материал должен сохраниться в состоянии рабочего процесса после завершения потока.

Агент Neuron

PHP

namespace App\Neuron;

use NeuronAI\Agent\Agent;
use NeuronAI\Providers\AIProviderInterface;
use NeuronAI\Providers\OpenAI\Responses\OpenAIResponses;
use NeuronAI\SystemPrompt;

final class DraftMemoAgent extends Agent
{
    protected function provider(): AIProviderInterface
    {
        return new OpenAIResponses(
            key: $_ENV['OPENAI_API_KEY'],
            model: $_ENV['OPENAI_MODEL'],
        );
    }

    public function instructions(): string
    {
        return (string) new SystemPrompt(
            background: [
                'You write crisp internal strategy memos.',
                'Prefer short sections and operationally useful language.',
            ],
        );
    }
}

Потоковый шаг Queuety

PHP

namespace App\Workflow\Steps;

use App\Neuron\DraftMemoAgent;
use NeuronAI\Chat\Messages\UserMessage;
use Queuety\Contracts\StreamingStep;
use Queuety\Heartbeat;

final class StreamMemoDraftStep implements StreamingStep
{
    public function stream(array $state, array $existing_chunks = []): \Generator
    {
        if (! empty($existing_chunks)) {
            return;
        }

        $handler = (new DraftMemoAgent())->stream(
            new UserMessage(sprintf(
                "Write a strategy memo about %s for account %d.",
                $state['topic'],
                $state['account_id'],
            ))
        );

        foreach ($handler->events() as $i => $chunk) {
            Heartbeat::beat(['chunks' => $i + 1]);

            // This example assumes the agent has no tools attached, so
            // Neuron will stream text/reasoning chunks only.
            yield $chunk->content;
        }
    }

    public function on_complete(array $chunks, array $state): array
    {
        return [
            'draft_markdown' => implode('', $chunks),
        ];
    }

    public function config(): array
    {
        return [
            'max_attempts' => 3,
        ];
    }
}

Использование в рабочем процессе

PHP

use Queuety\Queuety;

Queuety::workflow('memo_drafting')
    ->then(BuildDraftBriefStep::class)
    ->then(StreamMemoDraftStep::class)
    ->then(StoreMemoStep::class)
    ->dispatch([
        'account_id' => 10,
        'topic' => 'pricing changes for enterprise accounts',
    ]);

Зачем использовать Queuety вместо одних лишь адаптеров потока Neuron

Адаптеры потока Neuron полезны для протоколов и транспорта фронтенда. Queuety решает другую задачу: каждая выданная часть сохраняется, после повторного запуска можно продолжить с ранее сохраненных частей, готовый черновик объединяется с состоянием рабочего процесса, а поток становится одним надежным шагом в более крупной оркестрации.

Этот подход хорошо подходит, когда поток входит в многоэтапный бизнес-процесс, а не просто в обмен запросом и ответом UI.

Одно замечание

Если ваш агент Neuron использует инструменты во время потоковой передачи, явно обрабатывайте типы частей потока. В текущей документации по потоковой передаче Neuron описаны TextChunk, ReasoningChunk, ToolCallChunk и ToolResultChunk. Для фонового процесса подготовки черновика обычно проще всего использовать агента, который передает только текст.