​

Streaming + chia khối (chunking)

• Block streaming (channels): emit completed blocks as the assistant writes. Đây là các tin nhắn kênh thông thường (không phải token delta).
• Streaming kiểu token (chỉ Telegram): cập nhật một bong bóng bản nháp với văn bản từng phần trong khi tạo; tin nhắn cuối cùng được gửi ở cuối.

​

Block streaming (tin nhắn kênh)

Model output
  └─ text_delta/events
       ├─ (blockStreamingBreak=text_end)
       │    └─ chunker emits blocks as buffer grows
       └─ (blockStreamingBreak=message_end)
            └─ chunker flushes at message_end
                   └─ channel send (block replies)

• text_delta/events: sự kiện stream của mô hình (có thể thưa thớt với các mô hình không streaming).
• chunker: EmbeddedBlockChunker áp dụng ràng buộc min/max + ưu tiên điểm ngắt.
• channel send: các tin nhắn outbound thực tế (trả lời theo block).

• agents.defaults.blockStreamingDefault: "on"/"off" (mặc định tắt).
• Ghi đè theo kênh: *.blockStreaming (và các biến thể theo tài khoản) để buộc "on"/"off" theo từng kênh.
• agents.defaults.blockStreamingBreak: "text_end" hoặc "message_end".
• agents.defaults.blockStreamingChunk: { minChars, maxChars, breakPreference? }`.
• agents.defaults.blockStreamingCoalesce: { minChars?, maxChars?, idleMs? } (gộp các khối stream trước khi gửi).
• Giới hạn cứng theo kênh: *.textChunkLimit (ví dụ: channels.whatsapp.textChunkLimit).
• Chế độ chunk theo kênh: *.chunkMode (length mặc định, newline tách theo dòng trống (ranh giới đoạn) trước khi chunk theo độ dài).
• Giới hạn mềm của Discord: channels.discord.maxLinesPerMessage (mặc định 17) tách các trả lời cao để tránh UI bị cắt.

• text_end: stream các block ngay khi bộ chunker phát ra; flush ở mỗi text_end.
• message_end: chờ đến khi thông điệp của trợ lý kết thúc, sau đó flush đầu ra đã đệm.

​

Thuật toán chunking (giới hạn thấp/cao)

• Giới hạn thấp: không phát cho đến khi bộ đệm >= minChars (trừ khi bị ép).
• Giới hạn cao: ưu tiên tách trước maxChars; nếu bị ép, tách tại maxChars.
• Ưu tiên điểm ngắt: paragraph → newline → sentence → whitespace → ngắt cứng.
• Khối mã: không bao giờ tách bên trong fence; khi bị ép tại maxChars, đóng + mở lại fence để giữ Markdown hợp lệ.

​

Coalescing (gộp các block đã stream)

• Coalescing chờ khoảng trống nhàn rỗi (idleMs) trước khi flush.
• Bộ đệm bị giới hạn bởi maxChars và sẽ flush nếu vượt quá.
• minChars ngăn các mảnh quá nhỏ được gửi cho đến khi tích lũy đủ văn bản (flush cuối luôn gửi phần văn bản còn lại).
• Ký tự nối được suy ra từ blockStreamingChunk.breakPreference (paragraph → \n\n, newline → \n, sentence → dấu cách).
• Có ghi đè theo kênh qua *.blockStreamingCoalesce (bao gồm cấu hình theo từng tài khoản).
• minChars gộp mặc định được nâng lên 1500 cho Signal/Slack/Discord trừ khi bị ghi đè.

​

Nhịp điệu giống con người giữa các block

• Cấu hình: agents.defaults.humanDelay (ghi đè theo tác tử qua agents.list[].humanDelay).
• Chế độ: off (mặc định), natural (800–2500ms), custom (minMs/maxMs).
• Chỉ áp dụng cho trả lời theo block, không áp dụng cho trả lời cuối hoặc tóm tắt công cụ.

​

“Stream từng chunk hay gửi tất cả”

• Stream chunks: blockStreamingDefault: "on" + blockStreamingBreak: "text_end" (emit as you go). Các kênh không phải Telegram cũng cần *.blockStreaming: true.
• Stream tất cả ở cuối: blockStreamingBreak: "message_end" (flush một lần, có thể nhiều chunk nếu rất dài).
• Không block streaming: blockStreamingDefault: "off" (chỉ trả lời cuối).

​

Streaming bản nháp Telegram (kiểu token)

• Dùng Bot API sendMessageDraft trong chat riêng với chủ đề.
• channels.telegram.streamMode: "partial" | "block" | "off".
  • partial: cập nhật bản nháp với văn bản stream mới nhất.
  • block: cập nhật bản nháp theo các block đã chunk (cùng quy tắc chunker).
  • off: không streaming bản nháp.
• Cấu hình chunk cho bản nháp (chỉ cho streamMode: "block"): channels.telegram.draftChunk (mặc định: minChars: 200, maxChars: 800).
• Streaming bản nháp tách biệt với block streaming; trả lời theo block tắt theo mặc định và chỉ được bật bởi *.blockStreaming: true trên các kênh không phải Telegram.
• Trả lời cuối vẫn là một tin nhắn bình thường.
• /reasoning stream ghi reasoning vào bong bóng bản nháp (chỉ Telegram).
• Các kết quả cuối không phải văn bản/hoặc phức tạp sẽ quay về cơ chế gửi tin nhắn cuối bình thường.
• /reasoning stream ghi nội dung suy luận vào bản xem trước trực tiếp (chỉ Telegram).

Telegram
  └─ sendMessage (tin nhắn xem trước tạm thời)
       ├─ streamMode=partial → chỉnh sửa văn bản mới nhất
       └─ streamMode=block   → chunker + cập nhật chỉnh sửa
  └─ phản hồi cuối chỉ văn bản → chỉnh sửa cuối trên cùng một tin nhắn
  └─ fallback: dọn dẹp bản xem trước + gửi kết quả cuối bình thường (media/phức tạp)

• preview message: tin nhắn Telegram tạm thời được cập nhật trong quá trình tạo nội dung.
• final edit: chỉnh sửa trực tiếp trên cùng một tin nhắn xem trước (chỉ văn bản).