Kiến trúc AI Consultant 'Aria'

Framework Đề Xuất MVP

Pipecat

⭐ Khuyến nghị tối ưu cho KLTN

AI Engine & Mode

Gemini Flash

Text Chat + RAG (Streaming Token)

Giai đoạn 2 (Voice)

LiveKit

WebRTC Room per Table (STT/TTS)

Thời Gian Triển Khai

2 – 3 Tuần

Kiến trúc Additive không phá vỡ cũ

📊 Bảng So Sánh Chi Tiết 3 Framework

Tập trung vào: Pipecat vs LiveKit vs TEN

Tiêu chí	🐱 Pipecat (Khuyến nghị)	🎙️ LiveKit Agents	🕸️ TEN Framework
Triết lý cốt lõi	Pipeline xử lý Frame tuần tự	Infrastructure WebRTC + Agent Room	Directed Graph của Extensions
Ngôn ngữ chính	Python	Python (SDK đa nền tảng)	C++ core + Python/JS binding
Transport	Agnostic (Daily, LiveKit, WS, Twilio)	LiveKit WebRTC (tự quản)	Agnostic
Realtime Voice	✅ Mạnh	✅ Rất mạnh WebRTC native	✅ Mạnh
Text/Chat mode	✅ Rất mượt Streaming tự nhiên	✅ Có	✅ Có
Độ phức tạp setup	🟡 Trung bình	🟡 Trung bình	🔴 Cao (C++ core)
Khả năng mở rộng	🟡 Single-Agent	🟢 Production-grade	🟢 Rất cao (Multi-Agent)
Đánh giá phù hợp KLTN	🏆 TỐT NHẤT CHO DEMO	⭐ Tốt Thêm cho Voice Giai đoạn 2	⚠️ Overkill cho MVP
Tích hợp Gemini	✅ Native plugin	✅ Supported	✅ Supported
Tương thích Socket.io	🔧 Cắm qua Gateway Node.js Express	🔄 Thay thế luồng Socket.io AI	🔧 Cần custom binding

🐱 Pipecat

Bộ não linh hoạt

Phù hợp nhất cho Text Chat, RAG và Entity Extraction của Aria.

✅ Điểm mạnh:

Xây dựng pipeline trực quan: User Input → RAG Filter → Gemini → Extractor → Response.
Chạy song song microservice, tích hợp mượt với Node.js Gateway qua WebSocket/HTTP.
Streaming token tự nhiên đúng yêu cầu proposal.
A/B testing prompt dễ dàng không đụng chạm logic hạ tầng.

⚠️ Hạn chế:

Cần chạy microservice Python độc lập; chưa có WebRTC built-in (cần thêm nếu làm voice sau này).

🎙️ LiveKit Agents

Hạ tầng Realtime

Lựa chọn số 1 khi mở rộng sang chế độ Voice Mode tương tác trực tiếp.

✅ Điểm mạnh:

WebRTC-native: Khách nói → Aria nghe và phản hồi giọng nói (STT + LLM + TTS).
Mô hình Room theo Bàn khớp với `table_socket_rooms` hiện hữu.
Production-ready, scale cao cho hàng trăm bàn đồng thời.

⚠️ Hạn chế:

Cần deploy LiveKit Server (self-hosted / LiveKit Cloud), hơi nặng nếu chỉ chạy text-chat trong tuần đầu.

🕸️ TEN Framework

Bộ não phức tạp

Định hướng tương lai cho Multi-Agent phức tạp (Aria + Kitchen + Admin).

✅ Điểm mạnh:

Mô hình Directed Extension Graph cho hệ sinh thái đa Agent.
Hiệu năng C++ cực cao.

❌ Hạn chế KLTN:

C++ core rất khó cấu hình và debug; learning curve cao; quá mức cần thiết cho 1 chatbot tư vấn món ăn.

🗺️ Lộ Trình Triển Khai Theo 3 Giai Đoạn (Roadmap)

Giai đoạn 1 Tuần 1 – 3

MVP Text Chat (Phương án A)

Xây dựng Node.js Gateway + Pipecat Python Microservice. Triển khai Text Chat Widget, Streaming Token, 2-Stage RAG và trích xuất gợi ý món ăn.

Mục tiêu cốt lõi KLTN

Giai đoạn 2 Tuần 4 – 5

Voice Mode (Phương án B)

Thêm LiveKit Server + LiveKit Agent. Thêm nút Microphone trên Aria Widget. Tích hợp STT → Gemini → TTS cho tương tác giọng nói theo bàn.

Tính năng Wow Demo

Giai đoạn 3 Tương lai

Multi-Agent Ecosystem (TEN)

Nghiên cứu TEN Framework mở rộng cho Admin Analytics AI và Kitchen Assistant kết nối luồng thông tin với Aria.

R&D mở rộng

🎯 Ma Trận Quyết Định Theo Mục Tiêu Khóa Luận Tốt Nghiệp

Mục Tiêu & Tiêu Chí Đánh Giá	Phương án A (Pipecat) ⭐	Phương án B (LiveKit)	Phương án C (TEN)
Demo KLTN hoàn chỉnh trong 3 tuần	✅ Rất Khả Thi	⚠️ Cần thêm infra Setup server WebRTC	❌ Quá phức tạp
Text chat tư vấn món (Aria Core)	✅ Core Use Case	✅ Tốt	✅ Tốt
Khả năng mở rộng Voice Mode	⚠️ Cần STT/TTS Gắn thêm module giọng nói	✅ Native WebRTC	✅ Hỗ trợ tốt
Tùy biến RAG & Entity Extraction	✅ Rất dễ viết Custom Processor	✅ Tốt	✅ Native Extension Extension Graph
Không làm gãy cấu trúc Code Node.js hiện tại	✅ 100% Additive Qua Express Gateway	⚠️ Thay thế luồng Socket.io AI hiện có	✅ Additive
Production Scale & Reliability	🟡 Vừa & Đủ	✅ Rất cao	✅ Cực cao

📁 Cấu Trúc Thư Mục Đề Xuất (Phương Án A)

SmartRestaurant/
├── backend/                          ← Node.js (Hiện có - làm AI Gateway)
│   └── src/
│       ├── routes/
│       │   └── aiRoutes.js           ← POST /api/ai/consult
│       ├── controllers/
│       │   └── aiController.js       ← Validate, rate-limit, Socket emit
│       └── services/
│           ├── ragService.js         ← 2-Stage RAG (pgvector Supabase)
│           ├── pipecatClient.js      ← HTTP client gọi Pipecat Service
│           └── prompts/
│               └── ariaSystemPrompt.js  ← System prompt schema
│
├── ai-service/                       ← [NEW] Python Pipecat Microservice
│   ├── Dockerfile
│   ├── main.py                       ← FastAPI + WebSocket endpoint
│   ├── pipelines/
│   │   └── aria_pipeline.py          ← AriaConversationPipeline
│   ├── processors/
│   │   ├── system_prompt_builder.py  ← Layer 1+2 Context Builder
│   │   ├── entity_extractor.py       ← Extract tên món → Supabase IDs
│   │   └── fallback_handler.py       ← Fallback 3 tầng logic
│   ├── prompts/
│   │   └── aria_system_prompt.py     ← Prompt Tiếng Việt + Persona
│   └── requirements.txt              # pipecat-ai, fastapi, google-generativeai
│
├── frontend/                         ← React 19 (Hiện có)
│   └── src/
│       ├── components/
│       │   └── AriaChatWidget/
│       │       ├── index.jsx
│       │       ├── ChatMessage.jsx
│       │       └── AriaChatWidget.css
│       ├── pages/customer/
│       │   ├── MenuPage.jsx          ← [MODIFY] Nhúng widget
│       │   └── CartPage.jsx          ← [MODIFY] Upsell trigger
│       └── contexts/
│           └── AiChatContext.jsx     ← Socket listener, session state
│
└── docker-compose.yml               ← [MODIFY] Thêm container ai-service

🐍 Python Pipecat Pipeline (Minh Họa)

Cấu hình pipeline mô-đun trong ai-service/pipelines/aria_pipeline.py:

from pipecat.pipeline.pipeline import Pipeline

from pipecat.processors.aggregators import LLMResponseAggregator

from processors.system_prompt_builder import SystemPromptBuilder

from processors.entity_extractor import EntityExtractor

async def create_aria_pipeline(transport, gemini_service):

    # Tạo chuỗi xử lý frame độc lập:

    pipeline = Pipeline([

        transport.input(),              # Nhận message từ Gateway

        SystemPromptBuilder(),          # Ghép 3-layer context

        gemini_service,                 # Gemini 1.5 Flash streaming

        EntityExtractor(),              # Parse món & map DB ID

        transport.output()              # Stream tokens về Node.js

])

    return pipeline

✨ Ưu thế của kiến trúc: Muốn đổi model AI (ví dụ chuyển sang Gemini 2.0 hoặc Claude) chỉ cần thay 1 processor duy nhất, không phải viết lại code frontend hay backend Node.js!

🔗 Mapping Yêu Cầu Từ Proposal → Component Kiến Trúc

Yêu Cầu Từ Proposal v1.0	Component Xử Lý Cụ Thể	Framework / Dịch Vụ
3-Layer Prompt (System + Dynamic + User)	`SystemPromptBuilder` Processor	Pipecat
Lightweight 2-Stage RAG (Top 6 món)	`ragService.js` (Node.js) → `GeminiLLMProcessor`	Node.js + pgvector
Streaming token-by-token	Pipecat Native Streaming Frame → Gateway → Socket.io	Pipecat + Socket.io
Entity Extraction (Tên món → ID)	`EntityExtractor` Processor (regex + fuzzy match)	Pipecat
Fallback 3 Tầng (Timeout, Empty, Error)	`FallbackHandler` Processor	Pipecat
Session Memory (TTL 30 phút)	Redis cache `ai_session:{sessionId}`	Redis
Rate Limiting bảo vệ chi phí	AI Gateway Controller Middleware	Express + Redis
Voice Mode (Giai đoạn 2)	LiveKit Agent (STT + LLM + TTS) Room per Table	LiveKit

⚖️ So Sánh Proposal Gốc (Monolithic Node) vs Kiến Trúc Mới (Pipecat Microservice)

Tiêu chí so sánh	Proposal Gốc (Monolithic Node.js)	Kiến Trúc Đề Xuất (Pipecat Service) ⭐
Cơ chế gọi AI	`aiService.js` gọi SDK Gemini trực tiếp	Pipecat Pipeline quản lý Frame tuần tự
Prompt Building	Gom chung trong 1 file logic dài	`SystemPromptBuilder` tách biệt, dễ bảo trì
Trích xuất Entity	Hardcode trong backend Node.js	`EntityExtractor` processor độc lập
Khả năng Viết Unit Test	Khó test riêng rẽ từng phần	✅ Dễ test từng Processor độc lập
Khả năng Thay Đổi Model AI	Phải refactor lại code Node.js	✅ Chỉ cần swap 1 Processor
Mở rộng sang Voice / Audio	Phải đập đi xây lại phần lớn	✅ Cắm thêm LiveKit/STT/TTS tự nhiên

AI Consultant "Aria" v1.0 Proposal

📊 Bảng So Sánh Chi Tiết 3 Framework

🐱 Pipecat

🎙️ LiveKit Agents

🕸️ TEN Framework

Kiến Trúc Pipecat-Centric (⭐ Khuyến Nghị KLTN)

Sơ Đồ Phân Tầng Hệ Thống (Architecture Blueprint):

⚡ Chu Trình Xử Lý Một Tin Nhắn (Request-Response Cycle):

LiveKit Voice Extension (🎙️ Giai đoạn 2)

TEN Framework — Multi-Agent Future (Nghiên cứu dài hạn)

🗺️ Lộ Trình Triển Khai Theo 3 Giai Đoạn (Roadmap)

MVP Text Chat (Phương án A)

Voice Mode (Phương án B)

Multi-Agent Ecosystem (TEN)

🎯 Ma Trận Quyết Định Theo Mục Tiêu Khóa Luận Tốt Nghiệp

📁 Cấu Trúc Thư Mục Đề Xuất (Phương Án A)

🐍 Python Pipecat Pipeline (Minh Họa)

🔗 Mapping Yêu Cầu Từ Proposal → Component Kiến Trúc

⚖️ So Sánh Proposal Gốc (Monolithic Node) vs Kiến Trúc Mới (Pipecat Microservice)