Router와 Orchestration

from openai import OpenAI
import json

client = OpenAI()

# 라우팅 함수 정의
routing_tools = [{
    "type": "function",
    "function": {
        "name": "route_query",
        "description": "쿼리를 적절한 데이터 소스로 라우팅",
        "parameters": {
            "type": "object",
            "properties": {
                "datasource": {
                    "type": "string",
                    "enum": ["vector_db", "web_search", "sql_db", "calculator"],
                    "description": "선택할 데이터 소스"
                },
                "reasoning": {
                    "type": "string",
                    "description": "선택 이유"
                }
            },
            "required": ["datasource", "reasoning"]
        }
    }
}]

def route_query(query: str) -> dict:
    response = client.chat.completions.create(
        model="gpt-4",
        messages=[
            {"role": "system", "content": """당신은 쿼리 라우터입니다.
- vector_db: 기술 문서, 제품 정보 등 내부 지식
- web_search: 최신 뉴스, 실시간 정보
- sql_db: 구조화된 데이터, 통계, 리포트
- calculator: 수학 계산, 단위 변환"""},
            {"role": "user", "content": query}
        ],
        tools=routing_tools,
        tool_choice={"type": "function", "function": {"name": "route_query"}}
    )

    tool_call = response.choices[0].message.tool_calls[0]
    return json.loads(tool_call.function.arguments)

from semantic_router import Route, RouteLayer
from semantic_router.encoders import OpenAIEncoder

# 라우트 정의
tech_docs = Route(
    name="technical_docs",
    utterances=[
        "API 사용법 알려줘",
        "설치 방법이 뭐야?",
        "에러 코드 E001의 의미는?",
        "configuration 설정 방법",
    ]
)

latest_news = Route(
    name="web_search",
    utterances=[
        "오늘 주가 어때?",
        "최근 AI 트렌드",
        "어제 발표된 뉴스",
        "실시간 날씨",
    ]
)

data_query = Route(
    name="sql_database",
    utterances=[
        "지난달 매출 합계",
        "고객 수 통계",
        "분기별 성장률",
        "상위 10개 제품",
    ]
)

# RouteLayer 생성
encoder = OpenAIEncoder()
route_layer = RouteLayer(encoder=encoder, routes=[tech_docs, latest_news, data_query])

# 라우팅 실행
result = route_layer("API 인증 방법 알려줘")
print(result.name)  # "technical_docs"