账小灵成长记

system_prompt = """
你是「账小灵」，一款记账 App 里的 AI 助手。
【性格】简洁、亲切，像一位靠谱的理财朋友。
【能力】帮用户记账、查账、分析开销、给省钱建议。
【规矩】
1. 回复不超过 50 字，除非用户明确要求详细分析；
2. 涉及金额必须用数字+单位，如「¥128.50」；
3. 用户说「记账」时，先确认三个要素：金额、分类、日期；
4. 不确定的事情就说「我不确定」，绝不编造；
5. 不提供投资建议，涉及请提醒「仅供娱乐，不构成建议」。
"""

messages = [{"role": "system", "content": system_prompt},
            {"role": "user", "content": "帮我记账"}]
# → 账小灵：「好的！请告诉我：金额是多少？属于哪一类（餐饮/交通/购物…）？今天这笔吗？」

# Few-shot：给 AI 看两个标准答案，它就懂规矩了
few_shot = [
    {"role": "user", "content": "花了35块买了奶茶"},
    {"role": "assistant", "content": "已记：奶茶 ¥35.00（餐饮）"},
    {"role": "user", "content": "工资发了8000"},
    {"role": "assistant", "content": "已记：工资收入 ¥8000.00（工资）"},
    {"role": "user", "content": "打车花了20"},
]
# → 账小灵：「已记：打车 ¥20.00（交通）」

# CoT：复杂问题先思考再回答
prompt = "帮我看看这个月哪类花销最该砍？请先列出各类支出，再比较，最后给建议。"

MAX_TOKENS = 8000   # token 预算：别让对话无限膨胀

def build_messages(system, history, recent):
    """拼请求：system(岗位说明书) + 精简后的历史 + 最近对话"""
    # 三板斧：
    # 1. 裁剪：只保留最近 N 轮完整对话（最相关）
    recent = history[-10:]
    # 2. 摘要：更早的内容压缩成一段话
    old_summary = summarize(history[:-10])   # 「用户 6 月预算 3000，超支过两次」
    # 3. 关键信息提取：预算、名字、偏好单独存，永远塞进 system
    profile = "用户预算：¥3000/月；偏好：奶茶重度用户"
    return ([{"role": "system", "content": system + "\n" + profile}] +
            [{"role": "system", "content": "早期对话摘要：" + old_summary}] +
            recent)

# 1. 定义输出 schema：告诉模型必须输出什么结构
schema = {
    "type": "object",
    "properties": {
        "amount":   {"type": "number", "description": "金额，正数"},
        "category": {"type": "string", "enum": ["餐饮","交通","购物","工资","其他"]},
        "note":     {"type": "string"},
        "date":     {"type": "string", "description": "YYYY-MM-DD，默认今天"}
    },
    "required": ["amount", "category"]
}

# 2. 请求时启用 JSON mode + 传 schema
resp = client.chat.completions.create(
    model="deepseek-chat",
    messages=[...],
    response_format={"type": "json_object"},   # 强制 JSON 输出
    tools=[{"type": "function", "function": {"name": "add_record", "parameters": schema}}]
)

# 3. 解析 + 校验 + 重试（最多 2 次）
for attempt in range(3):
    data = json.loads(resp.choices[0].message.content)
    if validate(data, schema):        # 校验字段和类型
        save_record(data)             # 进数据库
        break
    else:
        resp = retry_with_feedback(data)  # 把校验错误喂回去让它改

# 1. 把工具「介绍」给模型
tools = [{
    "type": "function",
    "function": {
        "name": "query_expense",
        "description": "查询用户在指定月份的总支出（元）",
        "parameters": {
            "type": "object",
            "properties": {
                "month": {"type": "string", "description": "月份 YYYY-MM"}
            },
            "required": ["month"]
        }
    }
}]

# 2. 用户问「这个月花了多少」→ 模型不回答，而是请求调用工具
resp = client.chat.completions.create(model="deepseek-chat",
        messages=[...], tools=tools, tool_choice="auto")

tool_call = resp.choices[0].message.tool_calls[0]
print(tool_call.function.name)      # query_expense
print(tool_call.function.arguments) # {"month": "2026-09"}

# 3. 你的代码执行真实查询
result = db.query_expense("2026-09")        # 1915.50

# 4. 把结果喂回模型，让它组织成自然语言
messages.append({"role": "tool",
                 "tool_call_id": tool_call.id,
                 "content": str(result)})
final = client.chat.completions.create(...)
# → 账小灵：「这个月（9月）你一共花了 ¥1915.50，比上月多 12% 哦。」

# ===== 1. 建库（离线，一次做好）=====
from openai import OpenAI
client = OpenAI()

docs = split_chunks(reimburse_policy_text, size=500)   # 按 500 字切块
for chunk in docs:
    vec = client.embeddings.create(model="text-embedding-3",
                                   input=chunk).data[0].embedding
    vector_db.insert(chunk, vec)        # 存进向量库（如 pgvector / Milvus）

# ===== 2. 检索（每次提问时）=====
q_vec = client.embeddings.create(model="text-embedding-3",
                                 input=question).data[0].embedding
hits = vector_db.search(q_vec, top_k=5)   # 找到最相关的 5 块

# ===== 3. 生成：把资料塞进上下文 =====
context = "\n\n".join(h.text for h in hits)
prompt = f"""基于以下《报销规则》回答问题，规则里没有的就说不知道：
---规则---
{context}
---问题---
{question}"""

# → 账小灵：「按规则第 3.2 条，市内打车可报销 80%，需附行程截图。」
#   这次有依据了，不再瞎编！

tools = [query_expense, query_income, query_budget, send_reminder]

def agent_loop(task, tools, max_steps=8):
    messages = [{"role": "system", "content": AGENT_PROMPT},
                {"role": "user",   "content": task}]

    for step in range(max_steps):
        resp = llm(messages, tools=tools)

        if resp.tool_calls:                    # 模型想调用工具
            messages.append(resp.message)
            for call in resp.tool_calls:       # 执行工具
                result = execute(call)
                messages.append({"role": "tool", "content": result})
            continue                           # 带着结果继续「想」

        return resp.text                       # 不再调工具 = 任务完成

# 任务：「看看这周有没有超支，超了就提醒我」
# 循环过程：
#  Step1 想：需要查本周支出 → 调 query_expense(本周)
#  Step2 看：本周支出 ¥1680，预算 ¥1500 → 调 query_budget()
#  Step3 想：超了！需要发提醒 → 调 send_reminder("本周已超支 ¥180")
#  Step4 答：「已提醒你啦：本周支出 ¥1680，超出预算 ¥180，主要在餐饮 🍜」

# ===== 记忆写入：对话中挑出值得记的 =====
MEMORY_EXTRACT_PROMPT = """
从对话中提取值得长期记住的用户信息（用 JSON 输出）：
1. 用户明确表达的偏好/习惯（如"我喝奶茶上瘾"）
2. 用户的财务目标/预算（如"本月预算 3000"）
3. 重要事实（如"养了一只叫年糕的猫"）
没有值得记的就返回 {"memories": []}
"""
# → {"memories": [
#      {"type": "preference", "content": "重度奶茶爱好者，每周至少5杯"},
#      {"type": "budget",     "content": "6月预算 ¥3000，超支在餐饮"}]}
# → 存入用户记忆库（可带向量索引）

# ===== 记忆召回：每次对话开始时唤醒 =====
def build_memory_context(user_id, topic):
    memories = memory_db.search(user_id, topic, top_k=10)   # 语义检索
    return "关于该用户的记忆：\n" + "\n".join(m["content"] for m in memories)

# → 拼进 system prompt，账小灵瞬间「认识」老用户：
#   「欢迎回来！这月已花 ¥1284，奶茶贡献了 ¥268 🧋
#     按你的预算 3000，剩下的日子每天还能花 ~¥85。」

# 评测集：100 道典型题（含各种刁钻 case）
golden_set = [
    {"q": "记一笔：午饭 35", "expect": {"amount": 35, "category": "餐饮"}},
    {"q": "我花了-100块",    "expect": "拒绝或纠正（金额不能为负）"},
    {"q": "打车能报销吗",    "expect": "依据规则回答，不许瞎编"},
    ...
]

def run_eval(version):
    results = []
    for case in golden_set:
        out = run_accountant(case["q"])
        results.append({
            "correct": judge(case, out),      # 规则校验 + LLM-as-Judge
            "latency": out.latency,
            "tokens":  out.total_tokens,
            "hallucination": detect_hallucination(out)  # 幻觉检测
        })
    return summarize(results)   # 正确率 92%、平均延迟 0.8s、幻觉率 3%

# 版本对比：
#  v1（旧提示词）：正确率 78%，幻觉率 8%
#  v2（新提示词）：正确率 92%，幻觉率 3%  ← 数据证明，确实变好了！

# 成本优化三板斧：
#  ① 缓存：相同问题直接命中缓存（相似度 > 0.95 复用答案）
#  ② 模型路由：简单问题用小模型（便宜 20 倍），难的才上大模型
#  ③ 蒸馏：把大模型的「答题风格」蒸馏给小模型

def safe_handle(user_input):
    # 第 1 层：输入检查（规则 + 分类模型）
    if detect_injection(user_input):          # 提示注入特征？
        return "这个话题咱们不聊啦，换个别的？"

    # 第 2 层：工具权限隔离
    # 高危操作（删除账目 / 付款 / 改预算）→ 必须二次确认
    if tool_is_sensitive(tool_call) and not user_confirmed():
        return "这个操作有风险，请确认：真的要删除 6 月所有记录吗？[确认/取消]"

    # 第 3 层：输出审核
    answer = model_chat(user_input)
    if not content_safe(answer):              # 违规/泄露检查
        return "这条回复有点问题，我已拦截并记录。"

    audit_log(user_input, tool_calls, answer)  # 全部审计留痕
    return answer

# 额外防线：
#  · 红队测试：上线前雇人/用模型专门「攻击」账小灵，找漏洞
#  · 数据脱敏：涉及身份证、银行卡的信息，脱敏后再进上下文
#  · 越狱防御：对「忽略规则 / DAN / 角色扮演骗术」等模式保持警惕

账小灵 · 每日运营看板（示意）
─────────────────────────────────────
【质量】对话满意度 4.6/5    正确率 94%
       幻觉率 2.1%（上周 3.4%）↓ 回复被拒率 0.8%
【性能】平均首字延迟 0.6s   平均完整回复 2.1s
       日请求 12,500 次      成功率 99.97%
【成本】日 token：输入 380 万 / 输出 96 万
       日成本 ¥2,180（环比 -12%）→ 缓存命中率 38%
【灰度】v2.1 提示词版本：10% 流量观察中，满意度 +0.2 ✓

【降级预案】
  模型服务商故障 → 自动切换备用模型 / 返回兜底话术
  成本超阈值   → 自动下调模型档位（大模型→小模型）
  高峰期       → 队列削峰 + 优先保障付费用户