TouchAll技术博客

TouchAll技术博客

架构设计

DeepEval - Dataset 数据集

在 DeepEval中数据集通常就是一系列的 goldens. golden包含llm测试case的所有前置条件。 所以 dataset 就是 golden 的管理器, 使用golden去完成测试用例编写。 初始化数据集 dataset = EvaluationDataset() 添加数据 一个D

提示词工程 - 认识 Temperature 温度

首先 Temperature 代表大模型输出的随机性参数, 本章将用实验认识 Temperature 温度如何控制输出质量,为我们的目标任务设置使用合适的 temperature 区间,引导大模型达到我们的预期目标。 整体思路 核心目标:用标准化数据集 + 量化指标 + 对照实验,量化三组参数对「幻

[系统设计 - Agent 体系设计] 提示词工程 - 新手入门

提示词工程(Prompt Engineering)是一套规范化设计、调试、优化输入文本,用来精准控制大模型输出格式、逻辑、风格、能力边界的方法论,核心目标:降低模型幻觉、稳定输出、复用模板、挖掘模型极限能力。 整体分为基础理论、核心编写技巧、高阶范式、工程落地、调优运维、行业落地六大板块。 一、核心

[系统设计 - 数据库设计专题]3. 表结构、字段与索引实战设计

表字段设计的范式与反范式 1NF 第一范式:原子性 规则:列不可再拆分,一个单元格只能存一份原子数据 2NF 第二范式:消除「部分依赖」 规则:所有非主键字段,必须完全依赖【整个复合主键】,不能只依赖主键其中某一列 前置条件:必须先满足 1NF 适用场景:复合主键(多个字段联合做主键) 3NF 第三

[系统设计 - Agent系统设计专题] 1. Agent工程评估体系

建立评估体系的目的 保证迭代优化效果 客观衡量模型能力水平:使用可量化的标准,客观衡量模型在各种任务优劣 通过评估体系验证改动是否有效,防止更新模型对Agent工程后能力退化 匹配真实业务需求 适配业务任务,通用基准无法代表行业场景,自建业务测评集,校验模型能够胜任 作为决策依据,不再依靠厂商宣传或

[系统设计 - 数据库设计专题] 1.数据库技术选型

一、为什么选型如此重要? 数据库选型是系统架构中最关键的决策之一,选错数据库的代价: 代价类型 具体表现 性能瓶颈 查询慢、写入跟不上、高峰期系统崩溃 运维灾难 频繁扩容、数据迁移、7×24 救火 架构重构 业务增长后被迫换库,半年重写 成本失控 资源浪费、License 费用、人力投入 核心原则:

[系统设计 - 数据库设计专题] 2.数据库容量规划

做数据库容量规划的核心目的,是精准评估当前存储基线、通过预估数据增长速率、预留未来 3–5 年业务容量上限,通过预留合理冗余余量、规范单表 / 索引容量边界、设计分层存储与平滑扩容架构,从根源避免业务突发增量、数据持续膨胀导致的磁盘打满、数据库性能雪崩、架构无力承载业务迭代的问题,保障系统长期稳定、

[系统设计 - 缓存设计专题] 5. 缓存性能优化要点

数据结构与 Key 设计优化 规避大 Key / 大 Value 问题:单个 value 几十 MB、上万元素 list/hash,阻塞主线程、网络 IO、分片内存倾斜、删除阻塞。 优化: 列表拆分:长 list 分多段 hash;大批量结果分页存储; 统一阈值:value 上限控制 100KB 以

[系统设计 - 缓存设计专题] 4. 缓存经典问题

一、缓存穿透 产生原因 查询不存在的数据,缓存与数据库都没有,请求直接打穿到 DB,大量无效查询压垮数据库。 例:查询 id=-1、随机不存在的用户 ID,缓存查不到,每次都查库。 解决方案 缓存空值 / 空占位符:DB 查无数据时,缓存一条过期短时间的空记录,拦截重复请求; 布隆过滤器:把所有合法

[系统设计 - 可观测设计] Promethues存储机制

Prometheus 存储机制 Prometheus 默认使用 TSDB(时序数据库) 存储,v2.x 全新自研块状时序存储,核心分为四大模块:Head Block、持久化 Block、WAL 预写日志、mmap 内存映射。 1. WAL 预写日志(Write-Ahead Log) 所有采集指标写入