forked from OSKYCX/mxokdzntjytqyjzywjz
9.2 KiB
9.2 KiB
openKylin 社区赛题提交包索引
面向第三届中国研究生操作系统开源创新大赛社区赛题
「面向 openKylin 的智能体记忆提取与精准遗忘机制」,本提交包以 OS 级记忆治理、
端侧检索和不可恢复遗忘为唯一评审主线。逐项完成状态与证据边界见
docs/openkylin/scorecard.md。
交付物
| 要求 | 项目文件 |
|---|---|
| openKylin 答辩 PPT | submission/final/MemoryOS-OK_openKylin答辩.pptx |
| PPT 逐页演讲稿 | submission/PPT_openKylin演讲稿.md |
| 正式技术方案与测试报告 | submission/final/MemoryOS-OK_技术方案及测试报告.docx、.pdf、.md |
| 完整开源源代码 | src/、tests/、eval/、stress/ |
| 概要设计说明书 | docs/architecture.md、docs/story.md |
| 详细设计说明书 | submission/final/MemoryOS-OK_技术方案及测试报告.md、docs/openkylin/os-integration.md |
| 部署与使用手册 | docs/user-manual.md、scripts/install.sh、adapt/kylin_verify.sh、deploy/systemd/memoryos-ok.service |
| 测试报告 | eval/reports/latest.md、eval/reports/baselines/latest.md、eval/reports/longmemeval/{vector-full-500-linux-l2,hybrid-full-500-linux-l2,full-500-comparison-linux-l2}/、eval/reports/system_baselines/comparison/latest.md、eval/reports/reasoning/latest.md、eval/reports/llama_prompt_cache/openkylin.md、adapt/reports/openkylin-l3/verification-summary.md、adapt/reports/openkylin-l3/latest.json、eval/reports/openkylin-l3/core/latest.md、docs/evaluation-datasets.md、docs/requirements-coverage.md、docs/eval-longmemeval.md、docs/system-baseline-mem0.md |
| 推理感知记忆设计 | docs/reasoning-memory.md、docs/superpowers/specs/2026-07-21-llama-prompt-cache-design.md |
| 演示视频与脚本 | 演示视频.mp4、demo/showcase.py、demo/demo-script.md、demo/openkylin-video-script.md |
openKylin 差异化能力
| 赛题要求 | MemoryOS-OK 实现 |
|---|---|
| 多源融合 | Curator 标准化工具执行结果、用户行为、手动配置 |
| 偏好提取与版本 | Profiler 支持 habit/style/safety;加密 append-only 历史提供 history/diff/checkout/rollback |
| 知识整合 | workflow/case/template 结构化存储,Sage 三层冲突仲裁 |
| 统一检索链路 | Recall 默认启用向量 + BM25 + RRF hybrid 检索 |
| 跨语言检索 | BM25 OS 术语桥 + eval/eval_crosslingual.py |
| 精准遗忘 | 可恢复 Saga 级联事件、短中长期、偏好历史、Vector/BM25、默认 mmap 和已登记推理状态;残留时失败关闭 |
| 自定义敏感模式 | Sentinel 支持自定义 regex + redact/block |
| OS 级审计 | src/os_integration/audit.py 写入 journald |
| OS 级资源管控 | memos serve 常驻单写者 + systemd/cgroup v2 限额;本轮 openKylin 联合复验待补 |
| mmap 安全版本化存储 | 默认 memory.cow 使用 append-only + AES-GCM 逐版本密钥 + tombstone,并进入统一遗忘 |
| BPF LSM | CO-RE 程序、策略加载器与 append/原子替换探针已实现;Ubuntu 仅为 compiled |
| 推理感知记忆调度 | src/reasoning/ 维护上下文片段、稳定前缀与 llama.cpp Slot;默认遗忘 Saga 已统一调用 |
| openKylin 验证 | adapt/kylin_verify.sh 一键检测系统能力与核心测试 |
openKylin 赛题量化证据
默认快速评测由 eval/eval_all.py 汇总,覆盖赛题要求的偏好提取、知识冲突处理、
敏感信息识别和中英跨语言检索指标:
python3 eval/eval_all.py
python3 eval/eval_baselines.py
python3 eval/eval_reasoning_memory.py
MODEL_PATH=/path/to/model.gguf CASES=100 bash scripts/run_llama_prompt_cache_bench.sh
输出文件:
eval/reports/latest.md:Markdown 测试报告,可直接放入提交文档;eval/reports/latest.json:机器可读报告,包含原始 stdout 与解析后的指标。eval/reports/baselines/latest.md:vector-only / BM25-only / hybrid 消融报告。eval/reports/longmemeval/{vector-full-500-linux-l2,hybrid-full-500-linux-l2}/latest.{json,md}:原始全量 500 题、23,867 个 session 的质量证据,Recall@5 分别为 94.2% / 94.8%。eval/reports/longmemeval/full-500-comparison-linux-l2/latest.{json,md}:95% Wilson 区间与同题成对 McNemarp=0.607;hybrid 高 0.6pp,但未达到显著差异。eval/reports/longmemeval/hybrid-full-500-linux-l2/duplicate-id-robustness.{json,md}:原始数据 13 个完全相同的重复 session ID 及幂等索引处理记录。docs/system-baseline-mem0.md:MemoryOS-OK 与 Mem0 OSS 2.0.14 的同源 60 题成对检索基线;这是 macOS retrieval-only 证据,不替代 openKylin 性能。eval/reports/reasoning/latest.md:推理感知记忆调度报告。eval/reports/llama_prompt_cache/local-macos.md:真实 llama.cpp L1 探索性报告,不用于目标 OS 结论。eval/reports/llama_prompt_cache/linux-cpu.md:100 Case / 300 请求的普通 Linux CPU L2 verified 报告;它验证真实缓存与遗忘链路,但不替代 openKylin L3。eval/reports/llama_prompt_cache/linux-cpu-resource.md:去路径化的 L2 CPU/RSS 资源摘要。eval/reports/llama_prompt_cache/openkylin.md:openKylin 2.0 SP2 L3 verified 报告,100 Case / 300 请求,Warm Same TTFT P95 31.21ms,Slot 淘汰成功率 100%。eval/reports/llama_prompt_cache/openkylin-qwen3-0.6b-repeated.md:官方 Qwen3-0.6B Q8_0 三轮、300 Case / 900 请求的 L3 重复性证据。eval/reports/llama_prompt_cache/ablation/openkylin-qwen3-0.6b-ablation-repeated.json:random / priority-only / stable-prefix 三路、三轮 300 Case / 2700 请求的 L3 因果消融;方法见docs/prompt-cache-ablation.md。eval/reports/llama_prompt_cache/ablation/linux-cpu-qwen3-4b-run1.json:Qwen3-4B Q4_K_M 单轮 100 Case / 900 请求的普通 Linux L2 尺度复验;Stable TTFT P95 815.21ms,不替代 openKylin L3。adapt/reports/linux-cpu/qwen3-4b-run1-resource.json:Qwen3-4B L2 推理进程资源报告;峰值 RSS 4477.852MiB、无 swap。adapt/reports/openkylin-l3/verification-summary.md:openKylin KVM 历史 L3/L3-SDK、10 万向量微基准和资源口径的精炼摘要。docs/system-hardening-evidence.md:五项系统闭环、分平台修复结果和目标证据边界。
全量 500 题在 Ubuntu + A40 上运行,仅用于验证检索质量、题型表现和统计稳健性;其中 GPU 查询延迟与 RSS 不作 openKylin 端侧性能证据。当前端侧延迟仍引用独立 CPU 60 题实验 P95 94.561ms,openKylin 平台性能引用 L3 微基准,两者均不与全量召回 拼接成同一次端到端测量。
交付前推荐统一跑:
bash scripts/run_competition_checks.sh
提交包生成
python3 scripts/capture_demo_artifacts.py
python3 scripts/render_demo_video.py --competition openkylin
python3 adapt/kylin_evidence.py
python3 scripts/build_submission_bundle.py --competition openkylin
python3 scripts/check_submission_safety.py
输出目录:
build/submission/openkylin/中国科学技术大学-openKylin智能体记忆提取与精准遗忘机制-MemoryOS-OK
build/submission/openkylin/中国科学技术大学-openKylin智能体记忆提取与精准遗忘机制-MemoryOS-OK.tar.gz
目录内会生成 MANIFEST.md,列出完整开源源代码、设计文档、部署手册、测试报告和演示脚本对应文件。
OS 级机制验收命令
python3 eval/eval_all.py
python3 adapt/kylin_evidence.py
python3 scripts/remote_kylin_verify.py --host "$REMOTE_HOST" --user "$REMOTE_USER" --port "$REMOTE_PORT" --identity "$SSH_KEY" --remote-dir "$REMOTE_DIR" --mode ci --bootstrap-venv
python3 -m pytest tests/test_os_audit.py tests/test_sentinel_custom_patterns.py tests/test_mmap_store.py tests/test_eval_secure_erasure.py tests/test_eval_pii.py -v
python3 -m pytest tests/test_memory_service.py tests/test_preference_history.py tests/test_unified_forget.py -v
python3 adapt/verify_bpf_lsm.py --output-dir adapt/reports/bpf-lsm/linux-l2
python3 adapt/verify_target_platform.py --output-dir adapt/reports/target-platform/current
python3 eval/eval_secure_erasure.py
bash -n adapt/kylin_verify.sh
bash adapt/kylin_verify.sh
在 openKylin 环境中额外运行:
mkdir -p ~/.config/systemd/user
cp deploy/systemd/memoryos-ok.service ~/.config/systemd/user/
systemctl --user daemon-reload
systemctl --user enable --now memoryos-ok
MEMOS_REQUIRE_DAEMON=1 memos stats
systemctl --user cat memoryos-ok
journalctl --user -t memoryos-ok --no-pager -n 20
systemctl --user show memoryos-ok -p MemoryMax -p CPUQuota -p IOWeight
unit 运行 memos serve 常驻单写者。正式目标 OS 验收还应包含 health、并发写入、重启
可见性、cgroup 统计和统一遗忘残留,不把配置文件存在单独写成生产证据。
下一阶段亮点
- 在活动 LSM 含
bpf的目标内核完成现有 BPF 程序 attach/enforce - UKUI D-Bus 桌面联动
- 更大规模中英跨语言检索数据集
- 135M 机制、官方 Qwen3-0.6B openKylin L3 重复实验与稳定前缀三路因果消融均已完成;Qwen3-4B 已完成普通 Linux L2 单轮复验;通用 Ubuntu x86_64 物理机已完成一小时长稳。下一阶段补 4B openKylin 多轮、长文本、并发 Slot 与目标物理真机
- 面向 openKylin 社区的技术白皮书与企业 POC 样板