mxokdzntjytqyjzywjz/docs/openkylin/README.md

9.2 KiB
Raw Blame History

openKylin 社区赛题提交包索引

面向第三届中国研究生操作系统开源创新大赛社区赛题 「面向 openKylin 的智能体记忆提取与精准遗忘机制」,本提交包以 OS 级记忆治理、 端侧检索和不可恢复遗忘为唯一评审主线。逐项完成状态与证据边界见 docs/openkylin/scorecard.md

交付物

要求 项目文件
openKylin 答辩 PPT submission/final/MemoryOS-OK_openKylin答辩.pptx
PPT 逐页演讲稿 submission/PPT_openKylin演讲稿.md
正式技术方案与测试报告 submission/final/MemoryOS-OK_技术方案及测试报告.docx.pdf.md
完整开源源代码 src/tests/eval/stress/
概要设计说明书 docs/architecture.mddocs/story.md
详细设计说明书 submission/final/MemoryOS-OK_技术方案及测试报告.mddocs/openkylin/os-integration.md
部署与使用手册 docs/user-manual.mdscripts/install.shadapt/kylin_verify.shdeploy/systemd/memoryos-ok.service
测试报告 eval/reports/latest.mdeval/reports/baselines/latest.mdeval/reports/longmemeval/{vector-full-500-linux-l2,hybrid-full-500-linux-l2,full-500-comparison-linux-l2}/eval/reports/system_baselines/comparison/latest.mdeval/reports/reasoning/latest.mdeval/reports/llama_prompt_cache/openkylin.mdadapt/reports/openkylin-l3/verification-summary.mdadapt/reports/openkylin-l3/latest.jsoneval/reports/openkylin-l3/core/latest.mddocs/evaluation-datasets.mddocs/requirements-coverage.mddocs/eval-longmemeval.mddocs/system-baseline-mem0.md
推理感知记忆设计 docs/reasoning-memory.mddocs/superpowers/specs/2026-07-21-llama-prompt-cache-design.md
演示视频与脚本 演示视频.mp4demo/showcase.pydemo/demo-script.mddemo/openkylin-video-script.md

openKylin 差异化能力

赛题要求 MemoryOS-OK 实现
多源融合 Curator 标准化工具执行结果、用户行为、手动配置
偏好提取与版本 Profiler 支持 habit/style/safety加密 append-only 历史提供 history/diff/checkout/rollback
知识整合 workflow/case/template 结构化存储Sage 三层冲突仲裁
统一检索链路 Recall 默认启用向量 + BM25 + RRF hybrid 检索
跨语言检索 BM25 OS 术语桥 + eval/eval_crosslingual.py
精准遗忘 可恢复 Saga 级联事件、短中长期、偏好历史、Vector/BM25、默认 mmap 和已登记推理状态;残留时失败关闭
自定义敏感模式 Sentinel 支持自定义 regex + redact/block
OS 级审计 src/os_integration/audit.py 写入 journald
OS 级资源管控 memos serve 常驻单写者 + systemd/cgroup v2 限额;本轮 openKylin 联合复验待补
mmap 安全版本化存储 默认 memory.cow 使用 append-only + AES-GCM 逐版本密钥 + tombstone并进入统一遗忘
BPF LSM CO-RE 程序、策略加载器与 append/原子替换探针已实现Ubuntu 仅为 compiled
推理感知记忆调度 src/reasoning/ 维护上下文片段、稳定前缀与 llama.cpp Slot默认遗忘 Saga 已统一调用
openKylin 验证 adapt/kylin_verify.sh 一键检测系统能力与核心测试

openKylin 赛题量化证据

默认快速评测由 eval/eval_all.py 汇总,覆盖赛题要求的偏好提取、知识冲突处理、 敏感信息识别和中英跨语言检索指标:

python3 eval/eval_all.py
python3 eval/eval_baselines.py
python3 eval/eval_reasoning_memory.py
MODEL_PATH=/path/to/model.gguf CASES=100 bash scripts/run_llama_prompt_cache_bench.sh

输出文件:

  • eval/reports/latest.mdMarkdown 测试报告,可直接放入提交文档;
  • eval/reports/latest.json:机器可读报告,包含原始 stdout 与解析后的指标。
  • eval/reports/baselines/latest.mdvector-only / BM25-only / hybrid 消融报告。
  • eval/reports/longmemeval/{vector-full-500-linux-l2,hybrid-full-500-linux-l2}/latest.{json,md}:原始全量 500 题、23,867 个 session 的质量证据Recall@5 分别为 94.2% / 94.8%。
  • eval/reports/longmemeval/full-500-comparison-linux-l2/latest.{json,md}95% Wilson 区间与同题成对 McNemar p=0.607hybrid 高 0.6pp,但未达到显著差异。
  • eval/reports/longmemeval/hybrid-full-500-linux-l2/duplicate-id-robustness.{json,md}:原始数据 13 个完全相同的重复 session ID 及幂等索引处理记录。
  • docs/system-baseline-mem0.mdMemoryOS-OK 与 Mem0 OSS 2.0.14 的同源 60 题成对检索基线;这是 macOS retrieval-only 证据,不替代 openKylin 性能。
  • eval/reports/reasoning/latest.md:推理感知记忆调度报告。
  • eval/reports/llama_prompt_cache/local-macos.md:真实 llama.cpp L1 探索性报告,不用于目标 OS 结论。
  • eval/reports/llama_prompt_cache/linux-cpu.md100 Case / 300 请求的普通 Linux CPU L2 verified 报告;它验证真实缓存与遗忘链路,但不替代 openKylin L3。
  • eval/reports/llama_prompt_cache/linux-cpu-resource.md:去路径化的 L2 CPU/RSS 资源摘要。
  • eval/reports/llama_prompt_cache/openkylin.mdopenKylin 2.0 SP2 L3 verified 报告100 Case / 300 请求Warm Same TTFT P95 31.21msSlot 淘汰成功率 100%。
  • eval/reports/llama_prompt_cache/openkylin-qwen3-0.6b-repeated.md:官方 Qwen3-0.6B Q8_0 三轮、300 Case / 900 请求的 L3 重复性证据。
  • eval/reports/llama_prompt_cache/ablation/openkylin-qwen3-0.6b-ablation-repeated.jsonrandom / priority-only / stable-prefix 三路、三轮 300 Case / 2700 请求的 L3 因果消融;方法见 docs/prompt-cache-ablation.md
  • eval/reports/llama_prompt_cache/ablation/linux-cpu-qwen3-4b-run1.jsonQwen3-4B Q4_K_M 单轮 100 Case / 900 请求的普通 Linux L2 尺度复验Stable TTFT P95 815.21ms,不替代 openKylin L3。
  • adapt/reports/linux-cpu/qwen3-4b-run1-resource.jsonQwen3-4B L2 推理进程资源报告;峰值 RSS 4477.852MiB、无 swap。
  • adapt/reports/openkylin-l3/verification-summary.mdopenKylin KVM 历史 L3/L3-SDK、10 万向量微基准和资源口径的精炼摘要。
  • docs/system-hardening-evidence.md:五项系统闭环、分平台修复结果和目标证据边界。

全量 500 题在 Ubuntu + A40 上运行,仅用于验证检索质量、题型表现和统计稳健性;其中 GPU 查询延迟与 RSS 不作 openKylin 端侧性能证据。当前端侧延迟仍引用独立 CPU 60 题实验 P95 94.561msopenKylin 平台性能引用 L3 微基准,两者均不与全量召回 拼接成同一次端到端测量。

交付前推荐统一跑:

bash scripts/run_competition_checks.sh

提交包生成

python3 scripts/capture_demo_artifacts.py
python3 scripts/render_demo_video.py --competition openkylin
python3 adapt/kylin_evidence.py
python3 scripts/build_submission_bundle.py --competition openkylin
python3 scripts/check_submission_safety.py

输出目录:

build/submission/openkylin/中国科学技术大学-openKylin智能体记忆提取与精准遗忘机制-MemoryOS-OK
build/submission/openkylin/中国科学技术大学-openKylin智能体记忆提取与精准遗忘机制-MemoryOS-OK.tar.gz

目录内会生成 MANIFEST.md,列出完整开源源代码、设计文档、部署手册、测试报告和演示脚本对应文件。

OS 级机制验收命令

python3 eval/eval_all.py
python3 adapt/kylin_evidence.py
python3 scripts/remote_kylin_verify.py --host "$REMOTE_HOST" --user "$REMOTE_USER" --port "$REMOTE_PORT" --identity "$SSH_KEY" --remote-dir "$REMOTE_DIR" --mode ci --bootstrap-venv
python3 -m pytest tests/test_os_audit.py tests/test_sentinel_custom_patterns.py tests/test_mmap_store.py tests/test_eval_secure_erasure.py tests/test_eval_pii.py -v
python3 -m pytest tests/test_memory_service.py tests/test_preference_history.py tests/test_unified_forget.py -v
python3 adapt/verify_bpf_lsm.py --output-dir adapt/reports/bpf-lsm/linux-l2
python3 adapt/verify_target_platform.py --output-dir adapt/reports/target-platform/current
python3 eval/eval_secure_erasure.py
bash -n adapt/kylin_verify.sh
bash adapt/kylin_verify.sh

在 openKylin 环境中额外运行:

mkdir -p ~/.config/systemd/user
cp deploy/systemd/memoryos-ok.service ~/.config/systemd/user/
systemctl --user daemon-reload
systemctl --user enable --now memoryos-ok
MEMOS_REQUIRE_DAEMON=1 memos stats
systemctl --user cat memoryos-ok
journalctl --user -t memoryos-ok --no-pager -n 20
systemctl --user show memoryos-ok -p MemoryMax -p CPUQuota -p IOWeight

unit 运行 memos serve 常驻单写者。正式目标 OS 验收还应包含 health、并发写入、重启 可见性、cgroup 统计和统一遗忘残留,不把配置文件存在单独写成生产证据。

下一阶段亮点

  • 在活动 LSM 含 bpf 的目标内核完成现有 BPF 程序 attach/enforce
  • UKUI D-Bus 桌面联动
  • 更大规模中英跨语言检索数据集
  • 135M 机制、官方 Qwen3-0.6B openKylin L3 重复实验与稳定前缀三路因果消融均已完成Qwen3-4B 已完成普通 Linux L2 单轮复验;通用 Ubuntu x86_64 物理机已完成一小时长稳。下一阶段补 4B openKylin 多轮、长文本、并发 Slot 与目标物理真机
  • 面向 openKylin 社区的技术白皮书与企业 POC 样板