Skip to main content

Command Palette

Search for a command to run...

我的AI小助手:RAG 本地测试记录(updating...)

Updated
1 min read
H

A former Web2 Expert in the E-commerce and SAAS industry. Skilled in Software Engineering and Team building. Also, I am a Hacker and Fullstack Engnieer. Now I am focusing on Web3, DeSoc, to be a Builder for the future! More can be seen on my Github.

预期:

  1. 数据: 本地个人计划和隐私、正常论文相关的科研、业界跟踪和研究分析,三大类都存储在本地,不要流出个人电脑。

  2. 初步的7B模型(本人MiniMac的上限)进行大体分析。

  3. 可以使用外部deepseek和grok,claude等外部API,但沟通内容是隔离和脱敏的,最简单就是7B分析的结论,进行隐私脱敏(自行设定脱敏规则)和单独目录存储(独立知识库),这个动作是离线断网进行。

  4. 然后针对沟通外部的独立知识库,可以充分利用外部大模型能力。

  5. 个人计划是使用雷电连接mac book和mac mini,mini不联网,只进行个人知识库存储和本地模型运算;而mac book是读取mac mini的输出脱敏目录,然后联网进行科研和分析。

  6. 等淘宝到货

场景:

  1. 规划:对个人隐私相关的思考和规划的建议,一些计算和分析,例如减肥计划,财务数据分析,投资规划等

  2. 研究:个人研究主题的文章和研究的积累和整理,以及博士论文的持续写作,典型的就是读paper和EIP,写研究分析,写代码,写论文

  3. 创新:业界产品和新技术的学习,积累,思考,想法和探索,包括一些产品设计和异想天开的想法,以及一些工程开发和产品设计,包括社区的运营等。

测试:

  1. RAG test 两个:

    1. Cherry+Deepseek API(only for open research)

    2. FastRAG+Gema?3 small(local)

  2. DeepResearch try 两个:

    1. Open Deep Research

    2. Grok+??

  3. 其他工具

    1. LM Studio

    2. Gemma3(1B,1B, 4B, 12B??,)

    3. Memary

  4. Open deep research测试,这个是深入研究和系统分析的核心工具

More from this blog

让你的私钥随时更换,可以四处旅行

是的基于社交恢复和社区运行的TEE KMS,普通个体的私钥可以依赖多层安全机制:passkey+Email+社区KMS(硬件安全)+AA多签(可适配多种签名机制,增加抗量子签名模块)。听起来非常棒!是人类数字未来中需要的东西。下面是我的一个研究项目,进行中,有经验的大牛可以指点一下(嵌入式和硬件钱包开发、TEE、抗量子等等)。 STM32MP157F-DK2 Development Project STM32MP157F-DK2 开发项目 🇬🇧 Jump to English Vers...

Jan 25, 20263 min read

人性之光-以自由之名

以自由之名 v0.1.5 有点怪怪的标题,原谅理工男的简单和直接。 先分享一点感触和认知:某个角度看,人性是想象力、创造力和情感,是人类独有的特质。 人性是区别于AI和机器人,以及其他生命和造物的独有内核。人性是一种对自由的追求:发挥你的想象力、创造力,拥有自己的情感,是人存在的一种方式,这种方式,称为自由。 作为普通个体,想在人类社会拥有自由,除去国家和法律赋予的基础保障和基本权利之外,哈耶克有个观点是时间、空间和选择的范围,是自由的基础保障;而福柯则反向给出了规训的方式:时间空间和力量(并非...

Jan 25, 20261 min read

How to play with AI vibe coding?

我们要和 AI 沟通,要总结几个经验,供大家参考(血泪教学,迭代无数次): 三个重点 重设计、三层文档体系、渐进式开发。 第一点 最重要就是设计一定要占据你开发时间的一半以上,包括研究,包括和 AI 的交互讨论,包括提取一些专题,然后跟其他的 AI 交流生成深度的报告,包括自己阅读相关的报告和分析,以及一些范例的 repository。 第二点 要完整的文档体系,不管哪一种,都要跟随文档体系来去不断地迭代你的和 AI 交互的过程;我现在使用的是,嗯,三层的文档管理体系。第一层呢是backlog...

Aug 17, 20252 min read

It is Fun for me.

jFlow: from research to production 创新之路:最有趣的探索之路。 创新之路 Road of Exploration Research Input=Idea:描述你的 idea,进行严谨的论证过程,逻辑结构类似于缩小版本的 SCI 论文。通过分析论证,得出结论,是真正有价值创新。 output=Solution:定义你的产品,包括产品定位、目标用户、核心功能、商业模式,让团队、社区、早期投资者、用户、合作伙伴等,都快速了解你的产品的价值所在。 Devel...

Aug 12, 20251 min read

jLab

69 posts

It is my Lab for curiosity!