我的AI小助手:RAG 本地测试记录(updating...)
A former Web2 Expert in the E-commerce and SAAS industry. Skilled in Software Engineering and Team building. Also, I am a Hacker and Fullstack Engnieer. Now I am focusing on Web3, DeSoc, to be a Builder for the future! More can be seen on my Github.
预期:
数据: 本地个人计划和隐私、正常论文相关的科研、业界跟踪和研究分析,三大类都存储在本地,不要流出个人电脑。
初步的7B模型(本人MiniMac的上限)进行大体分析。
可以使用外部deepseek和grok,claude等外部API,但沟通内容是隔离和脱敏的,最简单就是7B分析的结论,进行隐私脱敏(自行设定脱敏规则)和单独目录存储(独立知识库),这个动作是离线断网进行。
然后针对沟通外部的独立知识库,可以充分利用外部大模型能力。
个人计划是使用雷电连接mac book和mac mini,mini不联网,只进行个人知识库存储和本地模型运算;而mac book是读取mac mini的输出脱敏目录,然后联网进行科研和分析。
等淘宝到货
场景:
规划:对个人隐私相关的思考和规划的建议,一些计算和分析,例如减肥计划,财务数据分析,投资规划等
研究:个人研究主题的文章和研究的积累和整理,以及博士论文的持续写作,典型的就是读paper和EIP,写研究分析,写代码,写论文
创新:业界产品和新技术的学习,积累,思考,想法和探索,包括一些产品设计和异想天开的想法,以及一些工程开发和产品设计,包括社区的运营等。
测试:
RAG test 两个:
Cherry+Deepseek API(only for open research)
FastRAG+Gema?3 small(local)
DeepResearch try 两个:
Open Deep Research
Grok+??
其他工具
LM Studio
Gemma3(1B,1B, 4B, 12B??,)
Memary
Open deep research测试,这个是深入研究和系统分析的核心工具