自建类似ChatGPT的一体化AI工作台,数据本地掌控超自由

admin 商品展示 31

https://github.com/pewdiepie-archdaemon/odysseus)

自建类似ChatGPT的一体化AI工作台,数据本地掌控超自由-第1张图片-开云手机入口官网下载-开云app官方最新下载--V3.6.9

奥狄修斯项目主要界面对应屏幕截图, 其来源为代码托管平台GitHub的仓库。

它到底是个什么东西

简而言之, Odysseus, 为一套自托管的一体化AI工作台, 当在自有电脑、NAS 抑或服务器上去运行Docker 环境, 开启Web浏览器之时候, 便能获取到, 一个就界面逻辑和GPT差距甚浅的对话窗口的呈现形势却背后所有均在自, 有硬件上予以运行的状态, 留存于本地的数据, 可随心所欲地进行模型, 更替, 既打算联结Ollama来运行本地模型是可行的, 亦能够联接OpenAI, 的API来达成, 甚而至于两者混合使用亦无不可。基础层面借助FastAPI以及Python来搭建, 采用ChromaDB进行向量存储, 运用SearXNG开展元搜索, 通过Docker Compose实现一键部署。其技术栈并非过于绚丽, 然而好在坚实可靠。

项目运用AGPL-3.0许可证, 任何人都能够查看源码, 能够进行修改, 能够予以分发。这般开放程度, 与那些将API密钥、用户数据全部锁在自身服务器上的大厂构成了鲜明对照。仓库简介以一句话就把野心表明: 给予人们一种更趋近GPT或Claude的体验, 然而运行在你自己手中。还补充说了一句: 「but with more jank and fun」——尽管或许有点粗糙, 可是好玩。这种坦诚反倒使人好感大幅增加。

以技术架构来瞧, Odysseus运用分层模块化构思策划, 借由Docker Compose进行容器化包裹, 具备对Windows、Mac、Linux、NAS全平台开展布置的能力。于模型方面构建起统一调度当中的平台, 对Ollama、llama.cpp、vLLM、OpenRouter、OpenAI等主流接口予以兼容。其智能能力依靠轻量化Agent框架以及ChromaDB向量数据库得以达成, 能够自主完成联网检索、文档解析还有信息归纳。需要留意的是, 该项目接入了GitHub Copilot的模型接口, 要是你有Copilot订阅的话, 也能够直接在Odysseus当中得以使用。这种「本地模型与云端API混合运用」的灵活性, 是当前同类项目里做得最为妥当的。

这个称作硬件在项目里被内置且具备自适应的运算方法, 系统凭借这个可以自行辨别与解析有关计算机的性能, 进而找到适宜的模型, 来保障普通设备能够不受干扰地稳定工作并正常运行。默认设置是全部后台关于数据情报的上报以及硬件相关资讯内容汇聚与解析过程被禁止激活, 达到凭借基础体系与构建方式来避免信息泄密成为麻烦与风险。有关应用的软件, Docker Compose以起初设置的状态开启了四个容器运作状态处在开启的是Odysseus和ChromaDB以及SearXNG和ntfy,它们各自负责主要应用和向量存储以及元数据搜索还有消息传递, 各自做好各自所需要做的事情不互相掺和。整个项目, 代码, 完全地透明, 不存在任何的埋点或者遥测现象, 这于当前的AI产品里面, 实在是属于罕见的情况。

一个界面开云app官方最新下载,九种能力

有着极其简单的缘由致使相当多的人舍弃本地 AI: 其一在于仅能够用于聊天, 其二在于需要安装七八个工具进行拼凑方可使用, 其学习成本高昂, 体验存在割裂感。Odysseus最为突出的亮点, 乃是将碎片化的AI能力全都整合于一个页面之中——涵盖从日常聊天、通过自动化来开展工作, 一直到办公事务处理、学术方面的调研、模型测评等, 所有这些均在一个界面达成。它还对PWA渐进式Web应用予以支持, 借助手机浏览器打开便能够使用。我们挑选几个极其值得讲述的功能将其拆解开来予以查看:

Cookbook——你的硬件开云真人app,开云真人app地址,它帮你挑模型

这属于 Odysseus 那极其令人惊喜的功能, 点开 Cookbook, 它会率先扫描你的硬件, 即 GPU 型号、显存大小以及内存容量, 而后自动给你推荐这台机器能够运行的模型, 每个模型旁边存在一个适配度评分也就是 fit score, 显存是否足够、推理速度预估都标记得清清楚楚明明白白, 点击一下, 模型会自动进行下载并予以部署, 它支持 GGUF、FP8、AWQ 等多种量化格式, 不管是低配还是高配都能够找寻到最优解。对于普通用户而言, 这表明其实你并不需要去搞懂“量化位数”, 以及“上下文窗口”, 还有“张量并行”这些专门术语, 只需轻轻点一下就能够运行起来。此项目还给出了GPU透传的这一诊断脚本, 它会自动去检测Docker是不是能够调用GPU, 而AMD用户同样有着与之对应的ROCm相关支持脚本。该脚本在设计方面是慎之又慎的——仅仅是做诊断工作, 并不会自动去更改你的系统配置。

自建类似ChatGPT的一体化AI工作台,数据本地掌控超自由-第2张图片-开云手机入口官网下载-开云app官方最新下载--V3.6.9

奥狄修斯进行聊天跟主体界面演示, 其来源是代码托管平台仓库。

盲测对比——选模型,自己测了才知道

选两个模型, 问相同的问题, 答案不会告知你哪一个是哪一个。等你选出“ A 更好”或者“ B 更好”之后, 才会揭晓答案。这个功能尽管小, 但是极其实用——免除了你在心理层面偏向某个模型从而致使的不客观。DeepSeek 和 Llama 究竟谁更强呢? 不用去看评测文章, 自己进行一轮盲测就能够知晓了。

自建类似ChatGPT的一体化AI工作台,数据本地掌控超自由-第3张图片-开云手机入口官网下载-开云app官方最新下载--V3.6.9

对比界面为 Odysseus 模型用于盲测的那般模样, 其来源乃是 GitHub 仓库哟。

Deep Research——本地版的深度研究

向 GPT 的 Deep Research 功能看齐, 然而可在本地运行。你给出一个话题, 它会自行前往网上搜寻资料, 阅读网页内容, 提炼其中要点, 最终生成一份带有引用来源的结构化报告。质量与 GPT 的 Deep Research 不相上下, 不过完全无需花费一分钱, 数据自始至终都不会离开本机。其底层是依据阿里通义的 DeepResearch 开源方案改版而成, 对于那些有行业调研、竞品分析、文献综述需求的用户来讲, 此功能等同于节省了一份 GPT Pro 的月费用。生成的报告支持可视化图表展示开云app官方入口网站,阅读体验比纯文本好得多。

自建类似ChatGPT的一体化AI工作台,数据本地掌控超自由-第4张图片-开云手机入口官网下载-开云app官方最新下载--V3.6.9

奥德修斯深度研究报告形成, 源头是GitHub仓库产生 |。

Agent——让它自己干活

Odysseus设置有自主Agent模块, 该模块凭借opencode框架搭建, 针对MCP协议予以支持, 实现网页访问功能, 赋予文件读写能力, 达成Shell执行操作, 启动技能调用程序并设置记忆系统。在你给予它「搜集竞品最新动态并整理成报告」这般目标时, 它能够自行联网展开搜索, 读取相关网页, 归集所需信息, 随后得出最终结果。你只需将任务交付于它, 无需逐一对其进行指挥, 它便会自主从头到尾完成整个流程。再联合内置的定时任务系统时, Agente竟然能够于指定时间自行开展执行操作。

记忆系统——越用越懂你

之前你与Odysseus的对话内容以及偏好它是会记住的。譬如有了你对它说的诸如「我正在开展React项目, 并未喜好使用Redux, 较为偏好Tailwind CSS」这类话语, 下一次当指令它编写组件的时候, 它会自动给予你Tailwind版本的代码。其底层运用的是ChromaDB向量存储手段, 它对支持关键词连同语义这两种检索方式, 而且记忆能够进行导出以及导入操作。随着你使用年限的不断推进, 你的AI助手会愈发明白你的习惯, 进而塑造出个性化的私有知识库。这种有着「越用越聪明」之感的体验, 与那些云端工具存在本质区别, 那些云端工具每次对话之际都得重新去交代上下文呢。

智能邮箱与日历

接入 IMAP 邮箱之后, 它能够自动针对每一封新邮件给出评分(紧急、普通、垃圾这几种类别), 针对长邮件生发出一句话的摘要, 针对常见问题生成回复的草稿。日历支持 CalDAV 协议, 能够同步至 Radicale、Nextcloud、苹果日历以及 Fastmail。这些功能单独拎出来每一个都算不上令人感到惊艳, 然而整合于一个界面之中, 而且数据全部在本地留存, 体验就全然不一样了。你用不着于GPT、Notion、Todoist以及Google Calendar这些之间反复地来回进行切换操作, 仅一个名叫Odysseus的便能将一切全都处理妥当, 并且所有的数据均储存于你自身的硬盘之上。

自建类似ChatGPT的一体化AI工作台,数据本地掌控超自由-第5张图片-开云手机入口官网下载-开云app官方最新下载--V3.6.9

奥德修斯文档编辑器界面, 其来源是GitHub仓库。

具备的这些所有功能, 是不须依赖云端的, 是不会上传数据的, 是运行于你自身的机器之上的, 但这项目的核心理念却是Local - First, 是默认将所有数据上报予以关闭的, 是不存在后台偷偷进行采集这种情况的, 甚至就连Docker容器, 其设置默认情况下都仅仅绑定127.0.0.1, 是不会暴露至局域网或者公网当中的, 除非你主动去进行配置。

部署有多简单

奥德修斯将繁杂的技术全都封装妥善, 留给使用者的唯有极简的操作, 全程通过Docker自动化来部署, Windows、Mac、Linux、NAS均可兼容, 四行命令就能搞定:

自建类似ChatGPT的一体化AI工作台,数据本地掌控超自由-第6张图片-开云手机入口官网下载-开云app官方最新下载--V3.6.9

在部署完成之后, 通过浏览器访问 http://localhost:7000 , 如此便能够进入操作台。在首次启动之时, 会自动创建管理员账号, 并且会在终端打印临时密码。在此之后, 在 Cookbook 模块当中, 依据硬件情况自动匹配模型, 只需一键启用便可以了。要是需要 PDF 查看以及 Office 文档解析等额外功能, 在构建的时候加上 --build-arg INSTALL_OPTIONAL=true 就能够达成。

要是你身为 Mac 用户(Apple Silicon的那种), Docker没办法去调用Metal GPU, 此项目给出了原生启动脚本 ./start - macos.sh去直接借助本机GPU搞模型运行, 居然还有一个./build - macos - app.sh脚本, 能打包成为一个可点击操作的 macOS应用, 该项目还在内部设置了完整的 2FA双因素认证, 哪怕你把服务暴露在外网去访问, 其安全性也可以得到保障。PWA 支持让它在手机上也能流畅运行。

一周六万星,到底在兴奋什么

奥德修斯的火爆, 当然有着受制于皮尤迪皮创作的这个IP名人效应的助力——由一个坐拥超过达 1 亿粉丝与之关联的博主所涉及工程项目, 其流量必然不会少。然而评论专区里的热烈情绪, 却更像是一次集合众人一致宣告诺言的行为。当前之际的AI工具市场范围之内, 占据主流地位的产品差不多全部情况都是采用订阅这种制度形式: GPT Plus每一个月收费是20美元, Claude Pro同样为20美元, GitHub Copilot收费是10美元, Midjourney收费是30美元, Perplexity Pro收费是20美元……这些费用全部增添汇总起来每个月轻轻松松就能够达到上百美元价值, 一年下来那就是达到上千美元额度。更加让人内心产生不安情绪的情况是, 你所拥有的聊天记录内容, 你所进行上传操作的文档信息, 你所撰写书写出来的代码内容, 全部都是存储在其他人所拥有的服务器之上。服务商能够随时去更改价格, 能够随时去更改功能, 甚至能够把你的数据拿去用于训练模型, 然而你根本没有任何办法。这种出现的所谓「租用式AI」的不可控感觉, 正是Odysseus能够引发如此大的共鸣的深层缘由。

在技术社区之中, 这种关于「租用式 AI」的焦虑已然酝酿了很长一段时间。在2026年年初的时候, 多个桌面 Agent 项目接连变得爆火。每一个项目都尝试着去回答同一个问题: AI 的能力究竟可不可以不依靠云端呢? Odysseus 所给出的答案是最为完整的其中一个。它并非仅仅只是一个对话机器人, 而是一个完全完整的本地 AI 工作空间。聊天、研究、写作、邮件、日历、笔记, 所有这些全部都在本地闭环完成。

它即刻宣告了一整套全然相反的路径举措, 具体为工作区运行于自身的硬件之上, 数据由自身进行管理掌控。它并非必定能够将GPT的所有能力予以取代, 毕竟处于云端当中存在着数量巨大的GPU以及超大的上下文窗口, 本地配置的硬件在短时间之内是无法企及追赶得上的。然而它把「所有权」再度放置到AI对话的核心位置——这才是其真正能够打动人心的侧重点所在之处。当那些巨头企业把AI包装成为层面越来越繁多的订阅套餐之际, 一位游戏主播(至少账号名称所指向的是他)借助开源项目提示了一件关键之事: 算力的确可以进行租赁获取, 但是控制权是不应当予以让渡出去的。

当然了, 自托管向来绝对不会是那种一键就能轻轻松松达成丝滑效果的消费级体验。要自己照料维护相对应环境, 去将模型予以管理, 为解决相关的兼容性问题而努力, 这些内容对准非技术用户来说依旧存在着一定门槛的。但是, Odysseus的呈现, 起码使得「拥有自身的AI」这样一件事情, 距离普通大众又靠近了那么一小步。要是你恰巧有着一台处于闲置状态的电脑或者NAS的话, 花费一个下午的时间把它运行起来, 所收获到的极有可能是一个完完全全属于你自己的AI助手——无需去缴纳月费, 不用去看厂商做出难看的脸色, 数据始终都是属于你的。

这个项目还映射出一个更为盛大的趋向, 即: AI正从「服务」朝向「工具」进行回归 的这一趋向。当你能够在本地运行一个云端体验与之不相上下的AI工作台时, 当你的数据无需再上传至他人的服务器方可获取智能能力时, 整个AI产业的权力架构就极有可能被加以重塑。Odysseus不会是最后一个实施这般作为的项目, 然而它或许是最为响亮的一个讯号。(本文首发钛媒体APP, 作者 | 硅谷Tech_news, 编辑 | 焦燕)

标签: AI工作台 本地部署 开源项目 数据掌控 Agent框架

发布评论 0条评论)

还木有评论哦,快来抢沙发吧~