Foreman 是一个自托管的大型语言模型(LLM)网关,专注于成本感知的模型路由。它允许用户根据成本、性能等指标智能地将请求分发到不同的LLM后端,从而优化资源使用和降低运营成本。该项目位于 GitHub 上,采用开源方式发布。
#self-hosted
30 条相关内容
这是一款自托管的 SOAP 与 REST 双向转换网关,能够自动检测 SOAP 与 REST 接口之间的契约漂移(Contract Drift)。它可以帮助开发团队在微服务架构中无缝集成遗留的 SOAP 服务与现代 REST API,同时通过持续监控接口定义变化来确保集成契约的一致性。
CorvinOS 是一款自主托管的智能操作系统,在设计层面即强制遵守将于2026年生效的欧盟《人工智能法案》。该系统面向开发者与隐私敏感用户,提供本地化 AI 代理运行环境,确保数据处理与决策过程符合欧盟合规要求。通过内置的治理机制,CorvinOS 在提供自主智能能力的同时,保障用户对系统的完全控制权。
作者为Netgear Stora MS2000(仅128MB内存)打造了一款轻量级NAS控制面板Mini-Bucket,替代无法运行的OpenMediaVault等现代面板。非程序员出身,仅用PHP 7.0 + SQLite,无框架无Docker,一个月内完成了仪表盘、防火墙、双栏文件管理器、Web控制台、RAID、LVM、SMART、FTP、Rsync等20多个页面及插件系统。已在树莓派1(256MB)和Debian 9旧笔记本上验证。早期Beta版曾因临时文件存放在webroot下和单SQLite锁库存在安全隐患,v3.6.2/v3.6.4已修复。
WyrmRSS 是一款自托管的 RSS 阅读器,其特色是支持内嵌 YouTube 视频,并内置过滤功能以去除 Shorts 和直播内容。此外,它还集成了 Webhook 通知功能。作者出于学习目的构建了该项目,目前仍在开发中,部分重要功能尚未完成(详见 README)。后端代码主要为手工编写,前端则较多借助了 LLM 辅助。
Auto Learning Agents 是一个自托管的 AI 代理平台,基于 Elixir/OTP 构建,支持自动学习与任务执行。该平台允许用户自主部署和管理 AI 代理,适用于需要隐私保护和高度定制化的自动化场景。项目在 GitHub 上开源,提供了详细的入门指南。用户可以通过 Docker 或直接从源代码部署,快速启动自己的 AI 代理实例。
WyrmRSS 是一款开源自托管 RSS 阅读与聚合工具,支持将多个订阅源整合至统一界面,便于用户集中管理和阅读各类信息流。项目托管在 GitHub,为用户提供隐私可控的个性化阅读体验。
该项目展示了如何在一台仅有2GB内存的VPS(虚拟专用服务器)上自托管Supabase Studio(开源的后端即服务平台)以及Vercel(前端部署平台)的替代方案。通过合理配置和优化,用户可以在资源受限的廉价服务器上运行完整的后端数据库服务和前端应用部署环境,实现低成本的自托管方案。
Matrix 是一款面向云计算机(VPS)的操作系统,提供从网页、移动端、桌面端和命令行均可访问的可视化用户界面。项目始于 Anthropic 黑客马拉松并入围前 20 强,开发者自身也在使用 Matrix 运行所有编码智能体和定时任务。近日发布了自托管版本,用户可选择自部署或托管服务(仅需为所选计算资源付费),也可用于运行 openclaw/hermes 等应用。
OtaKit 是一款开源、可自托管的无线(OTA)更新解决方案,专为 Capacitor 应用设计。它让开发者能够绕过应用商店审核流程,直接向用户推送即时更新,同时完全掌控自己的更新服务器和用户数据。项目提供完整的 API 和 Web 管理界面,简化了更新发布与管理流程。
本文在 Hacker News 上发起讨论,询问各组织在内部运行本地大语言模型(LLM)的经验。问题涵盖了硬件配置、模型选择、资源管理、访问控制与使用管理等方面。发起者还希望了解有哪些值得关注的问题和有趣的经验分享。
Forgejo Appliance 是一套基于 OrbStack 和 Tailscale 构建的私有 Git 服务器解决方案,旨在为用户提供便捷、安全的代码托管环境。它利用 OrbStack 的轻量级虚拟化能力与 Tailscale 的零信任网络,实现快速部署和安全访问。该项目在 GitHub 上开源,适合需要自托管 Git 服务的开发者和团队。
OpenCan 是一款基于 AGPL-3.0 协议的开源软件,可作为 Canny 的自托管替代方案。它帮助产品团队收集、整理并优先处理用户反馈,支持功能请求投票、看板式路线图以及自定义反馈面板,所有数据完全由用户掌控。
这是一个自托管的 Slack 机器人,允许用户在 Slack 聊天中通过提及(@mention)的方式调用 Claude AI 助手。项目托管在 GitHub 上,支持自部署,让团队可以在不依赖外部服务的情况下安全地使用 Claude 进行对话和协助。
作者分享了在12个SaaS项目中,用自建邮件服务替代Resend等第三方邮件API的实践经历。该自建服务基于Mailwain构建,提供了更低的成本、更高的发送量控制,并减少了对外部依赖。文章详细介绍了迁移过程、成本对比以及自建邮件服务的优势与挑战。
CorvinOS 是一款自托管的智能操作系统,从根本上将欧盟 AI 法案和 GDPR 合规性融入设计之中。该系统旨在为 AI 代理提供安全、合规的运行环境,特别适合需要满足欧洲数据保护法规的企业和开发者使用。
作者分享了自己开发的一款服务器监控工具,灵感来自看门人(Watchman)的概念。该工具能够实时监测服务器运行状态、资源使用情况,并在出现异常时及时发出警报,帮助运维人员快速响应问题。文章详细介绍了从需求分析、技术选型到开发实现的全过程,展示了如何用代码为自己的服务器群构建一个可靠的安全守卫。
Osiris JSON 是一个开源工具,能够为私有基础设施生成详细快照,无需依赖人工智能或软件即服务(SaaS)。它通过扫描网络、存储和计算资源,以JSON格式输出结构化数据,帮助运维人员快速了解系统状态。该工具强调隐私和数据自主权,所有处理均在本地完成。
Commonplace 是一个自托管的开源工具,为AI代理提供分级隐私的记忆存储。它允许用户在不同隐私层级下管理和持久化AI代理的记忆数据,确保敏感信息得到保护,同时保持代理在交互中的上下文连续性。
Holos Social 是一款自托管的 Fediverse(联邦宇宙)客户端,允许用户在不依赖第三方服务的情况下,自主管理和浏览去中心化社交网络内容。该应用强调隐私控制和自主权,适合希望完全掌控自己社交数据与交互体验的用户。
Pacific Slate 是一款开源自托管的多智能体AI助手,支持多种大语言模型(LLM),无需绑定特定供应商。它允许用户在同一平台内管理和协调多个AI代理,实现任务自动化与智能对话,同时完全掌控数据和隐私。
本文介绍了如何将任何自托管的 WordPress 网站与人工智能系统连接,通过简单的设置步骤实现网站数据与 AI 的无缝集成,从而提升网站管理效率和内容自动化能力。
Tesserae 是一个自托管的 HTML 微件系统,通过 Playwright 进行无头抓取,经面板特定渲染器进行抖动处理和合成,再通过 REST 或 MQTT 发布到客户端。它支持多种电子纸硬件(包括 Pimoroni Inky Impression、Waveshare 面板、Seeed reTerminal 和 TRMNL 设备以及越狱 Kindle),所有组件(微件、渲染器和设备类型)均采用插件式文件夹结构。服务器内置轮换系统,可将仪表盘发布到所有设备,无需云账户。项目采用 AGPL-3.0-or-later 许可,提供 Windows/Linux/macOS 安装脚本,并支持 Home Assistant、Docker 和 cloud-init 部署。
继之前在M1 Max上运行桌面应用后,作者这次使用搭载NVIDIA RTX 4090(24GB显存)的Docker自托管版本,在24小时内完成了37小时视频的索引处理。内容包括长篇播客、编程教程、屏幕录制及GoPro户外拍摄等复杂场景。相比M1 Max,NVIDIA处理速度明显更快——最长一段3小时12分的直播视频仅用1小时52分完成索引(分析4612帧)。
TinyOps是一个开源的、自托管的平台即服务(PaaS)操作系统,旨在让开发者像使用Heroku或Vercel等云平台一样轻松部署和运行应用,但完全掌控在自己的基础设施上。它提供了简洁的应用管理、自动部署和扩展能力,适用于追求低成本与高控制权的团队或个人开发者。
Instatic 是一个现代化的自托管可视化 CMS(内容管理系统),旨在为用户提供直观的界面来管理和发布内容。与传统的 CMS 不同,Instatic 更注重可视化和易用性,同时保持自托管的自主性和隐私控制。它适合希望拥有完全掌控权的网站所有者、开发者和创作者,帮助他们更高效地构建和管理网站内容。
FriendNet 是一款可自行托管、开源的轻量级文件共享工具,专为朋友之间安全、便捷地分享文件而设计。支持自建服务器,确保数据隐私与完全控制权,无需依赖第三方云服务。
搭建自托管云
2.0本文详细介绍如何从零开始构建一套自托管的云基础设施,涵盖硬件选型、操作系统配置、Docker部署、网络存储与备份策略等关键环节。作者分享了在家庭或小型办公室环境下,利用开源工具实现私有云服务的方法与经验,帮助读者摆脱对商业云服务的依赖,实现对数据的完全自主控制。
Katra 是一个面向 AI 代理的自托管认知记忆系统,支持 MCP(模型上下文协议)。它让 AI 代理能够持久化存储、检索和共享跨会话的记忆信息,从而提升智能体的连贯性和个性化交互能力。项目已在 GitHub 上开源。
Klorn 是一款开源的、可自主部署的电子邮件防火墙,旨在保护收件箱免受垃圾邮件、钓鱼攻击和恶意邮件的侵扰。与市面上大多数依赖AI助手功能的方案不同,Klorn 专注于纯粹的邮件安全过滤,让用户拥有对邮件安全的完全控制权。