感谢大佬的开源 自部署 hugging face 的免费 api，拉到 newapi 内使用, Qwen2.5 70B 等免费 - 开发调优 - LINUX DO 顺手打包了镜像需要的可以看看 docker pull oozzbb/hg2api:latest   运行命令可参考 HUGGINGFACE_API_KEY ，去hugging face申请 API_KEY ，对接one-api/new-api使用 docker run --name hg2api --restart always -p 5023…

前言 写这篇文章本来只是想简单记录一下我购买并部署好人生中第一个属于自己的域名、服务器的过程，表达一下喜悦。 写着写着突然想到：或许不少朋友也会和我一样，在部署时遇到这些奇奇怪怪的问题、踩各种各样的坑，因此，我决定写得详细一点、再详细一点，使其真正成为一个对纯小白友好的教程（或许是全网独一份？）虽然我也是小白 如果你认真看完并实践的话，也能拥有属于自己的服务器和 New API、Open WebUI，甚至更多！ 预算 我们至少心里对预算有个数再往下看，这样也不耽误你时间，对吧？ 本教程中所使用的除了 Cloudfl…

在当今科技界, 关于人工智能是否被过度炒作的争论从未停息。然而, 很少有像谷歌 DeepMind 的安全研究专家和机器学习科学家 Nicholas Carlini 这样的专家，用亲身经历为我们提供了一个独特的视角。通过他的文章, 我们看到了大型语言模型 (LLM) 在实际应用中的强大能力和多样性。这些并非空洞的营销宣传, 而是切实可以改变工作方式、提高生产效率、激发创意的工具。 最近, Carlini 本人亲自撰写了一篇长达万字的文章, 详细介绍了他如何在日常生活和工作中使用 AI。这篇洞察力十足的文章不仅展示了 …

# 引言 在构建信息检索和生成式 AI 应用时，Retrieval-Augmented Generation (RAG) 模型凭借其能够从知识库中检索相关信息并生成准确答案的强大能力，受到越来越多开发者的青睐。然而，实现端到端的本地 RAG 服务，需求的不只是合适的模型，还需要集成强大的用户界面和高效的推理框架。 在构建本地 RAG 服务时，利用易于部署的 Docker 方式，可以极大简化模型管理和服务集成。这里我们依赖 Open WebUI 提供的用户界面与模型推理服务，再通过 Ollama 来引入 bge-m3…

我将通过一个系列分享，手把手的教大家打造一个完全本地化的，免费的，企业级知识库问答系统 本地大模型回答演示图 知识库导入演示图 我认为本地化主要有2方面的意义： 1. 安全性 当使用外部模型或服务时，我们的私有数据，用户问题，都会被发送给第三方 那我们就要面临私有数据暴露给别人的风险，甚至会导致数据泄露 本地化会让我们的数据就更安全 2. 灵活性 另外随着我们的业务发展，如果模型不能很好的满足我们需求的时候 我们可以很方便的对本地模型其进行微调 以达到更好的适配 这样就既兼顾了安全，又兼顾了灵活性 应用场景 知识库…