摘要: 2025年3月14日,通过科技日报的报道知道了这个量子计算领域的重大突破 —— 全球首个量子网络操作系统 QNodeOS 问世。欧洲的量子互联网联盟(QIA)的研究人员2025年3月12日在《自然》(Nature)杂志上发表了论文 An operating system for executing applications on quantum network nodes 阅读全文
posted @ 2025-03-15 19:23 dudu 阅读(35) 评论(2) 推荐(0) 编辑
摘要: 在前一篇博文中记录了 k8s 集群上部署 ollama + deepseek-r1:7b,这篇博文记录一下 Open WebUI 的部署。还是用 helm 部署,添加 open-webui 的 helm repo,准备 helm 清单文件,通过 helm 命令在 ai 命名空间下进行部署 阅读全文
posted @ 2025-02-22 12:41 dudu 阅读(150) 评论(2) 推荐(0) 编辑
摘要: 在前一篇流水账博文中已经记录过 k8s 集群上部署 ollama,在这篇博文中重新整理记录一下。准备 GPU 节点服务器,这里准备的是阿里云共享型 GPU 实例 sgn7i,8核31G,4G显存。操作系统用的是 Ubuntu 20.04,容器环境用的是 containerd,没有使用 docker,主机名是 kube-gpu-8c31g 阅读全文
posted @ 2025-02-20 17:41 dudu 阅读(258) 评论(0) 推荐(0) 编辑
摘要: 在前一篇博文中尝试了使用阿里云 GPU 实例 ECS 单机部署了 DeekSeek-R1 7b 模型 。这篇博文记录一下在 k8s 集群上用阿里云 GPU 实例部署 DeekSeek R1 大模型的尝试过程,部署的也是 deepseek-r1:7b 模型。 先准备一台阿里云 GPU 实例,选用了共享型 GPU 实例 sgn7i,8核31G,4G显存。 阅读全文
posted @ 2025-02-15 23:17 dudu 阅读(365) 评论(2) 推荐(2) 编辑
摘要: 这篇博文记录一下使用阿里云 ECS 基于 Ollama + Open WebUI 部署 DeepSeek R1 模型的过程,部署的是 deepseek-r1 7b 模型。选用的是阿里云 GPU 计算型 T4 加速型 ECS ,实例规格:ecs.gn6i-c8g1.2xlarge,CPU&内存:8核31G,GPU:NVIDIA T4,GPU显存:16G,操作系统:Ubuntu 24.04。 阅读全文
posted @ 2025-02-12 23:14 dudu 阅读(605) 评论(1) 推荐(0) 编辑
摘要: 记录一下用阿里云计算巢部署 DeepSeek-R1 的经过。进入阿里云计算巢控制台的服务目录,选择 DeepSeek 社区版,点击「开始部署」,选择最便宜的 ECS 实例 GRID 虚拟化4核30G,费用是 ¥1.748/小时。点击「立即创建」,然后控制台会显示正在部署的状态。部署完成后,控制台会显示公网访问地址 阅读全文
posted @ 2025-02-08 18:48 dudu 阅读(139) 评论(0) 推荐(0) 编辑
摘要: 这是园子博客后台从 angular 15 升级到 angular 19 后遇到的一个问题。博客后台「随笔 」的侧边栏会显示随笔的分类列表 ,通过这个列表的上下文菜单可以修改分类名称,升级后测试时发现一个问题,修改分类名称后分类列表没有随之更新 阅读全文
posted @ 2025-01-19 06:05 dudu 阅读(24) 评论(0) 推荐(0) 编辑
摘要: 最近在将园子博客后台的前端框架从 angular 15 升级至 angular 19,这边博文记录的是迁移至 Standalone Component 的过程。之前尝试使用 angular 19 提供的迁移命令自动迁移,但迁移失败,改为手动迁移,记录一下迁移过程。 阅读全文
posted @ 2025-01-09 09:46 dudu 阅读(50) 评论(0) 推荐(0) 编辑
摘要: 记录一下学习使用 ChildContent 的试验代码,用的是 Angular 19,AppComponent 是 parent component, SidebarComponent 是 child component,SidebarBlogCategoriesComponent 是 projected component,代码1:使用 ng-content 在 child component 中显示 projected component 的内容 阅读全文
posted @ 2025-01-08 11:29 dudu 阅读(14) 评论(0) 推荐(0) 编辑
摘要: 最近在将园子的博客后台从 angular 15 升级至 angular 19,升级基本完成后发现 eslint 不能正常工作。vscode output panel 出现了 eslint 的警告与报错,网上搜了一下才知道,在升级 angular 19 的过程中更新 npm 包时将 eslint 从 8 升级到了 9,问题是 eslint 9 的 breaking changes 引起的 阅读全文
posted @ 2024-12-22 21:15 dudu 阅读(182) 评论(0) 推荐(0) 编辑
摘要: An intuitive introduction to text embeddings (收集于 2024-03-02) How does the (decoder-only) transformer architecture work? (收集于 2024-03-03) Large langua 阅读全文
posted @ 2024-03-03 18:10 dudu 阅读(223) 评论(0) 推荐(3) 编辑
摘要: 学习材料:Quick intro to Kernel Memory: install, upload a doc, ask a question 创建控制台项目 dotnet new console dotnet add package Microsoft.KernelMemory.Core 创建 阅读全文
posted @ 2024-03-03 10:22 dudu 阅读(202) 评论(6) 推荐(0) 编辑
摘要: Semantic Kernel 的 Memory 有两种实现,一个是 Semantic Kernel 内置的 Semantic Memory,一个是独立的 Kernel Memory,Kernel Memory 是从 Semantic Kernel 进化而来。 关于 Semantic Memory 阅读全文
posted @ 2024-02-27 16:47 dudu 阅读(407) 评论(0) 推荐(1) 编辑
摘要: 在一个 Semantic Kernel plugin 中可以创建两种类型的 function,分别是 native function 与 prompt function(之前叫 semantic function)。 下面这款 plugin 中给 C# method 添加了 [KernelFunct 阅读全文
posted @ 2024-02-24 12:59 dudu 阅读(205) 评论(0) 推荐(0) 编辑
摘要: 学习材料 Microsoft Semantic Kernel – Some Tips & Tricks To Get Rendered Prompts Templatizing your prompts Semantic Kernel 源码中的示例 Example76_Filters 准备 .NET 阅读全文
posted @ 2024-02-20 19:40 dudu 阅读(206) 评论(0) 推荐(0) 编辑
摘要: 前天尝试通过 one-api + dashscope(阿里云灵积) + qwen(通义千问)运行 Semantic Kernel 插件(Plugin) ,结果尝试失败,详见前天的博文。 今天换一种方式尝试,选择了一个旁门左道走走看,看能不能在不使用大模型的情况下让 Semantic Kernel 插 阅读全文
posted @ 2024-02-19 17:25 dudu 阅读(729) 评论(0) 推荐(3) 编辑
摘要: 原本打算通过 OpenAIChatCompletionService + one-api + DashScope + qwen-max(通义千问千亿级大模型)运行一个非常简单的 Semantic Kernel plugin,却没有成功,不确定是 one-api 还是 DashScope(阿里云模型服 阅读全文
posted @ 2024-02-17 19:33 dudu 阅读(819) 评论(2) 推荐(0) 编辑
摘要: one-api 相当于是一个兼容 OpenAI api 的 api 网关(针对 api 的反向代理),借助 one-api 可以通过已有的 OpenAI 客户端调用非 OpenAI 大模型的 api,比如通义千问。 DashScope 是阿里云提供的模型服务灵积的英文名称,这里通过调用 DashSc 阅读全文
posted @ 2024-02-16 12:07 dudu 阅读(2348) 评论(0) 推荐(2) 编辑
摘要: Semantic Kernel 内置的 IChatCompletionService 实现只支持 OpenAI 与 Azure OpenAI,而我却打算结合 DashScope(阿里云模型服务灵积) 学习 Semantic Kernel。 于是决定自己动手实现一个支持 DashScope 的 Sem 阅读全文
posted @ 2024-02-13 15:52 dudu 阅读(643) 评论(1) 推荐(4) 编辑
摘要: 在昨天的博文中,我们通过 Semantic Kernel 调用了自己部署的通义千问开源大模型,但是自己部署通义千问对服务器的配置要求很高,即使使用抢占式按量实例,每次使用时启动服务器,使用完关闭服务器,也比较麻烦,而且越高级的大模型对服务器的配置越高。所以昨天的博文中使用了很低级的 Qwen-7B- 阅读全文
posted @ 2024-02-11 14:55 dudu 阅读(1641) 评论(3) 推荐(8) 编辑
点击右上角即可分享
微信分享提示