归档: 2023/10

2023

10

27

我们的模型服务迭代正变得越来越痛苦。最初，BentoML为我们提供了一个清晰的打包和部署规范，这很好。但随着业务逻辑的膨胀，问题也随之而来：每次上游需要一个新的特征预处理，或者下游需要一种新的结果格式化方式，整个BentoML服务就必须重新

2023-10-27 MLOps

BentoML 消息队列 Nacos Prettier

27

团队在 AWS EKS 上运行的微服务集群规模扩大后，一个老问题再次浮出水面：分布式锁。之前依赖 Redis 的 SETNX 做一些简单的锁，但在一些对一致性要求更高的场景，比如关键任务调度、资源竞态分配，这种方案的可靠性不足以让我们安心。

2023-10-27 分布式系统

Paxos 算法 RabbitMQ AWS EKS Express.js

27

为新租户或新环境自动化部署一套完整的基础设施，远比执行一个 pulumi up 命令要复杂。在真实项目中，一个完整的“环境就绪”流程可能包含三个步骤：1) 使用 Pulumi 创建云资源（如数据库、存储桶、消息队列）；2) 调用应用服务A，

2023-10-27 分布式架构

Pulumi ACID Zipkin 状态管理

27

我们面临一个棘手的工程问题：一个核心业务系统使用 MongoDB 作为其生产数据库，其模式（Schema）高度动态，频繁地添加字段以适应快速迭代的业务需求。与此同时，分析团队需要将这些数据近乎实时地同步到 Snowflake 数据仓库中进行

2023-10-27 数据工程

TDD Snowflake MongoDB Apache Flink CDC

27

一个典型的模型部署场景始于一个简单的需求：将一个计算密集型的Python函数封装成一个API。最初的版本几乎总是直截了当的，一个接收输入，调用模型，返回结果的HTTP端点。 # initial_service.py # 一个极其基础的、无任

2023-10-27 后端架构

TDD 模型部署 Chakra UI 密钥管理 Memcached