归档: 2023/10

2023

10

27

一个生产环境的机器学习模型推理服务，其真正的挑战并非模型本身，而是围绕它构建的一整套可观测、高可用的基础设施。当请求量从每秒几十次上升到数千甚至数万次时，零星的网络抖动、下游模型服务的瞬时过载、或者一次失败的模型更新，都可能导致数据丢失和服

2023-10-27 架构与设计

Dead Letter Queue OpenTelemetry MLflow Haskell 网关与代理

27

管理微服务的部署升级是一项高风险任务。传统的CI脚本，无论是内嵌在Jenkinsfile还是GitHub Actions的YAML中，本质上都是过程式的。它们描述了“如何做”，但缺乏对“最终应是什么状态”的声明式表达。当部署流程变得复杂，比

2023-10-27 架构设计

GitOps CI/CD 设计模式 C#

27

技术痛点前端组件和数据可视化看板的迭代速度越来越快，随之而来的是一个棘手的问题：视觉回归（Visual Regression）。一个微小的数据格式变更或CSS调整，就可能导致整个仪表盘布局错乱或图表渲染失败。传统的单元测试和端到端测试覆盖不

2023-10-27 MLOps

MLOps Docker Fastify Puppeteer Node.js

27

我们的核心挑战并非简单的数据抓取，而是要为上千个无API、结构频繁变更、且普遍采用JavaScript动态渲染的Web数据源，构建一个工业级的、可长期维护的数据采集平台。传统的定时任务（Cron Job）配合简单脚本的模式在这种规模和复杂性

2023-10-27 架构设计

Backend Puppeteer Node.js SwiftUI Cassandra CQRS

27

我们的机器学习团队面临一个典型但棘手的工程问题：模型训练脚本的执行环境混乱，失败后的追踪与重试机制基本为零。一个复杂的tf.data预处理任务在凌晨三点因为一个临时的网络抖动或是一个脏数据样本导致OOM而崩溃，第二天早上才被发现，这不仅浪费

2023-10-27 MLOps

Dead Letter Queue TensorFlow containerd 分布式与中间件 Storybook

27

我们的视频会议平台开始频繁出现无法复现的质量投诉。用户反馈“卡顿”、“声音断断续续”，但我们的基础监控——CPU、内存、网络IO——一切正常。问题在于，这些宏观指标无法反映单个 WebRTC 流的微观体验。我们依赖 WebRTC 的 get

2023-10-27 可观测性

Grafana WebRTC MariaDB Dask