杨思义
08-09 · 蚂蚁集团第一代数据中台(代号:五代架构)体系化参与及贡献者,开源HiveMetaStore(大数据核心中间件)重构及应用。第一代大数据数据质量与治理系统的设计与研发。曾上海中新社实习记者:)
AI技术融合与微服务化
11年,没做过规划,没做过ppt,唯一的一次还是因为晋升,如今可以考虑产品和规划了。11年,每一分钟的技术讨论我都在听我听不懂的点,每一小时的工程实践,每一天晚上的尝试和自我复盘。我从不认为自己会什么。但我会的都会分享出去。你们懂么?直到有一天我不知道我会什么了,开始在语雀一点点,从我做过的产品,到每一个产品我的理解,再到组件,架构,系统架构,甚至脑海中的每一行代码,直到sql还是Map还是链表还是直到写到每个最底层的0和1原理与实践。至今那篇文章还停留在蚂蚁语雀,我记得那篇语雀的作者我改名溯衍了: 回忆过去,延续未来,但蚂蚁花名叫松伯。今天完成AI langChain langGraph Harness的融合后的微服务化,但分散的日志给问题排查与系统审计带来了巨大挑战。为此,我在仅7.3G内存的有限资源下,构建了一套轻量级的实时流处理平台,实现了从单体日志到大数据审计的跨越。该架构以 Filebeat 作为轻量级采集器,将各微服务日志汇聚至 Kafka 消息队列进行削峰填谷。核心处理引擎选用低延迟的 Flink,它负责解析日志、分发数据,并驱动两大核心应用:一是将结构化日志写入 Elasticsearch,通过 Kibana 实现秒级延迟的实时监控与全文检索;二是将日志按天归档至本地文件,满足合规审计。最终在有限的资源下,成功集成了实时监控、全文检索、错误告警与日志审计四大能力。
发布于 上海
4
21
15
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn