某物联网公司深耕物联网智能照明领域，面向全球市场提供智能灯具、物联网设备与 AI 灯效交互解决方案。公司围绕”智能硬件 + 云端 AI + 用户交互”技术闭环，将大模型、AI 图片生成、MQTT 消息通道等能力与智能灯具深度融合，推出”语音生成灯效”的物联网 AI 创新体验。
公司始终坚持”技术驱动创新、场景引领体验”的理念，持续加大 AI 与物联网融合创新投入。核心团队涵盖智能硬件研发、算法与大模型应用、云端平台工程等多个领域，具备端到端交付智能照明产品与云上 AI 服务的完整能力，为客户智能终端提供高可用的云端接入、推理与灯效控制服务。
1. MQTT 通道稳定性:需为客户十万级智能终端提供稳定可靠的实时消息通道,消除因通道抖动导致的灯效指令延迟或断连问题。
2. AI 推理响应效率:确保 Bedrock 大模型推理与 GPU 图片生成能快速返回结果,避免因推理链路缓慢影响灯效端到端生成体验。
1. 突发调用应对:在新品发布、营销活动等场景下,系统需自动扩展 EKS 与 GPU 承载能力,保障高峰时段十万级终端的 AI 灯效请求稳定响应。
2. 动态资源调配:根据终端活跃用户规模智能调整 EKS Node Group 与 GPU 实例数量,确保灯效指令下发与对话上下文同步等核心功能的稳定性。
3. 成本可控性:在非高峰时段自动优化资源利用率,平衡性能需求与运营成本。
1. 系统容灾能力:EKS MQTT Node、EKS AI Node、DocumentDB、RDS for MySQL 等关键组件需跨可用区部署,具备故障自动转移能力,最大限度降低服务中断对全球用户的影响。
2. 会话与上下文保护机制:智能终端用户因网络波动断线后,需完整保留 DocumentDB 中的对话上下文与灯效指令队列,支持快速重连恢复,保障用户体验一致性。
3. 安全合规与 Token 成本管控:基于 RBAC 模型实施 IAM 权限分组(Admin/Dev/Ops),强制启用 MFA 双因素认证,访问密钥每 90 天强制轮换;数据传输与静态存储 KMS 加密。同时提前完成 Bedrock Token 容量评估(月度 input 1 亿/output 3 亿 token),精细化管控大模型调用成本,防止 Token 消耗失控与用户敏感数据泄露。
移动设备(APP)通过语音转文本后经 Route 53 完成 DNS 解析,MQTT/HTTPS 上行经 Internet Gateway 进入 VPC;ELB(跨可用区)将请求分发至私有子网的 EKS MQTT Node,MQTT 长连接稳定承载十万级智能终端的灯效控制指令下发。
1. 面向十万级 IoT 终端长连接接入,VPC 跨双可用区(AZ-a/AZ-b)划分公有子网、私有 MQTT 子网、私有 AI Node 子网、私有数据子网四类专用网段:公有子网仅暴露 ELB 与设备侧 MQTT 入口,SSL 终结与跨 AZ 负载均衡由 ELB 完成;
2. 私有 MQTT 与 AI Node 分区部署避免 GPU 抖动影响消息通道稳定性;
3. AI Node 通过 VPC Endpoint(Bedrock PrivateLink)以内网方式调用 Bedrock 大模型,通过 S3 Gateway Endpoint 拉取图片素材,避免设备控制指令与 AI 推理流量走公网,大幅降低延迟并规避出网费用。
1. EKS 双 Node Group(MQTT Node + AI Node)跨两个可用区部署,MQTT Node 承接消息通道与设备控制,AI Node 承载 Bedrock 调用编排与 GPU 图片生成;
2. 文本内容经 EKS 交付 Amazon Bedrock (Nova Pro),配合 DocumentDB 中随机抽取的灯效提示词生成灯效代码,由 AI Node 的 GPU 实例加速生成灯效图片,并将图片经客户算法转换后经 MQTT 下发至智能终端形成灯效。
1. 面向 AI 灯效场景”结构化用户/设备数据 和灵活 Schema 的 AI 元数据”双重存储诉求,做数据库分层:Amazon RDS for MySQL Multi-AZ 承载账号、设备绑定、订单等强一致场景;
2. Amazon DocumentDB Multi-AZ 承载灯效提示词、对话上下文 Context、生成图片的特征描述与标签,天然适配 AI 元数据多变属性与快速迭代;
3. ElastiCache Redis 缓存实时会话与灯效指令队列,承接十万级终端的高频读写、断线重连恢复;
4. Amazon S3 归档 Bedrock 生成的图片素材,配合 KMS 全链路加密与 PITR 保障 AI 数据资产安全。
1. 面向 IoT和AI 双域合规诉求:IAM RBAC 分组(Admin/Dev/Ops)+ MFA 强制认证 + 访问密钥 90 天自动轮换,守住云上管控面;
2. Secrets Manager 集中托管 Bedrock、DocumentDB、MQTT Broker 的凭证,KMS 分环境管理数据加密密钥;
3. GuardDuty和WAF 抵御 API 端与外部 Web 侧的异常调用与攻击
4. CloudTrail 全量审计满足数据合规溯源;
5. CloudWatch 汇聚 EKS、Bedrock、GPU 实例的指标与 Token 用量,设定 input/output Token 每日预算告警,驱动 EKS Node Group 与 GPU Auto Scaling,做到 AI 调用成本可视、可控。
端到端”语音→大模型→图片→灯效”链路顺利上线,支撑客户 10 万台智能终端的语音生灯效 AI 创新体验,平台可用性达 99.95% 以上,月度 Bedrock 推理调用稳定支撑 input 1 亿 token、output 3 亿 token。
基于 AWS 托管服务(EKS/Bedrock/DocumentDB/RDS/ELB)构建的平台,大幅降低前期建设投入,平台上线周期缩短 40% 以上,建设成本较自建方案降低 35% 以上;GPU 按需调度与 Token 精细化管控让 GPU 相关成本降低 30% 以上。
IAM RBAC 分组 + MFA 强制认证 + 90 天密钥轮换 + KMS 加密 + WAF/GuardDuty 一体化安全合规体系,全年零安全事件,满足客户物联网业务的安全合规要求
使用 AWS 托管服务替代自建 AI 推理平台,依托厦门汉为 7×24 小时托管云运维(涵盖 EKS 巡检、Bedrock Token 监控、GPU 弹性调度、双数据库性能优化等),运维人力成本降低 60% 以上,让客户核心团队专注于智能硬件与算法研发