定制服务

  • 公司名称 *

  • 名称 *

  • 电话 *

  • 应用领域

  • 定制需求 *

  • 提交

  • 验证码
    看不清?换一张
    取消
    确定

图片展示

咨询电话:400-852-2968

扫    码    咨    询

 

图片展示

断网也能跑本地大模型!深元DEP05A边缘智能工作站,私有化多模态算力新选择

发表时间:2026-07-08 12:05:29


大模型产业加速下沉,智慧工地、园区、加油站、交通等边缘场景,普遍面临云端大模型三大痛点:网络波动带来推理延迟、业务视频数据上传存在安全合规风险、长期API调用成本居高不下。针对行业离线私有化AI需求,推出采用RK3588作为系统主控的DEP05A边缘智能工作站,支持双路AI加速模组扩展,最高40TOPS@INT8算力,兼顾多路视频编解码、工业级宽温硬件与完善AI开发生态,一站式实现边缘端本地大模型落地。


一、算力灵活扩展 承载端侧大模型部署

边缘智能工作站预留2个RK182x AI加速模组接口,支持单/双模组灵活配置,按需扩展AI算力,满足不同规模模型部署及多样化AI应用需求:  

·       RK1820单模组:20TOPS@INT8,搭载2.5GB独立显存;

·       RK1828单模组:20TOPS@INT8,搭载5GB大容量独立显存;

双模组满配峰值算力可扩展至40TOPS@INT8,支持INT4/INT8/INT16/FP8/FP16等多精度运算。依托充足的算力和内存资源,可部署运行3B/7B级轻量大语言模型及视觉多模态模型,在离线环境下完成画面语义解读、监控视频检索、巡检文本摘要、离线智能问答等任务,摆脱云端依赖,规避数据外传风险。


二、多路编解码 多模态与视觉并发处理

得益于RK3588多媒体编解码能力,设备可高效处理多路视频数据,满足多摄像头视频采集与智能分析需求:

  • 32 1080P@30fps H.265、16路1080P@30fps H.264 视频解码;
  • 161080P@30fps H.264/H.265视频编码;

此外,配置1路4K@60fpsHDMI显示输出,可外接大屏实时展示AI分析结果。单台设备即可完成多路监控视频解析、目标检测、智能问答等多种AI任务,有效降低部署成本。


三、工业级硬件架构,运行稳定可靠

1. 宽温被动散热,适配复杂环境部署

整机采用被动无风扇散热方案,静音防尘;工作温度区间覆盖-40℃~70℃,高低温环境下CPU自带降频保护,在户外机柜、机房等复杂多变的环境中均可稳定运行。机身尺寸273×208×67.1mm,轻量化桌面式安装,DC12V低压供电,点位布线更简单。

2.丰富工业IO,实现AI联动闭环控制

标配多类工业接口,可直接对接现场安防、传感设备,搭建完整智能联动系统:

  • 双千兆以太网:可支持多路摄像头接入、内外网隔离部署;
  • RS232/RS485:可支持接入烟感、红外探测器、门禁、声光报警器,AI识别异常后本地联动报警;
  • CAN总线:可支持工业设备接入;
  • USB3.0×2、HDMI输出:可支持外设拓展、画面实时投屏;

3.灵活存储内存配置

标配64GB eMMC本地存储,可支持同时扩展 M.2 NVM固态SSD硬盘及2.5 英寸SATA机械硬盘,提供充足空间存储监控录像、大模型权重文件、业务日志等本地数据。


四、国产AI开发栈,快速落地行业算法

搭载rknn3-toolkit开发环境,提供丰富多样的模型参考案例,为客户大幅缩短项目开发周期:

  • 主流框架兼容:TensorFlow、Caffe、Pytorch、TfLite、ONNX模型;
  • 成熟案例:YOLO V5/V6/V8、Resnet50等视觉算法,以及多种大语言模型;


五、多行业落地场景

  1. 智慧工地:多路监控实时识别安全帽、动火、高空作业违规行为,本地大模型自动生成每日巡检报告,断网不中断分析;
  2. 智慧园区:全域监控离线检索、访客身份语义识别、园区异常事件本地留存,数据不上云保障园区隐私;
  3. 智慧加油站:抽烟、脱帽、静电等安全行为识别,交易、监控数据本地私有化处理,满足金融安防合规;
  4. 智慧交通:道路车流、违停、行人事件抓拍,多模态大模型统计路况信息,适配无公网郊区路段;
  5. 小型政企私有化AI:本地知识库、离线智能问答终端,内部资料不外泄。

六、产品核心优势总结

  1. 数据安全合规:全流程本地推理,视频、文本、业务数据不出设备,规避云端数据泄露风险;
  2. 长期降本增效:一次性硬件投入,无云端按次计费,大批量点位部署成本优势显著;
  3. 算力灵活扩容:单/双AI模组自由选配,从小项目试点到规模化批量部署平滑升级;
  4. 全环境通用:无风扇宽温工业机身,室内、户外、机柜、桌面多场景兼容;
  5. 国产化自主可控:软硬件国产生态适配,构建自主可控的AI算力方案


断网也能跑本地大模型!深元DEP05A边缘智能工作站,私有化多模态算力新选择
大模型产业加速下沉,智慧工地、园区、加油站、交通等边缘场景,普遍面临云端大模型三大痛点:网络波动带来推理延迟、业务视频数据上传存在安全合规风险、长期API调用成
长按图片保存/分享
0
文章推荐

    电话:400-852-2968              地址:广州市黄埔区科学城科研路3号A2栋3楼

售前咨询

微信公众号


Copyright @ 广州英码信息科技有限公司    All Rights Reserved  粤ICP备16023058号

添加微信好友,详细了解产品
使用企业微信
“扫一扫”加入群聊
复制成功!
添加微信好友,详细了解产品
我知道了