宁波公司做网站公司网站建设工作室

宁波公司做网站,公司网站建设工作室,合肥seo网站推广费用,wordpress 商品列表DeepSeek-OCR概述基本定位#xff1a;由DeepSeek-AI提出的视觉语言模型#xff08;VLM#xff09;#xff0c;核心目标是探索通过光学2D映射压缩长上下文的可行性#xff0c;为LLM处理长文本的计算挑战提供解决方案#xff08;利用视觉模态作为文本信息的高效压缩媒介由DeepSeek-AI提出的视觉语言模型VLM核心目标是探索通过光学2D映射压缩长上下文的可行性为LLM处理长文本的计算挑战提供解决方案利用视觉模态作为文本信息的高效压缩媒介。核心组件包含编码器DeepEncoder和解码器DeepSeek3B-MoE-A570M代码与模型权重已开源地址http://github.com/deepseek-ai/DeepSeek-OCR。核心优势兼顾高压缩比与高OCR精度同时具备强实用性能可大规模生成LLM/VLM训练数据。核心组件设计DeepEncoder编码器设计目标满足高分辨率处理、高分辨率下低激活、少视觉token、多分辨率支持、参数适中5大需求解决现有VLM视觉编码器的缺陷如token过多、激活量大等。架构细节总参数约380M由SAM-base80M窗口注意力主导、16×卷积压缩器、CLIP-large300M密集全局注意力 串联组成。卷积压缩器2层卷积核3×3、步长2、填充1通道从256→1024实现视觉token16倍下采样如1024×1024图像输入token从4096→256。分辨率支持通过位置编码动态插值实现多分辨率具体模式如下表分辨率模式 子模式 原生分辨率 视觉token数 处理方式原生分辨率 Tiny 512×512 64 直接resizeSmall 640×640 100 直接resizeBase 1024×1024 256 padding保留宽高比Large 1280×1280 400 padding保留宽高比动态分辨率 Gundam 640×6401024×1024 n×100256n∈[2:9] 分块resizepaddingGundam-M 1024×10241280×1280 n×256400n∈[2:9] 分块resizepadding注动态分辨率主要用于超高清输入如报纸避免图像过度碎片化Gundam-M需在预训练模型基础上继续训练平衡训练速度。解码器DeepSeek3B-MoE-A570M架构特点基于DeepSeek3B-MoE推理时激活64个路由专家中的6个2个共享专家激活参数约570M兼顾3B模型的表达能力与500M小模型的推理效率核心功能通过非线性映射从DeepEncoder输出的压缩视觉token重构文本表示。训练流程与数据引擎数据引擎多样化训练数据数据类型 内容细节 占比/规模 作用OCR 1.0数据 30M页多语言PDF中/英25M其他5M含粗/细标注、3M页Word、10M页中/英自然场景图 占总数据70% 训练传统OCR能力文档/场景文本识别OCR 2.0数据 10M页图表线图/柱状图等转HTML表格、5M页化学公式SMILES格式、1M页平面几何图 含于OCR数据70%内 训练复杂图像解析能力通用视觉数据 图像描述、目标检测、接地等任务数据参考DeepSeek-VL2 占总数据20% 保留通用视觉接口纯文本数据 内部数据统一处理为8192token长度 占总数据10% 保障模型语言能力注OCR 1.0细标注含2M页中/英数据用PP-DocLayout布局、MinerU2.0/GOT-OCR2.0识别构建小语种数据通过“模型飞轮”生成600K样本。训练流程阶段1独立训练DeepEncoder数据所有OCR 1.0/2.0数据100M采样自LAION的通用数据配置AdamW优化器余弦退火调度器学习率5e-5批大小1280训练2轮序列长度4096阶段2训练DeepSeek-OCR平台HAI-LLM平台并行策略4段管道并行DeepEncoder占2段解码器占2段20节点每节点8张A100-40G数据并行40全局批大小640配置AdamW优化器步长调度器初始学习率3e-5纯文本数据训练速度90B token/天多模态数据70B token/天论文实验核心实验性能Fox基准测试文本token600-1300英文文档验证压缩-解压缩能力文本token范围 视觉token64Tiny模式 视觉token100Small模式 测试页数精度 压缩比 精度 压缩比600-700 96.5% 10.5× 98.5% 6.7× 7700-800 93.8% 11.8× 97.3% 7.5× 28800-900 83.8% 13.2× 96.8% 8.5× 28900-1000 85.9% 15.1× 96.8% 9.7× 141000-1100 79.3% 16.5× 91.5% 10.6× 111100-1200 76.4% 17.7× 89.8% 11.3× 81200-1300 59.1% 19.7× 87.1% 12.6× 4关键结论压缩比10×时精度≈97%压缩比20×时精度≈60%实际精度因输出与标注格式差异会更高。OmniDocBench基准测试真实文档解析指标为编辑距离越小越好模型/模式 视觉token数有效token 整体编辑距离 关键对比结论GOT-OCR2.0 256 - DeepSeek-OCR100token超越它MinerU2.0 6000平均 - DeepSeek-OCR800token超越它DeepSeek-OCRSmall 100 0.205 -DeepSeek-OCRBase 256182 0.156 -DeepSeek-OCRGundam 795 0.083 接近SOTA性能实用价值大规模训练数据生成单张A100-40G显卡每日可生成20万页LLM/VLM训练数据20节点每节点8张A100-40G每日可生成3300万页。多场景OCR能力语言支持可处理近100种语言小语种文档支持布局/非布局输出。深度解析支持图表转HTML表格、化学公式转SMILES、平面几何图结构化输出、自然图像密集描述的深度解析。通用视觉理解保留图像描述、目标检测、接地等通用视觉能力可通过提示激活。总结和展望总结为LLM长上下文压缩提供新范式光学压缩7-20×token reduction为LLM记忆遗忘机制研究提供思路模拟人类记忆衰减通过逐步缩小图像分辨率实现多级别压缩为VLMtoken分配优化提供实证指导。未来方向开展数字-光学文本交错预训练进行“大海捞针”needle-in-a-haystack测试验证长上下文处理能力进一步优化光学上下文压缩的精度与效率。