大语言模型
  1. 首页
  2. 科技
  3. 人工智能
  4. 大语言模型

列表

损失函数深度实战：从交叉熵、标签平滑到 Focal Loss 与多任务损失的训练工程全解

损失函数深度实战：从交叉熵、标签平滑到 Focal Loss 与多任务损失的训练工程全解

系统拆解损失函数的第一性原理：为什么 0/1 损失不可导、所有可训练损失都是替代损失；从交叉熵的最大似然与 KL 散度推导、log_softmax 的数值稳定性，到标签平滑（ε 软化目标）、Focal Loss（聚焦难样本、α/γ 调参）、BCE+pos_weight 处理类别不平衡，再覆盖回归损失（MSE/MAE/Huber/Log-Cosh/分位）、带温度 KL 的蒸馏损失与基于同方差不确定性的多任务自适应加权，并给出 10 项生产陷阱清单（数值溢出、reduction 与梯度累积、ignore_index、混合精度、软标签类型、类别失衡、蒸馏冲突、多任务尺度失衡、NaN 检测、指标与 loss 解耦）与可复现 PyTorch 工具箱。与本站 RMSNorm、相对位置编码、交叉注意力、残差连接、学习率调度、梯度累积、词嵌入、激活函数共同构成 Transformer 内部机制与训练工程深度解系列（补全训练目标一环）。
大语言模型 2026年10月09日
正则化深度实战：从权重衰减、Dropout 到早停、数据增强与 Stochastic Depth 的训练工程全解

正则化深度实战：从权重衰减、Dropout 到早停、数据增强与 Stochastic Depth 的训练工程全解

系统拆解正则化的第一性原理：从经验风险到期望风险的泛化间隙、约束/惩罚优化的统一框架；深入权重衰减与 L2 的本质及 AdamW 的"解耦"陷阱（L2 被二阶动量缩放导致衰减失真），并给出"norm 层与 bias 不衰减"的生产级参数分组实现；讲清 Dropout 的反转（inverted）机制与训练/推理鸿沟（忘记 eval() 的高频事故）、Dropout 与 BatchNorm 的冲突；揭示早停与权重衰减的对偶性（早停等价于隐式 L2）与回滚最佳权重的重要性；从隐式正则视角解读数据增强（Mixup/CutMix/RandAugment）及其与标签平滑的桥接；进阶覆盖 Stochastic Depth（DropPath）、模型 EMA 与 SWA；梳理正则手段的协同与冲突（权重衰减×BN、Dropout×BN、增强×统计量、衰减×预热），给出 12 项生产陷阱清单与可复现 PyTorch 正则工具箱。与本站 RMSNorm、相对位置编码、交叉注意力、残差连接、学习率调度、梯度累积、词嵌入、激活函数、损失函数共同构成 Transformer 内部机制与训练工程深度解系列（补全泛化控制一环）。
大语言模型 2026年10月09日
金舟AI变声器(360专版)

金舟AI变声器(360专版)

开麦变声,实时变声,游戏变声,特效变音魔术师,主播变声，金舟AI变声器软件是一款AI实时变声软件，有着数百种变声特效，一键美化音色、转换性别，可适配各类游戏、直播软件、社交娱乐、游戏开黑、电商直播、有声小说、影视配音，还可以上传音视频文件进行变声，录音变声，视频变声，声音打码等；用我变声，乐趣倍增；体验变声效果，打破声音界限。 【功能特点】 一键切换性别，秒变魅力音色，给声音加上超酷滤镜！ 一键上传，音频视频秒变声，轻松又好玩！ 录音瞬间变身，搞笑、正经，随心所欲，让声音更有趣！ 适配各类游戏和直播软件，让游戏直播更吸引人！
大语言模型 2026年05月06日
笔灵AI写作(360专版)

笔灵AI写作(360专版)

「笔灵AI写作」是一款多功能智能写作工具，支持一键生成论文、降重、降AI率、生成答辩PPT等。它通过强大的大模型，提供个性化写作支持，操作简单，用户友好。无论是学术研究还是商务演示，「笔灵AI写作」都能助你轻松完成。
大语言模型 2026年05月08日
ima-腾讯AI工作台

ima-腾讯AI工作台

问问 IMA:基于全网优质信源 AI问答、深度研究;或在阅读中随时唤起侧边栏问问 ima, 为你总结全文、生成脑图、答疑解惑。知识库:将文档、网页、笔记、AI问答等内容加入知识库，随时检索信息和获得基于 b) 知识库的定制化回答，带来「第二大脑」的体验。笔记:针对论文、作文、创意文案等主题进行智能写作;或在笔记中进行 A 续写、扩 c) 写、缩写、翻译，还可以为你 AI作图。
大语言模型 2026年05月03日
梯度累积深度实战：从显存墙、小批量退化到有效批次与混合精度训练的协同工程

梯度累积深度实战：从显存墙、小批量退化到有效批次与混合精度训练的协同工程

在大模型训练的工程现场，GPU 显存是最硬的约束。当你想用 128 的全局批量（global batch）去逼近论文里的收敛曲线，却发现单卡连 micro batch=8 都 OOM 时，梯度累积（Gradient Accumulation）几乎是唯一不依赖多机多卡就能"假装大批量"的手段。但它远不是"把 loss 除以 N 再累加起来"那么简单：Batch Normalization 的统计错位…
大语言模型 2026年10月08日
即梦AI-手机版

即梦AI-手机版

即梦AI 是一个专为创意爱好者打造的AI表达平台，让你的想象力成为现实。无论是日常娱乐还是技术探索，这里都能满足你的需求。 [特点亮点] 1. AI图片创作 - 用自然语言描述你的想法，即梦AI将为你挥洒创意生成图片。不满意？我们支持编辑功能，让你的创意更加完美。 2. 视频创作 - 想要动态的表达？输入你的想法，即梦AI将生成视频，多轮尝试，得到满意的效果。 3. 分享你的作品 - 将你的创作以链接形式分享给朋友，或保存至本地，让更多人欣赏你的创意。 4. 探索创意世界 - 在探索页面，浏览其他用户的作品，感受他们的创意火花，留下你的赞美。 5. 做同款 - 喜欢别人的作品？尝试使用他们的提示词，创作出属于你的同款效果。 加入即梦AI！创作的元素愈多，便愈美。
大语言模型 2026年05月03日