Just write something here.
OADP OADP
概念知识蒸馏把一个大的模型(教师模型)里面的知识萃取蒸馏出来,并浓缩到一个小的(学生)模型中。是一种用于模型压缩和迁移学习的技术,其主要思想是通过将一个大型模型的知识传递给一个小型模型来提高小型模型的性能。 软标签和硬标签 硬标签 软
2024-05-02
注意力机制 注意力机制
作用 决定需要关注输入的哪部分:在处理大量信息时,注意力机制能够帮助模型或个体确定哪些部分是重要的,并集中资源进行处理。例如,在机器翻译任务中,注意力机制可以帮助模型确定源语言句子中哪些词汇对目标语言的翻译更为重要。 分配有限的信息处理资源
2024-04-28
Transformer模型 Transformer模型
整体架构 图上全部为训练过程,去掉虚线框里的就是推理过程(没有正确答案输入的部分了) Word Embedding词嵌入将输入(输入句子有m个词)转化为向量,假设嵌入维度为n,则一个词对应一个n维向量,整个向量维度为m x n。 Posit
2024-04-27
CLIP CLIP
CLIP:Constrastive Language-Image Pre-training 概念embedding:一种将高维数据(如文本或图像)转换为较低维度的向量表示的技术 结构 推理过程把需要分类的图片送入image encoder得
2024-04-26
Faster RCNN Faster RCNN
概念bbox(Bouding Box边界框):包含物体的最小矩形 NMS(非极大值抑制Non-Maximum Suppression):选出IoU值最高的框,去掉与它的IoU值较高的框(即重复区域较大),然后再选出IoU次大的框,重复上述过
2024-04-21
视觉开发认知和检测 视觉开发认知和检测
概念zero-shot learning(零样本学习):让机器具有推理能力,例如在目标检测中,希望模型可以对从未见过的类别进行分类 开放世界目标检测:在每一个场景中检测每一个类别,应该有能力利用具有异构标签空间的多个来源的图像用于训练和推广
2024-04-20
yolov5训练总结 yolov5训练总结
yolov5前期配置和运行参考资料:Yolov5训练自己的数据集(详细完整版) 注:VOCData文件夹(可以自己命名)下的images和labels文件夹不能叫别的名字! 使用镜像源安装库: pip install -r requirem
2024-03-12
conda命令 conda命令
查看已创建的环境。使用命令 conda info --envs 或 conda env list 可以显示所有已创建的环境。 创建新环境。使用命令 conda create -n env_name python=3.7 可以创建一个名为e
2024-03-04
卷积神经网络CNN 卷积神经网络CNN
卷积神经网络构成部分$$n_H^{[l]} = [\frac{ {n_H^{[l - 1]} + 2{p^{[l]}} - {f^{[l]}}}}{s^{[l]}}] + 1$$$$n_W^{[l]} = [\frac{ {n_W^{[l
2024-03-01
结构化机器学习项目 结构化机器学习项目
正交化正交化是指每个参数只控制一个维度的效果 单一数字评估标准评估分类器的一个合理方式:观察它的查准率(Precision)和查全率(Recall) 查准率:衡量预测的准确性。如:分类器标记为猫的例子中,有多少真的是猫 查全率:衡量发现所
2024-02-24
1 / 2