【日常小结】归一化(Normalization)、标准化(Standardization)与正则化(Regularization)
回到学校一个星期了,算是差不多找回状态了。
今天记录一下归一化(Normalization)、标准化(Standardization)与正则化(Regularization)。
【读书笔记】《神经网络与深度学习》-- 网络优化与正则化
神经网络与深度学习,第七章-网络优化与正则化,笔记。
网络优化主要介绍一些常用的优化算法、参数初始化方法、数据预处理方法、逐层归一化方法和超参数优化方法。
网络正则化主要介绍一些提高泛化能力的方法,包括$l_1$和$l_2$正则化、权重衰减、提前停止、丢弃法、数据增强和标签平滑。
【日常小结】记录一下torch.backends.cudnn.benchmark=True以及copy、multiprocessing与threading模块
今天晚上跑了一下《Instance Segmentation by Jointly Optimizing Spatial Embeddings and Clustering Bandwidth》论文中的验证的代码,这里记录一下一些之前不知道或者不熟练的点。
【日常小结】分割任务常用数据集:VOC、COCO、Cityscapes
今天加了一个“支线任务”页面,之前的图标没有支持在MacOS 11中Safari浏览器的标签页的显示,然后换成了现在这个图标,主要参考:添加新的页面、更换图标,图标来源于flaticon。
这两天呢,一直在弄数据集,为什么弄数据集呢,这个故事的开始是悲伤的,我在VS Code中连接服务器,想要删除数据集中多余的文件,先是选择了数据集文件夹,然后又直接选择了想删除的文件,接着点击了永久删除,这时就悲剧了,我尝试了去恢复数据,奈何没有管理员权限,最后选择了重新下载(下载过程真是…),顺带把几个数据集都大致了解一下,总结一下。
共计 37 篇文章,7 页。