哆啦 C 梦

课程主页: http://cs330.stanford.edu/ 视频教程: https://www.youtube.com/playlist?list=PLoROMvodv4rMC6zfYmnD7UG3LVvwaITY5 为什么要使用 多任务学习和元学习 更加通用的机器学习系统； 没有大型数据库； 数据有很长的尾巴； 需要快速学习新知识; 什么是任务 dataset Dloss function L⟶model fθ\begin{array}{c} \text{dataset } \mathcal{D} \\ \text{loss function } \mathcal{L} \end{array} \longrightarrow \text{model } f_{\theta} dataset Dloss function L​⟶model fθ​ 关键假设 坏消息：不同的任务需要共享某种结构。(如果不具备该性质，最好使用单任务学习) 好消息： 许多任务都具有共享结构 非形式化定义 多任务学习问题：相比于独立学习，能够更快/更熟练地学习 ...

MTL 算法公式 传统 MTL 算法的典型公式如下： min⁡W=[w1w2…wM]∑m=1ML(Xm,ym,wm)+λReg⁡(W)\min _{\mathbf{W}=\left[\mathbf{w}^{1} \mathbf{w}^{2} \ldots \mathbf{w}^{M}\right]} \sum_{m=1}^{M} L\left(\mathbf{X}^{m}, \mathbf{y}^{m}, \mathbf{w}^{m}\right)+\lambda \operatorname{Reg}(\mathbf{W}) W=[w1w2…wM]min​m=1∑M​L(Xm,ym,wm)+λReg(W) 其中， Xm∈RNm×D\mathbf{X}^{m} \in \R^{N_m \times D}Xm∈RNm​×D 表示第 mmm 个任务的输入矩阵 ym∈RNm×1\mathbf{y}^{m} \in \R^{N_m \times 1}ym∈RNm​×1 表示第 mmm 个任务对应的输出向量 wm∈RD×1\mathbf{w}^{m} \in \R^{D \times 1}wm ...

多任务学习（MTL）旨在通过利用相关联任务中的有效信息来提高多个任务的性能。 多任务学习（MTL）可以利用来自相关任务的有用信息来帮助解决某一任务的数据稀疏性问题。 MTL分为几种设置，包括： 多任务监督学习 多任务无监督学习 多任务半监督学习 多任务主动学习 多任务强化学习 多任务在线学习 MTL可以看作是多标签学习和多输出回归的泛化。 主要内容 MTL 的不同设置 并行和分布式 MTL 模型 MTL 理论分析 MTL 定义 Definition 1. (Multi-task learning) Given mmm learning tasks {Ti}i=1m\{T_i\}^m_{i=1}{Ti​}i=1m​ where all the tasks or a subset of them are related but not identical, multi-task learning aims to help improve the learning of a model for TiT_iTi​ by using the knowledge contained i ...

安装 Docker Windows 10 开启 Hyper-V 打开 控制面板\程序\程序和功能，选择 启用或关闭 Windows 功能: 选中 Hyper-V： 下载并安装 Docker 在官方网站下载并安装 Docker。 打开 Docker Desktop 若出现 Not enough memory 提示： 右键托盘图标，选择 Setting： 将 Resources 中的 Memory 调整为 1G： 重启 Docker Desktop，若依旧内存不足，可以下载 RAMmap 选择菜单栏的 Empty -> Empty Working Sets，然后重新启动 Docker Desktop 即可。 Ubuntu 更新ubuntu的apt源索引 1sudo apt-get update 安装包允许apt通过HTTPS使用仓库 1sudo apt-get install apt-transport-https ca-certificates curl software-properties-common 添加Docker官方GPG key 1curl -f ...

多任务学习是归纳传递的一种方法，它将相关联任务的训练集中包含的域信息作为归纳偏差来提高泛化能力。通过使用共享表示进行并行学习，每个任务学习的内容都可以帮助其他任务进行更好的学习。 主要内容 介绍多任务学习，归纳传递的重要性； 比较单任务学习和多任务学习的性能； 反向传播网络中 MTL 的工作方式； 针对 k-nearest neighbor 和 决策树的 MTL 算法； 反向传播网络中的多任务学习 输入相同，但是具有四个连接到共享隐藏层的输出。 在 MTL 网络中，四个输出并行进行反向传播。 因为共享一个隐藏层，所以在隐藏层中出现的内部表示形式可能会使一个任务的信息被其他任务使用。 在并行训练任务时，共享不同任务所学内容是多任务学习的中心思想。 训练信号作为归纳偏置 归纳传递的目的是利用其他信息源来提高当前任务学习的性能。归纳传递可用于提高泛化精度，学习速度和学习模型的精确度。 多任务学习在反向传播中的三种应用 1D-ALVINN 1D-ALVINN 用来快速测试有关道路跟踪领域的道路图像模拟器，文章生成由单个32像素水平扫描线组成的一维道路图像。这样生成的一维 ALV ...

使用项目 uunicorn/python-validity。 设置 123456sudo apt remove fprintdsudo add-apt-repository ppa:uunicorn/open-fprintdsudo apt-get updatesudo apt install open-fprintd fprintd-clients python3-validity...wait a bit...fprintd-enroll 在 设置 -> 用户 中即可设置指纹登陆，如果锁定界面，指纹设备 LED 灯亮起，但扫描无效，尝试以下操作： 123456789101112sudo systemctl stop python3-validitysudo validity-sensors-firmwaresudo python3 /usr/share/python-validity/playground/factory-reset.py# At some of the above points you may get a 'device busy' e ...

Ubuntu 20.04 LTS（Focal Fossa）于4月23日正式发布，这是最新的Ubuntu长期支持（LTS）版本。 备份数据 升级到20.04 LTS –使用图形向导 使用GUI工具升级到Ubuntu 20.04 LTS: 1sudo do-release-upgrade -d -f DistUpgradeViewGtk3 将使用基于Gtk3的GUI启动升级过程 首先将要求确认升级: 向导将在升级过程中禁用锁定屏幕: 该工具将下载必要的系统文件和应用程序以进行升级。可能需要一些时间，请耐心等待。 在升级过程中，可能会询问您一个或两个问题，如果您想保留某些系统文件的现有设置（例如时区配置），不确定如何选择，则可以安全地使用默认答案。 一段时间后，升级应该完成，并且您应该会看到自己已登录20.04桌面！ 疑难杂症 升级后无法进入系统 可能由于 Nvidia 显卡驱动引起，启动时选择高级 Advanced 启动，并选择旧内核进入系统，卸载 Nvidia 驱动： 1sudo apt-get remove nvidia* -y 重启即可进入系统 更多 更多 Ub ...

本文转载自Ubuntu18.04通过网线共享网络 这几天要给实验室一个新电脑装系统，但是实验室路由器好像有点问题，所以决定共享我的笔记本的网络，但是搜了很多教程都是基于Ubuntu16.04的，而Ubuntu18和16在设置上区别还是挺大的，最后直接搜英文才得到的结果： 首先通过网线将一台有无线网卡、已经连接无线网络的设备和一台需要网络连接的设备相连接 终端中输入: 1nm-connection-editor 然后在网络连接中的“以太网”选择修改，将IPV4目录下的“方法”修改为“与其他网络共享”即可。 更多 更多 Ubuntu 相关见折腾造作 - Ubuntu

PyTorch 项目模板 一个简单而设计良好的结构对于任何深度学习项目都是必不可少的，因此在pytorch项目中进行了大量实践和贡献之后，这里有一个pytorch项目模板，它结合了**简单性、文件夹结构的最佳实践和良好的OOP设计。**其主要的想法是每次开始你的pytorch项目的时候都会做很多相同的事情，所以包装这些共享的东西将有助于你每次开始一个新的pytorch项目时，或改变核心的想法时的代码构建过程。 所以，一个简单的Pythorch模板，可以帮助您更快地进入项目的主要部分，只关注您的核心（模型架构、训练流程等） 项目结构 12345678910111213141516171819202122PyTorch_project├── config│ └── defaults.py # config file.├── data │ ├── dataset # datasets folder that is responsible for all data handling.│ ├── transforms # data prepro ...

预备工作 更换 apt 更新源 打开 Software & Update，点击 Download from 下拉框，选择阿里源 China -> mirrors.aliyun.com： 关闭选项卡，在弹出框中选择 Reload： 安装显卡驱动 在 Software & Updates 中打开 Additional Drivers，选择你的显卡： 安装完成后重启系统。 加速上网 参考文章 Ubuntu 18.04 使用V2ray图形化软件V2rayL加速上网 桌面主题美化 安装 gnome-tweak-tool 1234567sudo apt update# gnome 美化软件sudo apt-get install ​gnome-tweaks ​gnome-tweak-tool# 支持通过浏览器安装 gnome 插件​sudo apt install chrome-gnome-shell# 开启gnome扩展sudo apt-get install gnome-shell-extensions 在网页中打开 https://extensi ...