多任务学习

问题陈述

深度学习示意图

单任务学习
数据集： $\mathcal{D} = \left\{(x, y)_k \right\}$

目标： $\min_{\theta} \mathcal{L}(\theta, \mathcal{D})$

典型损失函数-负对数似然： $\mathscr{L}(\theta, \mathscr{D})=-\mathbb{E}_{(x, y) \sim \mathscr{D}}\left[\log f_{\theta}(\mathbf{y} \mid \mathbf{x})\right]$
任务
任务的形式化定义： $\mathscr{T}_{i} \triangleq\left\{p_{i}(\mathbf{x}), p_{i}(\mathbf{y} \mid \mathbf{x}), \mathscr{L}_{i}\right\}$ ，其中， $p_i$ 为数据生成的分布

对应数据集； $\mathcal{D}^{\text{tr}}_i, \mathcal{D}^{\text{test}}_i$ ，其中将 $\mathcal{D}^{\text{tr}}_i$ 计为 $\mathcal{D}_i$

MTL 目标： $\min_\theta{\sum^T_{i=1}{\mathcal{L}_i(\theta, \mathcal{D}_i)}}$

任务的训练

通用设置

基于串联或附加的方法实际上是等效的

这些方法目前还是具有一些缺陷：

\min_\theta{\sum^T_{i=1}{\mathcal{L}_i(\theta, \mathcal{D}_i)}}

通常对任务赋予不同权值：

\min_\theta{\sum^T_{i=1}{\omega_i \mathcal{L}_i(\theta, \mathcal{D}_i)}}

步骤

对任务进行小批量采样 $\mathcal{B} \sim \{\mathcal{T}_i\}$
对每个任务小批量采样数据点 $\mathcal{D}^b_i \sim \mathcal{D}_i$
计算小批量的损失 $\hat\mathcal{L}(\theta, \beta) = \sum_{\mathcal{T} \in \beta}{\mathcal{L}_k(\theta, \mathcal{D}_k^b)}$
反向传播损失以计算梯度 $\Delta_\theta{\hat\mathcal{L}}$
将梯度应用于合适的神经网络优化器（例如，Adam）

注意

在某些情况下，独立的网络更优，如：

独立优

原因

解决方案

\min _{\theta^{5}, \theta^{1}, \ldots, \theta^{T}} \sum_{i=1}^{T} \mathscr{L}_{i}\left(\left\{\theta^{s h}, \theta^{i}\right\}, \mathscr{D}_{i}\right)+\sum_{t=1}^{T}\left\|\theta^{t}-\theta^{t^{\prime}}\right\|

这里， $\sum_{t=1}^{T}\left\|\theta^{t}-\theta^{t^{\prime}}\right\|$ 是软参数共享，它可以平滑地约束两个网络之间的权重，允许参数共享的程度非常灵活：

软参数共享

原因：共享不足
解决方案：共享更多信息，形成更加强的规则形式

多任务学习	迁移学习
同时解决多个任务 $\mathcal{T}_1, \cdots, \mathcal{T}_T$	在解决源任务 $\mathcal{T}_a$ 后，将从任务 $\mathcal{T}_a$ 所学的知识迁移，从而解决目标任务 $\mathcal{T}_b$