微软致力于用1年时间干掉密码

图 3 显示了不同块大小对最终性能和优化速度的影响。我们可以观察到以下几点：

随着打乱程度的加剧，RI-T 和 P-T 的最终性能都会下降，任务越发困难；

相对精度差异随块尺寸（clipart, real）的减小而减小，说明特征复用很有效果；

quickdraw 上情况相反是由于其数据集和预训练的数据集相差过大，但是即便如此，在 quickdraw 上预训练还是有效的，说明存在除了特征复用以外的因素；

P-T 的优化速度相对稳定，而 RI-T 的优化速度随着块尺寸的减小时存在急剧的下降。这表明特征复用并不是影响 P-T 训练速度的主要因素。

由上述实验得出结论，特征复用在迁移学习中起着非常重要的作用，尤其是当下游任务与预训练域共享相似的视觉特征时。但是仍存在其他因素，例如低级别的统计信息，可能会带来迁移学习的显着优势，尤其是在优化速度方面。

失误和特征相似性

这部分主要通过探究不同模型有哪些 common mistakes 和 uncommon mistakes 来揭示预训练的作用。

为了理解不同模型之间的差异，作者首先比较两个 P-T，一个 P-T 加一个 RI-T 和两个 RI-T 之间的两类错误率并发现 P-T 和 RI-T 模型之间存在许多 uncommon mistakes，而两个 P-T 的 uncommon mistakes 则要少得多。对于 CheXpert 和 DomainNet 目标域，都是这种情况。

在 DomainNet 上可视化每个模型的两类错误并观察得到，P-T 不正确和 RI-T 正确的数据样本主要包括模棱两可的例子；而 P-T 是正确的数据样本和 RI-T 是不正确的数据样本也包括许多简单样本。

这符合假设，P-T 在简单样本上的成功率很高，而在比较模糊难以判断的样本上比较难 (而此时 RI-T 往往比较好)， 说明 P-T 有着很强的先验知识，因此很难适应目标域。

为了加强对上述想法的验证，团队成员又对特征空间中两个网络的相似性进行了研究。

通过中心核对齐 (CKA, Centered Kernel Alignment) 这一指标发现，P-T 的两个实例在不同层之间非常相似，在 P-T 和 P 之间也是如此。但是 P-T 和 RI-T 实例或两个 RI-T 实例之间，相似性非常低。
 

那么，其受欢迎的原因是什么呢?企业高管正在寻找敏捷、简单和可扩展的解决方案。当企业被要求快速交付项目并不得不应对传统IT设备的挑战时，这些特征将继续使云模型更具吸引力，就像在当前环境中运营的许多公司一样。

话虽如此，重要的是，领导者应避免急于采用“云优先”策略，而应选择“云最佳”方法。这意味着将云与企业业务战略保持一致，而不是相反。这样一来，它可以防止因报酬丰厚而超支，并使IT与业务需求紧密结合。

超越公共云和私有云的困境

那些初次接触云的人面临着经典的问题，即选择哪种类型的服务，公共服务还是私有服务。两者都有不同的用例，对于实现目标至关重要。例如，公共云是敏捷，可伸缩且易于使用的，非常适合希望快速启动和运行的团队。但是，私有云具有其自身的优势，主要是对数据和性能的控制程度更高。由于将数据托管在私有云中的组织可以完全控制这些数据，因此通常会有更一致的安全状态，更大程度的灵活性以及对这些数据的使用和管理方式的控制。此外，私有云通常可以为无法在公共云中运行而不影响性能问题的关键任务应用程序提供更快，更高吞吐量的环境。

但是，企业冒着陷入云鸿沟的危险，感觉好像公共云不适合其企业应用程序，或者内部企业基础结构不像公共云那样用户友好，简单或可扩展。最终，组织应该能够根据最适合自己业务的基础来选择基础架构，而不受技术的作用或所处的位置的限制。

在私有云或公共云之间进行选择的古老困境不再存在。出现了一种将两全其美的优势融合在一起的选择，即混合云。这已成为支撑公司所选择的“云最佳”方法的战略。它使他们能够同时利用具有企业级功能的私有云和公共云，并提供其所提供的所有敏捷性，易用性和动态性。

混合云是最佳云

作为这种“最佳云计算”方法的一部分，领导者需要了解，该技术已不再是孤立的交付选项的一部分，而应被纳入一项全面战略的一部分。包括公共和私有云，本地企业系统、边缘、软件即服务以及各种其他解决方案。他们还应该优先考虑可靠的数据策略，因为数据和应用程序的可移植性和移动性对于高效开发至关重要。

已有10年以上历史的大多数企业开始使用传统的仅限内部部署的产品组合，但现在正在考虑采用混合环境，其中应用程序可以在私有云和公共云之间无缝迁移。为此，他们需要一个解决方案，该解决方案可以统一云并在内部部署和云之间提供一组通用的数据服务，从而实现一致的存储功能，API和弹性，以便可以一次构建应用程序并可以在任何地方运行。因此，最好与公司的IT供应商紧密合作，以消除旧有IT基础架构的复杂性，并采用最佳云方法。

超过75%的中型和大型组织已采用或计划在2021年之前采用混合或多云策略，混合IT模式正继续受到青睐。不足为奇的是，这些模型以它们所提供的速度被采用公司在云计算领域两全其美，并为企业提供了急需的敏捷性。这就是为什么混合动力迅速成为数字业务的核心原则的原因。

（编辑：广安站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!