爆炸音尘——开云体育

ViT 三大中枢作家集体辞职谷歌 DeepMind。下一站：OpenAI！

他们永诀是翟晓华（Xiaohua Zhai）、卢卡斯 · 拜尔（Lucas Beyer）、亚历山大 · 科列斯尼科夫（Alexander Kolesnikov）。

相关音尘已被本东说念主阐发，三东说念主均官宣了新动向。

2021 年，他们三东说念主算作共并吞作的贪图机视觉鸿沟神作 ViT 发布即刷新 ImageNet 最高分。

这项征询阐发了 CNN 在 CV 鸿沟不是必需的，Transformer 从 NLP 跨界，一样不错取得先进遵循。始创了 Transformer 在 CV 鸿沟运用的先河。

当今这篇论文被援用量已向上4.9 万。

此外，他们还共同建议了 SigLIP、PaliGamma 等 SOTA 级职责。

几周后，他们将防范加入 OpenAI 苏黎世施行室。

值得一提的是，Wired 方面音尘称，三东说念主是被 OpenAI 挖走的。

网友挑剔：能撬动这一"铁三角"黄金组合，OpenAI 确切太侥幸了。

ViT 三大中枢作家投靠 OpenAI

Xiaohua Zhai（翟晓华）

此前他是 Google DeepMind 的高档征询员，引诱着苏黎世一个多模态征询小组。重心征询多模态数据（WebLI）、通达权重模子 ( SigLIP、PaliGemma ) 以及文化包容性。

当今谷歌学术援用数超六万多。

2014 年他毕业于北京大学，赢得贪图机系博士学位；本科毕业于南京大学。一毕业就赶赴谷歌苏黎世职责。

Lucas Beyer

这位通常亦然谷歌 DeepMind 苏黎世小组的一位成员，共同引诱着 DeepMind 的多模态征询团队和基础过失。

当今一经撰写超 50 篇论文，被 CVPR、NeurIPS、ICCV 等这些顶级会议剿袭。

据他个东说念主官网中先容，他在比利时长大，曾梦念念制作电子游戏以及从事 AI 征询。自我认定为「自学成才的黑客和征询科学家，奋力于于创造飞凡什物」。

他在德国亚琛工业大学学习机械工程，并在那儿赢得了机器东说念主感知和贪图机视觉博士学位。2018 年加入谷歌。

Alexander Kolesnikov

2018 年以来，他就在谷歌大脑，现为 DeepMind 团队职责。之前主要竖立包括历练 SOTA 视觉模子 *（从 2019 年到 2021 年王人终结了 ImageNet SOTA）；通达权重模子（SigLIP 和 PaliGemma），以及神经架构方面的职责：BiT、ViT、MLP-Mixer 和 FlexiViT。

除此除外，编写机动、高性能的征询基础过失，尤其是 Jax。

此前，他在奥地利科学技艺征询所（ISTA）攻读博士学位，征询看法是弱监督学习和图像生成模子。

曾是谷歌 CV 的"黄金铁三角"

在谷歌任职期间，三东说念主屡次攀附并带来了影响鸿沟发展的费劲职责。

其中最费劲的一篇莫过于 ViT。

这篇征询考据了 Transformer 架构在贪图机视觉鸿沟的通用性。在它的基础上养殖出了 Swin Transformer、DeiT（efficient Image Transformers）等。

它更正性建议将图像分割成固定大小的块（patches），并将每个块视为一个序列元素，与 NLP 中的单词访佛。然后，这些块通过变换器进行束缚。

在好多视觉任务中，ViT 在性能上向上了传统的 CNN 模子，尤其是在大限制数据集上进行历练时发挥尤为超越。举例，在 ImageNet 分类任务中，ViT 取得了与开始进的 CNN 模子终点致使更好的甘休。

此外他们还攀附推出了 MLP-Mixer、BiT（CV 界的 BERT）等鸿沟内著明职责。

参考聚积：

[ 1 ] https://www.wired.com/story/openai-hires-deepmind-zurich/

[ 2 ] https://kolesnikov.ch/

[ 3 ] https://sites.google.com/view/xzhai

[ 4 ] https://lucasb.eyer.be/开云体育