AlphaFold2 成功秘诀：注意力机制取代卷积网络，预测准确性提升超 30%

图片地址：https://img.ithome.com/newsuploadfiles/2021/7/37568172-f02f-475c-b16d-8a10e6bd2946.png

最近，DeepMind 开源 AlphaFold2，让学术圈再一次沸腾了。这意味着，对于普通研究人员而言曾需要花几年时间才能破解的蛋白质结构，现在用 AlphaFold2 几小时就能算出来了！那么，如此厉害的 AlphaFold2 究竟如何做到的呢？DeepMind 团队已经将它的详细信息在《Nature》上公开发表。现在，就让我们来看看 AlphaFold2 的魔法是怎么实现的吧。卷积消失了，Attention 来了论文中，研究人员强调 AlphaFold2 是一个完全不同于 AlphaFold 的新模型。的确，它们使用的模型框架都不一样，这也是 AlphaFold2 准确性能够突飞猛进的主要原因。此前 AlphaFold 中所有的卷积神经网络，现在都被替换成了 Attention。为什么要这样做呢？我们首先要了解一下 AlphaFold 的工作原理：它主要是通过预测蛋白质中每对氨基酸之间的距离分布，以及连接它们的化学键之间的