绘图员
,,,*,,*,,.
这个 repo 是的官方实现。 .
更新
06/10/2021
初始提交：
许可证文件和示例代码。
介绍
Graphormer最初是在描述的，它是一个标准的 Transformer 架构，具有多种结构编码，可以有效地将图的结构信息编码到模型中。
Graphormer 在 PCQM4M-LSC（ 0.1234 MAE ）、MolPCBA（测试值为31.39 AP(%) )、MolHIV（测试值为80.51 AUC(%) ）和 ZINC（测试值为0.122 MAE on test 80.51 AUC(%)上取得了强劲的性能，比之前的模型高出一倍大保证金。
主要结果
引用 Graphormer
@article{ying2021transformers,
title={Do Transformers Really Perform Bad for Gr
2023-03-29 17:09:50
6KB
1
俄罗斯新闻集群标题选择的变形金刚_Transformers for Headline Selection for Russian News Clusters.pdf
2022-01-22 09:02:13
91KB
大鸟：变形金刚更长的序列
这不是Google的官方产品。
什么是BigBird？
BigBird是一种基于稀疏注意的转换器，它将基于Transformer的模型（例如BERT）扩展到更长的序列。 此外，BigBird还具有对稀疏模型可以处理的完整变压器的功能的理论理解。
由于能够处理更长的上下文，BigBird极大地提高了各种NLP任务（例如问题回答和摘要）的性能。
更多详细信息和比较可以在我们的找到。
引文
如果您觉得这很有用，请引用我们的：
@article{zaheer2020bigbird,
title={Big bird: Transformers for longer
2021-12-10 11:04:07
1.24MB
1
变形金刚
作者：*，*，*，*，，，和。
此回购协议是的正式实现。 当前，它包含用于以下任务的代码和模型：
图像分类：包含在此仓库中。 有关快速，请参见 。
对象检测和实例分割：有关对象检测，请参见 。
语义分割：有关语义分割的信息，请参见 。
更新
2021年4月12日
初始提交：
提供了ImageNet-1K（ ， ， ）和ImageNet-22K（ ， ）上。
提供了用于ImageNet-1K图像分类，COCO对象检测和ADE20K语义分割的受支持代码和模型。
在分支提供了用于的cuda内核实现。
介绍
欧亚变压器（名称Swin代表对于s hifted赢得DOW）最初描述 ，其干练作为一个通用的骨干，为计算机视觉。 它基本上是一个分层的Transformer，其表示是通过移动窗口来计算的。 通过将自注意计算限制为不重叠的局部窗口，同时允许跨窗口连接，移位的窗
2021-10-29 11:18:31
927KB
1
BERT的最好的朋友。
安装
Ernie需要Python 3.6或更高版本。
pip install ernie
微调
句子分类
from ernie import SentenceClassifier , Models
import pandas as pd
tuples = [( "This is a positive example. I'm very happy today." , 1 ),
( "This is a negative sentence. Everything was wrong today at work." , 0 )]
df = pd . D
2021-05-28 15:48:32
201KB
1