novel deep learning research works with PaddlePaddle

Overview

Research

发布基于飞桨的前沿研究工作,包括CV、NLP、KG、STDM等领域的顶会论文和比赛冠军模型。

目录

计算机视觉

任务类型 目录 简介 论文链接
图像检索 GNN-Re-Ranking 基于GNN的快速图像检索Re-Ranking。 https://arxiv.org/abs/2012.07620v2
车流统计 VehicleCounting AICITY2020 车流统计竞赛datasetA TOP1 方案。 -
车辆再识别 PaddleReid 给定目标车辆,在检索库中检索同id车辆,支持多种特征子网络。 -
车辆异常检测 AICity2020-Anomaly-Detection 在监控视频中检测车辆异常情况,例如车辆碰撞、失速等。 -
医学图像分析 AGEchallenge 任务:在AS-OCT图像的公共数据集上进行闭角型分类和巩膜突点定位;基线模型:对应以上各任务的基线模型。 -
光流估计 PWCNet 基于金字塔式处理,逐层学习细部光流,设计代价容量函数三原则的CNN模型,用于光流估计。 https://arxiv.org/abs/1709.02371
语义分割 SemSegPaddle 针对多个数据集的图像语义分割模型的实现,包括Cityscapes、Pascal Context和ADE20K。 -
轻量化检测 astar2019 百度之星轻量化检测比赛评测工具。 -
地标检索与识别 landmark 基于检索的地标检索与识别系统,支持地标型与非地标型识别、识别与检索结果相结合的多重识别结果投票和重新排序。 https://arxiv.org/abs/1906.03990
图像分类 webvision2018 模型利用重加权网络(URNet)缓解web数据中偏倚和噪声的影响,进行web图像分类。 https://arxiv.org/abs/1811.00700
图像分类 CLPI 模型利用一个Lesion Generator改善了糖尿病视网膜病变图像分级的模型性能,理论上可用于所有希望实现局部+整体模型分析的场景 -
小样本学习 PaddleFSL 小样本学习工具包,可复现多个常用基线方法在多个图片分类数据集上的汇报效果 -

自然语言处理

任务类型 目录 简介 论文链接
中文词法分析 LAC(Lexical Analysis of Chinese) 百度自主研发中文特色模型词法分析任务,集成了中文分词、词性标注和命名实体识别任务。输入是一个字符串,而输出是句子中的词边界和词性、实体类别。 -
主动对话 DuConv 机器根据给定知识信息主动引领对话进程完成设定的对话目标。 https://www.aclweb.org/anthology/P19-1369/
语义解析 Text2SQL-BASELINE 输入自然语言问题和相应的数据库,生成与问题对应的 SQL 查询语句,通过执行该 SQL 可得到问题的答案。 -
多轮对话 DAM 开放领域多轮对话匹配的深度注意力机制模型,根据多轮对话历史和候选回复内容,排序出最合适的回复。 http://aclweb.org/anthology/P18-1103
阅读理解 DuReader 数据集:大规模、面向真实应用、由人类生成的中文阅读理解数据集,聚焦于真实世界中的不限定领域的问答任务;基线系统:针对DuReader数据集实现的经典BiDAF模型。 https://www.aclweb.org/anthology/W18-2605/
关系抽取 ARNOR 数据集:用于对远程监督关系提取模型进行句子级别的评价;模型:基于注意力正则化识别噪声数据,通过bootstrap方法逐步选择出高质量的标注数据。 https://www.aclweb.org/anthology/P19-1135/
机器翻译 JEMT 模型的输入端包括文字信息及发音信息,嵌入层融合文字信息和发音信息进行翻译。 https://arxiv.org/abs/1810.06729
阅读理解 KTNET 模型将知识库中的知识整合到预先训练好的上下文表示中,利用丰富的知识增强机器阅读理解的预训练语言表示。 https://www.aclweb.org/anthology/P19-1226
对话生成 PLATO 基于隐空间的端到端的预训练对话生成模型,可以灵活支持多种对话,包括闲聊、知识聊天、对话问答等。 http://arxiv.org/abs/1910.07931
阅读理解 DuReader-Robust-BASELINE 数据集:DuReader-robust,中文数据集,用于全面评价机器阅读理解模型的鲁棒性;基线系统:针对该数据集,基于ERNIE实现的阅读理解基线系统。 https://arxiv.org/abs/2004.11142
对话生成 AKGCM 包含知识增强图、知识选择和知识感知响应生成器的聊天机器人。 https://www.aclweb.org/anthology/D19-1187/
机器翻译 MAL 多智能体端到端联合学习框架,通过多个智能体的互相学习提升翻译质量。 https://arxiv.org/abs/1909.01101
对话生成 MMPMS 针对开放域对话中一对多问题,利用多映射机制和后验映射选择模块进行多样性、丰富化的对话生成。 https://arxiv.org/abs/1906.01781
阅读理解 MRQA2019-BASELINE 机器阅读理解任务的基线模型,基于ERNIE预训练模型,支持多GPU微调预测。 -
阅读理解 D-NET 预训练及微调框架,包含多任务学习及多预训练模型的融合,用于阅读理解模型的生成。 https://www.aclweb.org/anthology/D19-5828/
建议挖掘 MPM 利用多视角架构来学习表示和双向transformer编码器进行论坛评论建议挖掘。 https://www.aclweb.org/anthology/S19-2216/
多文档摘要 ACL2020-GraphSum 基于图表示的生成式多文档摘要模型,将显式图结构信息引入到端到端摘要生成过程中。 https://www.aclweb.org/anthology/2020.acl-main.555.pdf
融合多种对话类型的对话式推荐 ACL2020-DuRecDial 提出新任务:融合闲聊、任务型对话、问答和推荐等多种对话类型的对话式推荐,构建DuRecDial数据集,提出具有多对话目标驱动策略机制的对话生成框架。 https://www.aclweb.org/anthology/2020.acl-main.98/
面向推荐的对话 Conversational-Recommendation-BASELINE 融合人机对话系统和个性化推荐系统,定义新一代智能推荐技术,该系统先通过问答或闲聊收集用户兴趣和偏好,然后主动给用户推荐其感兴趣的内容,比如餐厅、美食、电影、新闻等。 -
稠密段落检索 ACL2021-PAIR 基于以段落相似度为中心的相似度关系提升稠密段落检索,基于知识蒸馏进行采样,采用两阶段训练方式。 https://aclanthology.org/2021.findings-acl.191/

知识图谱

任务类型 目录 简介 论文链接
知识图谱表示学习 CoKE 百度自主研发语境化知识图谱表示学习框架CoKE,在知识图谱链接预测和多步查询任务上取得学界领先效果。 https://arxiv.org/abs/1911.02168
关系抽取 DuIE_Baseline 语言与智能技术竞赛关系抽取任务DuIE 2.0基线系统,通过设计结构化标注体系,实现基于ERNIE的端到端SPO抽取模型。 -
事件抽取 DuEE_baseline 语言与智能技术竞赛事件抽取任务DuEE 1.0基线系统,实现基于ERNIE+CRF的Pipeline事件抽取模型。 -
实体链指 DuEL_Baseline 面向中文短文本的实体链指任务(CCKS 2020)的基线系统,实现基于ERNIE和多任务机制的实体链指模型。 -
辅助诊断 SignOrSymptom_Relationship 针对EMR具有无结构化文本和结构化信息并存的特点,结合医疗NLU,以深度学习模型实现EMR的向量化表示、诊断预分类和概率计算。 -
文档级关系抽取 SSAN 引入并建模实体间的依赖结构,在文档级关系抽取任务上取得学界领先效果。 https://arxiv.org/abs/2102.10249

时空数据挖掘

任务类型 目录 简介 论文链接
固定资产价值估计 MONOPOLY 实用的POI商业智能算法,对大量其他的固定资产进行价值估计,包括城市居民对不同公共资产价格评估、私有房价评估偏好的发现与量化分析,以及对评估固定资产价格需考虑的空间范围的确定。 https://dl.acm.org/doi/10.1145/3357384.3357810
兴趣点生成 P3AC 具备个性化的前缀嵌入的POI自动生成。 -
区域生成 P3AC 基于路网进行区域划分的方法, 实现对特定区域基于路网的全划分,区域之间无交叠,无空隙,算法支持对全球的区域划分。 -

许可证书

此向导由PaddlePaddle贡献,受Apache-2.0 license许可认证。

A demo of chinese asr

chinese_asr_demo 一个端到端的中文语音识别模型训练、测试框架 具备数据预处理、模型训练、解码、计算wer等等功能 训练数据 训练数据采用thchs_30,

4 Dec 09, 2021
Enterprise Scale NLP with Hugging Face & SageMaker Workshop series

Workshop: Enterprise-Scale NLP with Hugging Face & Amazon SageMaker Earlier this year we announced a strategic collaboration with Amazon to make it ea

Philipp Schmid 161 Dec 16, 2022
Simple translation demo showcasing our headliner package.

Headliner Demo This is a demo showcasing our Headliner package. In particular, we trained a simple seq2seq model on an English-German dataset. We didn

Axel Springer News Media & Tech GmbH & Co. KG - Ideas Engineering 16 Nov 24, 2022
Clone a voice in 5 seconds to generate arbitrary speech in real-time

This repository is forked from Real-Time-Voice-Cloning which only support English. English | 中文 Features 🌍 Chinese supported mandarin and tested with

Weijia Chen 25.6k Jan 06, 2023
Task-based datasets, preprocessing, and evaluation for sequence models.

SeqIO: Task-based datasets, preprocessing, and evaluation for sequence models. SeqIO is a library for processing sequential data to be fed into downst

Google 290 Dec 26, 2022
A paper list of pre-trained language models (PLMs).

Large-scale pre-trained language models (PLMs) such as BERT and GPT have achieved great success and become a milestone in NLP.

RUCAIBox 124 Jan 02, 2023
Extract city and country mentions from Text like GeoText without regex, but FlashText, a Aho-Corasick implementation.

flashgeotext ⚡ 🌍 Extract and count countries and cities (+their synonyms) from text, like GeoText on steroids using FlashText, a Aho-Corasick impleme

Ben 57 Dec 16, 2022
NeurIPS'21: Probabilistic Margins for Instance Reweighting in Adversarial Training (Pytorch implementation).

source code for NeurIPS21 paper robabilistic Margins for Instance Reweighting in Adversarial Training

9 Dec 20, 2022
A relatively simple python program to generate one of those reddit text to speech videos dominating youtube.

Reddit text to speech generator A basic reddit tts video generator Current functionality Generate videos for subs based on comments,(askreddit) so rea

Aadvik 17 Dec 19, 2022
An Explainable Leaderboard for NLP

ExplainaBoard: An Explainable Leaderboard for NLP Introduction | Website | Download | Backend | Paper | Video | Bib Introduction ExplainaBoard is an i

NeuLab 319 Dec 20, 2022
nlabel is a library for generating, storing and retrieving tagging information and embedding vectors from various nlp libraries through a unified interface.

nlabel is a library for generating, storing and retrieving tagging information and embedding vectors from various nlp libraries through a unified interface.

Bernhard Liebl 2 Jun 10, 2022
A framework for implementing federated learning

This is partly the reproduction of the paper of [Privacy-Preserving Federated Learning in Fog Computing](DOI: 10.1109/JIOT.2020.2987958. 2020)

DavidChen 46 Sep 23, 2022
GPT-3: Language Models are Few-Shot Learners

GPT-3: Language Models are Few-Shot Learners arXiv link Recent work has demonstrated substantial gains on many NLP tasks and benchmarks by pre-trainin

OpenAI 12.5k Jan 05, 2023
Reproducing the Linear Multihead Attention introduced in Linformer paper (Linformer: Self-Attention with Linear Complexity)

Linear Multihead Attention (Linformer) PyTorch Implementation of reproducing the Linear Multihead Attention introduced in Linformer paper (Linformer:

Kui Xu 58 Dec 23, 2022
Tensorflow Implementation of A Generative Flow for Text-to-Speech via Monotonic Alignment Search

Tensorflow Implementation of A Generative Flow for Text-to-Speech via Monotonic Alignment Search

Ankur Dhuriya 10 Oct 13, 2022
[NeurIPS 2021] Code for Learning Signal-Agnostic Manifolds of Neural Fields

Learning Signal-Agnostic Manifolds of Neural Fields This is the uncleaned code for the paper Learning Signal-Agnostic Manifolds of Neural Fields. The

60 Dec 12, 2022
Code for Editing Factual Knowledge in Language Models

KnowledgeEditor Code for Editing Factual Knowledge in Language Models (https://arxiv.org/abs/2104.08164). @inproceedings{decao2021editing, title={Ed

Nicola De Cao 86 Nov 28, 2022
Th2En & Th2Zh: The large-scale datasets for Thai text cross-lingual summarization

Th2En & Th2Zh: The large-scale datasets for Thai text cross-lingual summarization 📥 Download Datasets 📥 Download Trained Models INTRODUCTION TH2ZH (

Nakhun Chumpolsathien 5 Jan 03, 2022
A python package for deep multilingual punctuation prediction.

This python library predicts the punctuation of English, Italian, French and German texts. We developed it to restore the punctuation of transcribed spoken language.

Oliver Guhr 27 Dec 22, 2022
SummerTime - Text Summarization Toolkit for Non-experts

A library to help users choose appropriate summarization tools based on their specific tasks or needs. Includes models, evaluation metrics, and datasets.

Yale-LILY 213 Jan 04, 2023