丰言的博客

转载自
https://www.zhihu.com/people/openmmlab
https://mmdeploy.readthedocs.io/zh_CN/latest/tutorial/06_introduction_to_tensorrt.html

介绍以下内容：

• 部署流水线 PyTorch - ONNX - ONNX Runtime/TensorRT 的示例及常见部署问题的解决方法
• PyTorch 模型转换到 ONNX 模型的方法
• 中间表示 ONNX 的定义标准
• 推理引擎 ONNX Runtime、TensorRT 的使用方法

通过deepin-wine方式在Ubuntu22.04中安装微信。

对各种tokenization方法进行总结。

Ubuntu实用软件推荐。

参考:

• https://www.jianshu.com/p/9f113adc0c50
• https://zhuanlan.zhihu.com/p/468828804
• https://www.bilibili.com/video/av24724071/?p=4

总结一下文本对抗生成的方法。

传统Transformer的Self Attention架构会带来\(O(n^2)\)的复杂度，总结一下对Self Attention结构进行优化的工作。

机构：Google Research
论文地址：

• https://arxiv.org/pdf/2007.14062.pdf

论文地址：

• https://arxiv.org/pdf/2004.05150.pdf

论文代码：

• https://github.com/allenai/longformer

机构：OpenAI
论文地址：

• https://arxiv.org/pdf/1904.10509.pdf