Meta 发布 Megabyte AI 模型抗衡 Transformer：解决后者已知问题、速度提升 4 成
-
2023-05-30 20:57:29
来源：亚汇网
-
(资料图片仅供参考)
▲图源Arxiv目前Transformer在自然语言处理等领域非常流行，但由于其序列数据的处理方式是逐步进行的，无法并行化处理，因此训练速度较慢；难以处理长序列，因为其在反向传播过程中，梯度很容易消失或爆炸；此外，由于需要在每一步保留历史信息，内存消耗较大。而Megabyte模型将输入和输出序列划分为patch，而不是单个的token。这种架构使得对大多数任务而言字节级别的预测相对容易，例如根据前几个字符预测完成的单词等。这意味着在大型网络中可以精简字符以提升效率，并且内部预测可以使用更小的模型进行。Megabyte模型的这种方法解决了当今AI模型所面临的训练速度、可靠性及硬件占用比挑战。▲图源Arxiv此外，在计算效率方面，相比于等大的Transformer和LinearTransformer，Megabyte模型在固定模型大小和序列长度范围内使用更少的token。因此相对于Transformer，Megabyte模型可以在相同的计算成本下训练内容更丰富、体积更大、性能更好的模型。目前Meta团队放出了Megabyte模型的论文，
标签：
推荐阅读
▲图源Arxiv目前Traforr在自然语言处理等领域非常流行，但由于其序列数据的处理方式是逐步进行的，无法并行
万亿区、千亿县……中国区域经济高歌猛进的同时，无论是城市还是乡村都不断催生出新的“巨无霸”亮点。...
作者崔东树全国乘用车市场信息联席会秘书长国家统计局数据显示，2023年1-4月份，随着经济社会全面恢复常态
今天小编宋丹来为大家解答以上的问题。口腔医学技术就业前景分析，口腔医学技术就业前景相信很多小伙伴还不
据中国载人航天工程办公室消息，神舟十六号载人飞船入轨后，于北京时间2023年5月30日16时29分，成功对接于
猜您喜欢
【版权及免责声明】凡注明"转载来源"的作品，均转载自其它媒体，转载目的在于传递更多的信息，并不代表本网赞同其观点和对其真实性负责。亚洲商务网倡导尊重与保护知识产权，如发现本站文章存在内容、版权或其它问题，烦请联系。
联系方式：8 86 239 5@qq.com，我们将及时沟通与处理。
清明节假期期间 云南省共接待游客826.6万人次
长春九台推进农村土地制度改革：废弃的村办砖厂被再次盘活
