标签：BERT 李宏毅 Self supervise 学习 Learning 语音版 GPT
文章目录
3_BERT的奇闻轶事
Why does BERT work？
To Learn More
Multi-lingual BERT（多语言BERT）
BERT有跨语言的功能？前提是资料量要够多才能train起来…，过了两天loss掉下去了
BERT还有很多不被理解的，说明可以探究的空间很大
4_GPT的野望
20分钟就可以微调作业7了，但GPT实在太过巨大了，train一个epoch可能都有困难
How to use GPT？
Self-supervise Learning还有更多的领域应用，不止在翻译，还有CV
你也可以做语音版的GPT
语音版的 基准集，10个不同的任务
Self-supervise Learning在语音上，在图像上还有非常大的空间可以应用，加油！
标签：BERT,李宏毅,Self,supervise,学习,Learning,语音版,GPT 来源： https://blog.csdn.net/weixin_43154149/article/details/122115624
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。