大家发现不需要训练专门的机器翻译系统htT也能在不同语种之间自由翻译和转换。用htT做翻译或者使用其他语言去给htT发指令往往给非英语说话人留下深刻的第一印象。 很多人对语言智能的认知还停留在金山词霸阶段 —— 有个多语种的电子词典可以做双语种互相翻译。
可是如果有这么个htT神器可以接受我用母语输入并能 乌拉圭 whatspp 数据 用我看得懂的语言智能地做出回答可真是太神奇了。 于是很多人不禁要问既然大语言模型这么神奇是不是这世界上的低资源语言也有救了？ 语言学鼻祖m hmy毕生致力于发展一门世界通用语法m。
他有一段非常出名的比喻如果外星人来到有语言。因为在他们看来地球上每一种语言都遵循同样的语法只不过大家说的是不同的“方言”而已。 如果htT能在多种语言之间切换自如那它是否破解了这世界通用语法的奥秘？ 低资源语言在大语言模型 中的代表性仍然不足尽管大语言模型具有变革潜力但现实仍然是大语言模型主要迎合英语和少数其他高资源语言。
对T-等模型使用的训练语料库进行仔细检查后发现各语种存在明显的不平衡 英语占主导地位T-的训练语料绝大多数是英语占数据的. 。htT基于-.等后续模型延续了这一趋势。 有限代表的语言分析仅限于T-语料库 只有两种语言占T-语料库的以上即法语 . 和德语 .。
另外种语言落在.到的范围内包括西班牙语意大利语葡萄牙语荷兰语俄语罗马尼亚语波兰语芬兰语丹麦语瑞典语日语挪威语。 值得注意的是像中文和印地语这样的语言总共有超过亿人使用甚至没有达到语料库. 的门槛。