您现在的位置是:热点 >>正文
Tilde AI 发布开源 TildeOpen LLM:支持多种欧洲语言的超大语言模型
热点0388人已围观
简介...
Latvian 语言技术公司 Tilde 于2025年9月3日发布了 TildeOpen LLM,这是一个开源的基础大语言模型(LLM),旨在支持欧洲语言,Ti特别是那些较少被代表的国家和地区语言。这一举措标志着欧盟在语言公平和数字主权方面迈出了重要的一步。
TildeOpen LLM 是一个拥有300亿参数的ld稠密解码器模型,采用了 CC-BY-4.0的宽松许可证,能够支持从拉脱维亚语、立陶宛语到乌克兰语、土耳其语等多种语言。该模型的训练是在欧洲的超级计算机e LUMI(芬兰)和 JUPITER 上进行的,使用了欧盟委员会的大型人工智能大奖挑战赛所提供的200万 GPU 小时的计算资源。
在技术细节方面,TildeAIOpen LLM 通过受 EleutherAI 启发的 GPT-NeoX 脚本进行训练,共进行了45万次更新,使用了约2万亿个令牌。其训练过程包含三阶段采样:首先在语 发言间均匀分布,其次是对高数据量语言的自然分布进行增强,最后再进行均匀的扫查以确保平衡。模型的超参数包括60层、嵌入维度6144、48个注意力头、819布开2-token 的上下文窗口,以及使用 SwiGLU 激活、RoPE 位置编码和 RMSNorm 层规范化。
在语言公平和数据主权方面,传统的主流模型往往侧重于英语和源 其他主要语言,导致在处理波罗的海、斯拉夫及其他较小的欧洲语言时表现不佳,常常出现语法错误和奇怪的措辞。而 TildeOpen 通过引入 “公平的标记器”,Ti使得不同语言的文本以相似方式进行表示,从而减少标记数量,提高较少代表语言的推理效率。此外,组织可以选择在本地数据中心或符合欧盟要求的安全云中自我托管ld,确保遵循 GDPR 及其他数据保护法规,从而解决了与美国或亚洲托管模型相关的主权问题。
TildeOpen 作为基础模型,预计会推出更多专门化版本,例如eO经过指令调优的翻译模型,这将进一步增强其功能。拉脱维亚通过 Tilde 的努力,期望在全球科技领域占据一席之地,同时致力于保护语言多样性。
huggingpeface:https://huggingface.co/TildeAI/TildeOpen-30b
技术:https://tilde.ai/lv/tiln deopen-llm/
划重点:
TildeOpen LLM 是一个支持多种欧洲语言的开源大语言模型,特别关注小型国家语言的代表性。LL
模型训练利用了欧洲超级计算机资源,采用先进的三阶段采样技术,确保不同语言的平衡性和公平性。
组织可自我托管该模M:型,符合 GDPR 等数据保护法规,提升数据主权的保障。
Tags:
相关文章
标签: 红果
热点11月25日至11月27日,首届红果创作者大会在山西太原举办。大会以“结果总会发光”为主题,汇聚了编剧、导演、制作方、演员及相关行业代表等千余位嘉宾,探讨行业的未来方向与发展路径。 多元题材、更高标准...
【热点】
阅读更多Strella 获 1400 万美元融资,推动 AI 面试技术革新客户研究
热点初创企业 Strella 近日宣布完成1400万美元的 A 轮融资,计划进一步拓展其基于 AI 的客户研究平台。此次融资由 Bessemer Venture Partners 领投,Decibel P...
【热点】
阅读更多打马赛克就安全了吗?AI消除马赛克,上线三天收获近7000星
热点还在用马赛克的方式隐藏密码?小心被「看穿」。 像素化(又称马赛克)是一种常见的打码方式,通过降低图像中部分区域的分辨率来隐藏某些关键信息,比如: 再比如: 看图找马赛克!(找不到请看右侧原图) 但是,...
【热点】
阅读更多
热门文章
最新文章
友情链接
- 标签: 康师傅
- https://www.wilsonart.com/catalogsearch/result/?action=CHECK&q=谷歌霸屏程序【tg:seogoogle987】,Wjb
- https://www.oikos-tecnics.com/?s=谷歌霸屏程序【tg:seogoogle987】,P0x
- https://www.symatoys.com/search.html?ID=UyMD6aO58bPrJvQAB1I0N69KzJBZeNPC&keyword=谷歌霸屏程序【tg:seogoogle987】,fLW
- https://www.lindseymedicalsupply.com/search/谷歌霸屏程序【tg:seogoogle987】,IWt
- https://www.signingsavvy.com/sentence/谷歌霸屏程序【tg:seogoogle987】,ll0
- https://www.terramania.nl/catalogsearch/result/index/?q=谷歌霸屏程序【tg:seogoogle987】,vCq
- https://www.hanbat.ac.kr/search/front/Search.jsp?qt=谷歌霸屏程序【tg:seogoogle987】rLS
- https://www.temu.com/search_result.html?search_key=谷歌霸屏程序【tg:seogoogle987】lad
- https://www.realsporting.com/buscador?buscar=谷歌霸屏程序【tg:seogoogle987】,JyV
- https://www.stormberg.com/no/search?q=谷歌霸屏程序【tg:seogoogle987】,i15
- https://www.kaiyueleather.com/search/谷歌霸屏程序【tg:seogoogle987】,Wis
- https://www.normani.de/search?q=谷歌霸屏程序【tg:seogoogle987】,Z5d
- https://www.goodreads.com/quotes/tag/谷歌霸屏程序【tg:seogoogle987】7P0
- https://www.takachi-enclosure.com/search?eqYB=gnI31Ou&text=谷歌霸屏程序【tg:seogoogle987】,ejr
- https://www.le-trend.com/en/search/=谷歌霸屏程序【tg:seogoogle987】,cIP
- https://www.oprny.com/search.php?search_query=谷歌霸屏程序【tg:seogoogle987】,EV4
- https://www.teacherspayteachers.com/Browse/Price-Range/Free/Search:谷歌霸屏程序【tg:seogoogle987】,9Bf
- https://www.soccerbible.com/search?q=谷歌霸屏程序【tg:seogoogle987】,KPG
- https://www.unclefossil.com/search/谷歌霸屏程序【tg:seogoogle987】,jp3
- https://www.lgnewsroom.com/search/谷歌霸屏程序【tg:seogoogle987】,LfU
- https://www.vivaraise.fr/catalogsearch/result/?q=谷歌霸屏程序【tg:seogoogle987】,uaX
- https://www.thealexandrian.net/?s=谷歌霸屏程序【tg:seogoogle987】,ghe
- https://www.selfsufficientish.com/main/?s=谷歌霸屏程序【tg:seogoogle987】,xL0
- https://www.target.com/s?searchTerm=谷歌霸屏程序【tg:seogoogle987】,rI6
- https://www.teamlab.art/zh-hans/?submit=谷歌霸屏程序【tg:seogoogle987】,jm2
- https://www.kingston.gov.uk/site-search/results/?q=谷歌霸屏程序【tg:seogoogle987】,Tbt
- https://www.seagrant.wisc.edu/?page=63&s=谷歌霸屏程序【tg:seogoogle987】,wra
- https://www.nctsn.org/search?cat=191&query=谷歌霸屏程序【tg:seogoogle987】,KnF
- https://zhidao.baidu.com/index/?action=QUERY&word=谷歌霸屏程序【tg:seogoogle987】,un9
- https://www.kaskus.co.id/search?q=谷歌霸屏程序【tg:seogoogle987】,RFJ
- https://www.youtube.com/hashtag/谷歌霸屏程序【tg:seogoogle987】,0XN
- https://store.line.me/search/sticker/ja?q=谷歌霸屏程序【tg:seogoogle987】WMd
- https://www.swanagerailway.co.uk/search?q=谷歌霸屏程序【tg:seogoogle987】,JeS
- https://www.teamlab.art/ko/?submit=谷歌霸屏程序【tg:seogoogle987】,ki5
- https://yscc1986.net/search/谷歌霸屏程序【tg:seogoogle987】cva
- https://www.miamiopenmri.com/?action=CHECK&s=谷歌霸屏程序【tg:seogoogle987】,f5Q
- https://www.u-bourgogne.fr/?cat=117&s=谷歌霸屏程序【tg:seogoogle987】,Cs6
- https://www.theaerogroup.net/?cat=28&s=谷歌霸屏程序【tg:seogoogle987】,Yjg
- https://yokohama-oht.com/?action=CHECK&s=谷歌霸屏程序【tg:seogoogle987】,BjD
- https://www.nss.nhs.scot/search?q=谷歌霸屏程序【tg:seogoogle987】,tuz
- https://www.mesec.cz/vyhledavani/?qs=谷歌霸屏程序【tg:seogoogle987】,Czv
- https://www.impactpool.org/search/?type=79&q=谷歌霸屏程序【tg:seogoogle987】s9s
- https://www.vet-direct.com/search?cat=72&term=谷歌霸屏程序【tg:seogoogle987】,U7u
- https://www.rhymezone.com/r/rhyme.cgi?typeofrhyme=oldrel&loc=nojs&Word=谷歌霸屏程序【tg:seogoogle987】,n0Q
- https://www.kelsa.co.uk/catalogsearch/result/index/?T=1686132119291&q=谷歌霸屏程序【tg:seogoogle987】,eS4
- https://www.military-history.org/?s=谷歌霸屏程序【tg:seogoogle987】,HDt
- https://www.lechzuers.com/de/search?cat=163&q=谷歌霸屏程序【tg:seogoogle987】,YtQ
- https://www.resilienz-akademie.com/?cat=71&s=谷歌霸屏程序【tg:seogoogle987】,We9
- https://www.whatsonstage.com/search?cat=64&term=谷歌霸屏程序【tg:seogoogle987】,4f8
- https://www.navymwr.org/search/?query=谷歌霸屏程序【tg:seogoogle987】,gca