Meta颁布1B和3B端侧模型 11B和90B多模态模型 Llama3.2开源
早上起来发现，MetaAI又开源模型，文本模型开源了端侧小模型1B和3B模型，也是初次开源了多模态大模型11B和90B两个版本；同时还开源了一个LlamaStack名目，Blog，https，ai.meta.com，blog，llama，3......
将端侧大模型启动究竟
面壁不时都在做端侧大模型，之前有文本系列MiniCPM，2B模型，还有多模态系列的MiniCPM，V系列模型，当天又开源了MiniCPM3，4B模型，真是端侧一路走到低，这次MiniCPM3，4B也是在成果上有了渺小的优化，超越Phi，3.......
LLM通常系列
通过了数据搜集、挑选、去重，马上就可以开局训练试验了，然而在试验之前，咱们还须要先失掉一个言语模型的基石，分词器，Tokenizer，Tokenizer的作用是对一条文本数据启动切分、词表映射，失掉这条文本的token序列，用开源Token......
浅谈
当天给大家带来知乎朋友@ybq一篇对于如何启动畛域模型训练的文章，关键内容是对post，pretrain阶段启动剖析，后续的Alignment阶段就先不提了，留意好老生常谈的，数据品质，和，数据多样性，即可，原文，https，zhuanla......
GLM4模型开源 预料之外的成果 预料之中的尺寸
写在前面当天智谱开了GLM，4，9B的模型，不是6B，是9B，一共开源了四个模型，Base版本模型，GLM，4，9B，、Chat版本模型，GLM，4，9B，Chat和GLM，4，9B，Chat，1M，和多模态模型，GLM，4V，9B，Cha......
预料之外的成果 GLM4模型开源 预料之中的尺寸
当天智谱开了GLM，4，9B的模型，不是6B，是9B，一共开源了四个模型，Base版本模型，GLM，4，9B，、Chat版本模型，GLM，4，9B，Chat和GLM，4，9B，Chat，1M，和多模态模型，GLM，4V，9B，Chat，其中......
一大堆Llama3.1
写在前面Llama3.1模型曾经开源，在这短短几天之内，也是产生了一些Llama3.1汉化的repo，开源社区也是相当的卷，重要是Llama3.1没无关注中文，只管是多言语，但重要针对英语、法语、德语、印地语、意大利语、葡萄牙语、西班牙语和......
如何失掉高品质数据启动代码指令调优
之前很多钻研都是生成、发现、过滤高品质的通用指令微调数据，而大家对代码义务的越发关注，如何构建更好的代码指令调整数据也越发关键，上方给大家带来一篇挑选高品质代码指令微调数据的文章，关键基于指令的复杂性、回复品质和指令的多样性三个维度来启动样......
最新RAG综述来了！北京大学颁布AIGC的检索增强技术综述
近期，RAG，Retrieval，AugmentedGeneration，在AI畛域惹起了宽泛关注，成为了泛滥钻研者和开发者热议的焦点，作为一种将检索与生成相结合的技术，RAG展现了在各种义务中，如问答、对话生成和文本摘要等，取得出色成绩的......
刷新流婚配模型单步文本到图像生成纪录！ FGM 浙大& 卡内基梅隆& 北大& 西湖大学
文章链接，https，arxiv.org，pdf，2410.19310亮点直击总结速览处置的疑问在AIGC畛域中，流婚配模型因其松软的通常基础和弱小的大规模生成才干而取得了清楚成功，但是，这些模型的采样环节对计算资源要求极高，由于它们须要多......