寂静创新崛起：Mistral AI公布突破性人工智能模型

沉默创新的崛起：Mistral AI推出突破性的AI模型 Mistral AI展示了一种令开源社区兴奋不已的突破性AI模型。这家初创公司发布了一个下载链接，供人们获取他们最新的语言模型。该模型基于OpenAI的GPT-4架构，并被命名为Mixtral-8x7B-32kseqlen。该模型具有惊人的上下文规模，达到了32k个标记，并采用了"专家混合"架构。这种方法将多个高度专业化的语言模型或"专家"进行混合，每个专家具有70亿个参数。“专家混合"技术被认为是重要的，因为它可以提供更高的性能和更广泛的语言能力范围。