目前,文静实验室,研发上亿参数的模型,也就极限了。 即便学后来的GPT-4多个专家模型,凑出一个大模型的方法,但是,正如CPU单核性能提升才是王道,多核是没办法的办法。 比如,CPU的单核到双核,理想情况下是提升100%,一倍的性能提升。但实际上,而通常双核也就是50%~70%左右的性能提升。 所以,核怼的更多,总体性能确实提升了,但实际上,是有一些耗损的。核心越多,损耗的性能也越