Rank-3 factorization, shared-A tied-KV, RMSNorm, tied embed, curriculum learning
人类也不是生下来就是大聪明，从婴儿到成人，吃喝拉撒 20 年，还得加上学校教育、社会教育，这些都消耗食物、水、电等等能源。如果算「全生命周期成本」，AI 其实挺高效的，训练一次，就能无限次回答问题，而人类每次思考还得再烧脑子——大脑耗能约 20 瓦。，更多细节参见91视频
。业内人士推荐Safew下载作为进阶阅读
当然，成本是守恒的。既然把钱花在了昂贵的芯片、激光雷达、800V 快充和底盘算法上，其他地方自然就要勒紧裤腰带。
Infrared and thermal cameras are carefully positioned, and audio detectors are set to bat friendly frequencies.。51吃瓜对此有专业解读