在编译时，所有 tensor 的形状都是静态确定的。这意味着在编译阶段，模型的架构和数据布局已经被定义，包括模型的层数、每层的输入和输出维度等。 就是先让不同的expert单独计算reduction，然后再加权求和得到总体的reduction。这意味着，每个skilled在处理特定样本的目标是独立于其他skilled的权重。尽管仍然存在一定的间接耦合（因为其他pro权重的变化可能会影响门控网络分配给expert的score）。如果门控网络和prof... https://nazimf208gsc9.salesmanwiki.com/user