Tied embed, shared RMSNorm vectors, RoPE (hd=2)
舉例來說，2024年的一項研究發現，當使用者以禮貌的方式提問，而不是直接下命令時，大型語言模型的回答更好、更準確。更奇怪的是，這其中還存在著文化差異：與中文和英文相比，如果你對日文聊天機器人過於客氣，它們的表現反而會略遜一籌。
，更多细节参见91视频
On Elephants in the Room: Trusted Execution Environments
Rachel Stonehouse,BBC West Investigationsand
Enterprise Plan Features