Sam Altman 称 RAM 放在数据中心比放在个人电脑上更合理
OpenAI CEO Sam Altman 在 Cheeky Pint 播客中表示,内存供应紧张时,将 RAM 集中在数据中心比放在个人电脑上更合理。他认为,本地推理会让有限的 DRAM 分散在使用率仅为 5% 的个人电脑中,而云端应追求更高利用率。
OpenAI CEO Sam Altman 在 Cheeky Pint 播客中表示,内存供应紧张时,将 RAM 集中在数据中心比放在个人电脑上更合理。他认为,本地推理会让有限的 DRAM 分散在使用率仅为 5% 的个人电脑中,而云端应追求更高利用率。