2.1.2. Application of Preferences

当数据用于训练 LLM 时, 生成的 model 不能在执行任务时只选择性使用其中一部分数据, 因为 inference 使用整个 model, 且无法识别用于选择性执行的特定 input data.

因此, crawl time 可见的 preferences 通常在 inference time 不可用. 例如 "no military uses" 或 "non-commercial only" 这类面向 AI use 的 preferences, 无法由 general-purpose "foundation" model 应用.

希望遵守这些 preferences 的 AI vendors 面临不理想选择: 从 foundation models 中省略这些数据, 或为每一种 preference permutation 创建单独 model. 问题还因 preferences 会随时间变化而加重, 而 LLMs 的创建周期很长, 也难以轻易更新来反映这些变化. 参与者称这会让 opt-out regime 更加 "stickier".