default_stage: default_modifiers: QuantizationModifier: targets: [Linear] ignore: [lm_head, 're:.*q_proj', 're:.*k_proj', 're:.*v_proj', 're:.*o_proj', 're:.*q_norm', 're:.*k_norm'] scheme: FP8_DYNAMIC