max()

Возвращает большее из x и y для каждого компонента. Классический приём — отсечь отрицательные значения через max(x, 0.0).

float diff = max(dot(n, l), 0.0); // без отрицательного света