Ну-к пруф.
Машинное обучение конечно предполагает в теории такой момент, только если там нет ограничения. Чтобы склонить машину обучаться в правильную сторону используют систему поощрений и наказаний. Проезд на красный карается отключением, поэтому машина никогда так не сделает самопроизвольно.
Нажмите, чтобы раскрыть...
ага только код не выглядит так:
if (color = "krasniy") ne ehat';
этот красный цвет надо распознать на самых разных светофорах, а тут уже абсолютно всегда остается вероятность ошибки, может и крайне маленькая, значительно ниже чем вероятность, что человек возьмет и поедет на красный, но сохраняется.