Пикабу
ПикабуПредставьте, что вы проектируете птенца чайки. ТЗ такое — у него довольно плохое зрение, маленький мозг, но ему нужно как можно больше есть, а то сдохнет. Еду ему приносит мама-чайка. Основная задача — распознать маму-чайку и получить у неё еды. Во входной поток зрения поступает, скажем, 320х200 px, и дальше 10 сантиметров от глаза он не умеет фокусироваться. Природа решила так — надо разметить клюв чайки ярким оранжевым округлым пятном.
Но птенец реагирует не только на клюв, но и на картонный прямоугольник с круглым оранжевым пятном. И пытается получить у него еду, как у обычной чайки. Самая высокая ценность сигнала «оранжевый на белом» — и она по мере эволюции завышается.
Если птенцу показать прямоугольник с тремя оранжевыми полосами, он распознает его куда быстрее, точнее, и среагирует в разы активнее.
Если вы думаете, что мы с вами не забагованы, то ошибаетесь. У нас, людей, есть примерно такой же пример переобучения, хорошо известный анимешникам.
Подробнее: pikabu.ru/story/_5398603
Баги и эксплойты в наших мозгах