Профессор Идо Кантер из Университета имени Бар-Илана исследовал поведение нейросетей через призму теории сложных систем. Работа подтверждает принцип «More is Different», согласно которому свойства целого не выводятся из свойств частей. Анализ показал, что по мере обучения узлы нейросетей перестают выполнять одинаковые функции и начинают специализироваться на распознавании конкретных паттернов или языковых особенностей. Такая специализация приводит к распределению функций внутри системы и формированию кооперации между элементами, что меняет общее поведение модели.