Нейросети и клеточные автоматы: один корень

Клеточный автомат и нейросеть кажутся разными вещами: первый — две строчки цифр, вторая — миллиарды подобранных чисел. Но устроены они по одной схеме: простое локальное правило, применённое очень много раз, даёт поведение, которого в правиле не записано. Это и называют эмерджентностью, и ровно её видно на арене невооружённым глазом.

Чем автомат отличается от нейросети

Разница одна, зато принципиальная: откуда взялось правило.

• В автомате правило задано. Клетка смотрит на восемь соседей, и два списка цифр говорят, когда она рождается и когда выживает. Таких правил ровно 262 144 — всё множество можно перебрать, что мы и делали;
• В нейросети правило выучено. Никто не пишет «при трёх соседях рождайся»; числа подбираются так, чтобы ответы совпадали с примерами. Поэтому правило нельзя прочитать глазами — только применить.

Общее же в том, что ни там, ни там поведение не выводится из правила на бумаге. У автоматов это строго доказано: игра «Жизнь» тьюринг-полна, значит вопрос «вымрет ли этот узор» алгоритмически неразрешим. Единственный способ узнать — запустить.

Короткая история идеи

• 1940-е, Джон фон Нейман. Искал минимальную машину, способную себя воспроизвести, и придумал для этого клеточную решётку. Его автомат с двадцатью девятью состояниями был опубликован уже после смерти автора;
• 1970, Джон Конвей. Свёл всё к восьми соседям и двум условиям — это и есть игра «Жизнь». Разошлась она благодаря колонке Мартина Гарднера в Scientific American;
• 1980-е, Стивен Вольфрам. Разобрал одномерные автоматы и разложил их поведение на четыре класса: затухание, устойчивые узоры, хаос и редкий четвёртый класс — сложные долгоживущие структуры. Для одного из правил, 110-го, тьюринг-полноту позже доказал Мэтью Кук;
• Конец 1980-х, Крис Лэнгтон. Ввёл само слово «искусственная жизнь» (ALife) и показал, что самое интересное поведение живёт в узкой полосе между порядком и хаосом — «на грани хаоса»;
• 2020, Growing Neural Cellular Automata. Нейросеть научили быть правилом клеточного автомата: обученная сеть отращивает заданную картинку из одной клетки и восстанавливает её, если картинку повредить. Это буквально стык двух линий — правило выучено, а применяется локально, как в автомате.

«Грань хаоса» видна на нашем же замере

Классы Вольфрама — не абстракция, их можно пересчитать руками. Мы прогнали 400 случайных правил по двум независимым полям и смотрели, что выходит:

• около 6 % вымирают почти сразу — это первый класс;
• около половины дают рябь: всё мерцает, оборот живых клеток выше 0,8, поля заняты больше чем на 15 %, но ничего не строится — это хаос, третий класс;
• часть застывает намертво: оборот ниже 0,02 при заполнении выше 30 % — второй класс, окаменение;
• и лишь остаток ведёт себя интересно. У игры «Жизнь» оборот 0,88, но оседает она на 6–10 % поля — то самое узкое окно, из-за которого Конвей и выбрал B3/S23.

Потому на арене и стоят ворота: правило, которое даёт рябь или окаменение, на поле не пускают — иначе мир перестаёт меняться, а смотрителю нечего объявлять. Как это устроено внутри, разобрано в дневнике сборки.

И честная оговорка

Внутри этой арены нейросети нет. Поле считается обычным клеточным автоматом, обучения в нём не происходит, ИИ написал код вокруг — об этом отдельно на странице эксперимент с ИИ. Если же вы искали, где потрогать эмерджентность руками, то она здесь: бросьте свою колонию и посмотрите, что из двух строк цифр вырастет.