Солнечная Империя | ходы игроков | Летний Лагерь "Шепчущий Камень"

Многие замечают определенные сходства между тем, как работают современные генеративные ИИ, и тем, как работают человеческие сны. И действительно, логика ранних моделей напоминала логику сна – поверхностно похожую на нормальную последовательность событий, но не выдерживающую минимума рефлексии.

Любители осознанных сновидений имеют свои трюки, позволяющие определить, во сне ты или в реальности, и частые признаки "вместо текста неразбериха" и "на руках неправильное количество пальцев", что отлично совпадает с тем, что пытаются делать современные генераторы картинок.



Что именно это нам говорит о вычислительных параметрах мозга, я касаться не буду, здесь я не скажу больше, чем вы сами сможете нагуглить, коль интересно. Но я хочу обратить внимание на одну аномалию.

У меня все совершенно не так.

Скотт Сискинд в своей статье про расстройства сна дал описание, которое я процитирую полностью, потому что оно отражает мой опыт:

Somewhat related to epic dreaming are pathological lucid dreams. Normal lucid dreams are fun experiences where you realize you’re dreaming, take control of the dream, and spend the rest of the dream riding dolphins or kissing supermodels. Pathological lucid dreamers realize that they’re dreaming, but this somehow turns the dream into a nightmare in which the dreamer is attacked by demonic figures, all while fully conscious and realizing the nature of the phenomenon. These dreamers report experiencing real pain from the attacks and sometimes go to great lengths to stay awake and avoid having to subject themselves to further dream attacks.

Все так, меня во сне пытают, не каждый раз, и "нормальные" осознанные сны у меня есть, но часто. Это очень больно. К счастью, периодические атаки остались в прошлом Тимуджина – с момента хеншина у меня таких эпизодов было где-то три, сейчас меня это особо не напрягает.

Но вот что интересно – все эти типовые маркеры сна для меня не работают. Руки выглядят нормально. Текст выглядит нормально и читаем. У меня были полноценные сны, где я не делала ничего, кроме сидения в кресле и чтения книги – и хотя логика повествования внутри книги действительно была нарушена в типичной "сонной" форме, сам текст ясен и чист и не меняется и я распознаю как целые слова, так и отдельные буквы в неотличимой от реальности форме. Я помню сны, в которых я осознавала, что я во сне и читаю книгу, и я ее продолжала читать и угорать над смешными нелогичными фразами, а потом сознательно просыпалась и записывала их, пока они не исчезли из памяти. Никогда я не видела вот такого непонятного искаженного текста в своих снах.

Другие тесты тоже не работают. Часто говорят щелкнуть переключателем света, и если он не работает, то это сон – но у меня переключатели работают каждый раз, как я проверяю. Проткнуть пальцем ладонь? Не протыкается. Единственный тест, который для меня работает, это заткнуть нос и подышать – но оно и понятно, это чисто физиологический тест, и никакие баги мозга его перебить не смогут, если только у вас не насморк, конечно. В целом, мне очень сложно отличить сон от реальности в обе стороны только по происходящему там; если вы будете следить за мной в реальной жизни, вы увидите, что я периодически зажимаю нос – потому что никогда не знаешь, вдруг ты во сне? Так что даже за пределами этих конкретных тестов я бы билась об заклад, что мои сны реалистичнее и логичнее, чем у других.

Что ставит все наблюдения по поводу ИИ в интересный свет. Мои сны не нормальные сны, у меня есть какое-то недоизученное, но реальное нарушение. Но если сравнивать сны с генеративными моделями, это нарушение, которое повышает качество модели. Мой мозг не больше мозгов других, в нем не больше нейронов, вероятно больше связей, но не таким образом, чтобы на это повлиять*, я не дольше обучалась. Это намекает, что есть какое-то простое и дешевое вмешательство в структуру современных нейросетей, которое может увеличить их качество, не увеличивая размер и сложность. Если кто-то из читателей изучает психиатрию в институте, считайте это питчем для исследования – выяснить, какие структурные изменения в мозге вызывают такое расстройство. Есть вероятность, что там закопан ценный информационный клад.

В Unsong был момент, когда силы Ада в качестве политического хода прислали на землю кассету с записью – что именно творится в Аду. Главу, где это описывается (ссылка), автор покрыл trigger warnings и упомянул, что для понимания сюжета ее читать не обязательно; потом ему сказали, что этих trigger warnings было недостаточно, и нужно добавить еще дополнительных trigger warnings что "нет я серьезно"; и вот сейчас, как видите, я покрываю еще одним слоем trigger warning для тех, кто неизбежно пойдет читать. Как из этого можно догадаться, в Аду все плохо.

Питер Сингер, моральный философ, имеет в этой книге камео. Его основной заход – что люди делают добро неоптимально, типовой шпиль "эффективных альтруистов", что да, пожертвовать деньги на, скажем, лечение ребенка от рака – то несомненно добро, но вот если вы вместо этого пошлете эти же деньги централизованно в Африку на лечение малярии, вы спасете в десять раз больше детей на удельный доллар, так что давайте лучше делать это.

За и против такого подхода разбирали более умные люди, чем я, и мне нечего добавить в центральную идею. Но в отличие от Питера Сингера в реальном мире, Питер Сингер в мире Unsong увидел ту злополучную кассету. Это впечатлило его достаточно, что он моментально бросил все, что он делал до этого, и начал монолитным порывом продвигать новую мысль. Что самое необходимое, что можно вообще сделать, дело настолько важное, что затмевает все остальные, настолько ультимативно доброе, что все добро и зло, когда-либо существовавшее на земле вместе взятое, все ужасы, все победы – суть ошибка округления...

...это найти способ освободить людей из Ада.

=====

Один из менее популярных, но довольно интересных споров – что может быть сильнее, физическая боль или ментальная? Что хуже – удары плетью или публичное унижение? Прыгнуть в огонь или смерть близкого человека? Как их вообще сравнивать?

Кластерные головные боли еще порой называют suicide headaches. Они регулярно упоминаются в тредах на Реддите "какая самая сильная боль, которую вы испытали". В частности, женщины в один голос говорят, что боль при родах и рядом не стояла.



Когда-то давно у меня были кластерные головные боли. Хотите мое мнение, какая боль может быть сильнее – физическая или ментальная?

Ментальная. Обсессивно-компульсивное расстройство запросто может сделать так, что кластерные головные боли и рядом не стояли.

Конечно, может я их помню неправильно. Конечно, свежая боль в памяти стоит ярче, чем та, которую от меня отделяет буквально стена амнезии.

И мой ОКР так-то объективно и не очень силен, проявляет себя довольно редко. Многих бьет намного сильнее. И намного дольше.

Но я не могла не впечатлиться.

Мама не раз советовала мне идти в психиатрию – может, я сумею ее реально продвинуть и помочь страдальцам. Я тогда сказала, что не хочу, потому что мне оно не очень интересно.

Но может, интересность должна была быть ошибкой округления.