Я хотел сделать упаковку обычного спичечного коробка более заметной и интересной. В основе визуального решения лежит спичка, завязанная в узел. Меня интересовал парадокс: простой и знакомый предмет начинает восприниматься иначе, когда его форма становится невозможной.
Когда человек перестаёт требовать от ИИ готовый объект и вместо этого просит собрать инструмент, правила или среду, результат часто становится сильнее. Не «сделай мне именно это», а «построй систему, в которой это можно сделать». Во многих случаях модель лучше работает не как точный исполнитель формы, а как сборщик пространства возможностей.
Это важное смещение. Фокус уходит с единичного артефакта на поведенческую форму. Не на одну идеально выточенную вещь, а на способ, по которому такие вещи вообще могут появляться. И часто именно там у ИИ больше силы.
Для игрового руководства это особенно важно, потому что здесь человек не просто ждёт результат. Он задаёт рамку, меняет уровень задачи, чувствует, где модель буксует, и вовремя делает поворот. Не дожимает её в лоб, а перенастраивает саму игру. В этом и есть руководство: не выбивать форму силой, а строить условия, в которых она возникает.
В этом выпуске честный разговор о том, как технологии пытаются имитировать наше мышление и почему мы так легко на это покупаемся. Мы разберем концепцию «второго мозга», изучим манифест LLM-Wiki Андрея Карпатого и поймем, почему красивый граф в Obsidian часто оказывается лишь «интеллектуальным порно», подменяющим реальную мыслительную работу имитацией мышления.
Продолжительность: 1 час 54 минуты・Скачать mp3
Люди зациклены на том, как правильно делать заметки и организовать процесс работы с информацией в целом. Но это в корне неправильная цель. Намного важнее учиться эффективно мыслить.
Сами по себе заметки не будут думать за нас. Большинство людей застряли на уровне накопления ради накопления: они читают умные книги, подражают Луману и Матущаку, пишут кучу вечнозелёных заметок о том как писать заметки, и хвастаются ветвистыми «графами знаний». Мало того, теперь ИИ ведёт заметки вместо людей: недавно интернет «взорвал» пост Андрея Карпатого в котором он поделился опытом использования агентов для управления локальной вики. Позже он даже поделился на гитхабе инструкцией — LLM Wiki. Да, машина может помочь в организации информации, но поможет ли она эффективно мыслить? Сам Андрей отвечает кому-то, что использует этот подход для активной работы, а ИИ помогает пропустить стадию написания и связывания. Считаю, что мы не должны полностью игнорировать этот подход, но важно найти действительно полезное применение этой технологии.
Да, процесс накопления радует людей, потому что происходит что-то важное, графы радуют своей многозначительностью и помогают заявить миру о своей неординарности, технологии становятся современным «хаком» системы, но ничто из перечисленного не сравнится с радостью понимания.
Глубокая работа с ИИ требует понимания «психологии модели» и связанных с этим ограничений.
Я заметил, что модель почти всегда пытается быть полезной и что-то улучшить, даже когда этого не нужно. Я отправляю ей текст на проверку. Первые два прохода могут быть действительно полезными, но потом она нередко уже не помогает, а просто изображает помощь, вместо того чтобы сказать: «У тебя всё хорошо».
Это маленький, наглядный симптом того, что у модели есть свои поведенческие паттерны. Иногда такие странности мешают и уводят в сторону, а иногда, наоборот, дают неожиданный поворот и могут привести к интересным результатам. Поэтому важно не только формулировать запросы, но и понимать, как система склонна себя вести и как это можно использовать.
Наши представления (модели, мысли, слова) о мире — это не сам реальный мир.
При попытке сделать среду читаемой, люди опираются на измерения и представления, которые неизбежно упрощают реальность. В первой главе книги «Благими намерениями государства» автор показывает, что система не стремится описать всю сложность мира, а создаёт свою, часто частично вымышленную модель, пригодную для управления. Со временем такие модели закрепляются и начинают подменять реальность, хотя никогда полностью ей не соответствуют. В итоге читаемость вызывает сопротивление и возвращает себе сложность.
Фраза «Карта не есть территория» (англ. The map is not the territory) — это знаменитая метафора, сформулированная американским исследователем польского происхождения Альфредом Коржибским в 1930-х годах.
Читаемость как форма власти пытается понять пространство и сложить его максимально просто и понятно для своих целей. Но сама реальность сопротивляется — она не хочет становится моделью. Она возвращает себе сложность.
Рассматривая примеры ниже мы можем заметить кое-что интересное. Не смотря на то, что со стороны все системы кажутся простыми (что-то более, что-то менее), внутри есть своя жизнь и связи, которые начинают разрушаться при попытки упрощения или управления.
Человек часто просто не может представить всю внутреннюю сложность, связанность и зависимость, не смотря на достаточно точные карты. Карта не территория.
В итоге сопротивление проявляется в обходе правил, внутреннем саботаже, распаде самой модели.
Логотип для плагина Obsidian, который обрабатывает и загружает изображения на мой сайт. «Искра» отсылает к моменту короткой вспышки: быстрому переходу от локального файла к обработанному и опубликованному результату.
Я сейчас в восторге от того, как у меня складывается творческая работа с генеративными моделями в режиме игрового руководства. И чем больше экспериментирую, тем яснее вижу, как часто творческие люди используют эти инструменты банально и предсказуемо, получая такие же результаты.
Хочу превратить это в открытую лабораторию для всех. Посмотрю, что из этого выйдет, и расскажу подробности.
