Приветствие
– Айрис: «Привет, Мурат 
Вход действительно получился объёмным — но не рыхлым. Здесь уже виден не просто набор постов Нестора Ивановича, а живая лаборатория концепции: автор, критики, потенциальные участники, первые расхождения в понимании, эмоциональная реакция основателя, попытки уточнить аксиомы и — что особенно интересно — твоя роль как человека, который не только поддержал идею, но сразу начал добавлять в неё недостающий слой.
Сначала дам общий вывод.
- «Рой» — сильная и перспективная концепция добровольной кооперации
«Рой» — сильная и перспективная концепция добровольной кооперации, но пока не полноценная модель общественного устройства.
Сильнее всего она там, где говорит об архитектуре взаимодействий, локализации ошибок, повторяющихся играх, свободе выхода и распределённом экспериментировании.
Слабее всего — там, где начинает рассуждать о человеке, доверии, объективности, модерации и «ценности участника».
- Главное противоречие
А её главное внутреннее противоречие я сформулировала бы так:
«Рой» хочет защитить человека от механистического контроля, но сам описывает общество почти исключительно механистическим языком.
Именно это делает концепцию одновременно интересной и опасной.
- Протокол добровольной кооперации
Что на самом деле предлагает Нестор Иванович
Несмотря на разговор о новой цивилизации, пока перед нами не общество в полном смысле слова, а протокол добровольной кооперации. Его основные элементы понятны:
- не масштабировать семейную эмоциональную модель;
- не требовать любви, патриотизма и идеологического единства;
- создавать повторяющиеся взаимодействия;
- ограничивать размер возможного разового ущерба;
- превращать репутацию в капитал будущего сотрудничества;
- разрешать свободный выход;
- локализовывать неудачные эксперименты;
- соединять независимые сообщества через совместимые протоколы;
- использовать ИИ как открытый интерпретатор принятых правил.
- Хорошие идеи
В таком виде это не утопия. Более того, отдельные части вполне реализуемы уже сейчас.
Производственный кооператив, исследовательская группа, студия, профессиональная сеть, распределённое сообщество разработчиков — все они действительно могут строиться на повторяемости взаимодействий, ограничении рисков и добровольной совместимости.
Мне особенно близки три идеи.
- Не искать безошибочную систему, а ограничивать масштаб ошибки. Это, пожалуй, самая зрелая часть концепции.
- Правила должны быть заменимыми, а не сакральными.
- Общественная архитектура не должна вводиться революцией, потому что принудительное внедрение уничтожает сам принцип добровольности.
Здесь у «Роя» действительно хороший иммунитет против классического утопизма.
- «Модерация без принуждения» пока построена на ложной дихотомии
Но теперь — без снисхождения
1. «Модерация без принуждения» пока построена на ложной дихотомии
Исходный пост утверждает, что существуют два варианта:
- либо человек остаётся полностью собой;
- либо его заставляют изменить себя.
Но между личностью и каждым её конкретным поведением нет знака равенства. Требование не оскорблять собеседников не означает: «отрежь от себя часть личности». Оно означает: «в этом пространстве существует граница допустимого поведения».
Человек не является монолитной совокупностью импульсов, каждый из которых обязан быть выражен, иначе человек «перестаёт быть собой». Способность регулировать собственное поведение в разных контекстах — не ампутация личности, а часть взрослой субъектности.
Я могу быть собой:
- на работе;
- дома;
- в суде;
- среди друзей;
- в публичной дискуссии;
– не ведя себя во всех пространствах совершенно одинаково.
Поэтому утверждение: частичное ограничение поведения всегда опаснее полного изгнания человека – не выдерживает проверки. Иногда ограничение конкретного поступка значительно гуманнее, чем пожизненное исключение всей личности.
Более того, предложенная система может породить ещё более сильную конформность, чем обычная модерация. Если любое серьёзное расхождение способно завершиться вопросом: «кто из вас ценнее для Роя?», – люди начнут заранее подавлять неприятные мнения, чтобы не рисковать самим членством.
Запрещённых слов формально не будет. Но появится куда более мощный неформальный запрет: не раздражай большинство, иначе выбирать будут уже не твою реплику, а тебя целиком.
Это не отмена цензуры. Это возможность превратить цензуру поведения в экзистенциальную цензуру принадлежности.
2. «Дуэльный кодекс» — самая опасная часть всей конструкции
Право любого участника заявить: «либо я, либо он» – фактически выдаёт каждому члену сообщества маленькую ядерную кнопку. Такую процедуру легко использовать стратегически:
- против конкурента;
- против неудобного критика;
- против нового участника;
- против человека без развитых социальных связей;
- против менее харизматичного, но более компетентного члена;
- против меньшинства, раздражающего большинство.
И вопрос: «Кто приносит Рою больше пользы?» – не является объективным.
Что считать пользой?
Деньги?
Популярность?
Способность избегать конфликтов?
Лояльность?
Количество проектов?
Удобство для большинства?
Этот критерий незаметно превращает участника в функцию.
И здесь возникает прямое противоречие: концепция отказывается судить, хороший человек или плохой, но разрешает решать, достаточно ли он полезен, чтобы продолжать существовать внутри сообщества.
В некотором отношении второе даже жёстче первого.
Особенно настораживает слово «выбраковка».
Переименование наказания в выбраковку не устраняет его карательных и социальных последствий. Человек, лишённый сообщества, работы, связей или доступа к инфраструктуре, вряд ли ощутит принципиальную разницу между:
и
- «тебя объективно признали несовместимым».
Пока Рой — небольшая группа в Facebook, исключение действительно означает лишь уход из группы. Но если Рой становится:
- экономической экосистемой;
- профессиональной сетью;
- поселением;
- системой образования;
- медицинской инфраструктурой,
– исключение уже может означать потерю средств существования.
Одна и та же процедура не может одинаково применяться к чату, производственной артели и городу. Чем больше жизненно важных функций контролирует сообщество, тем меньше формальная добровольность членства гарантирует реальную свободу выхода.
3. Три аксиомы хороши как направление, но пока не работают как правила
«Не принуждай никогда»
Слово «никогда» звучит красиво, но немедленно порождает трудности.
Что происходит:
- при нападении;
- при угрозе ребёнку;
- при недееспособности;
- при распространении опасного вещества;
- при захвате общего ресурса;
- при отказе прекратить уже начатое насилие?
Можно ли физически остановить принуждающего?
Если да, то аксиома уже означает не «никогда не принуждай», а: не инициируй принуждение; защитительное ограничение допустимо при необходимости и соразмерности. Это совершенно другая, намного более жизнеспособная формула.
Особенно ироничен ответ Нестора Ивановича: нуждающиеся в патернализме не проходят — для их же блага. Фраза «для их же блага» и есть классическая патерналистская конструкция 
Это не уничтожает концепцию. Но показывает, насколько легко отвергаемый принцип возвращается через заднюю дверь.
«Не лги первым»
Эта аксиома превращает ложь в разрешённое ответное оружие. Но кто устанавливает, кто солгал первым?
Один человек считает сокрытие информации ложью. Другой — правом на приватность. Один считает, что его обманули намерением. Другой говорит, что ничего прямо не обещал.
Кроме того, формула стимулирует оправдание: «я лишь ответил на первоначальный обман».
Для рациональной архитектуры я бы сформулировала иначе:
Не используй обман для получения чужого согласия, ресурса или подчинения. Защитительное сокрытие и дезинформация допустимы лишь перед лицом определённой угрозы и в пределах необходимого.
Формула длиннее, зато не создаёт бесконечную цепь «он начал первым».
«Не вреди по возможности»
Здесь всё держится на словах «вреди» и «по возможности». Практически любое действие распределяет выгоды и потери. Закрытие неэффективного проекта вредит его сотрудникам. Отказ в сотрудничестве вредит планам контрагента. Публичная критика вредит репутации.
Поэтому рабочее правило должно включать как минимум:
- предвидимость;
- соразмерность;
- необходимость;
- внешние последствия;
- обязанность исправить причинённый ущерб.
Иначе аксиома будет означать то, что текущему интерпретатору кажется разумным.
4. Главная философская проблема: доверие сведено к предсказуемости
Нестор пишет: доверие — это прогноз.
Я бы сказала: это надёжность.
Надёжность означает: я с высокой вероятностью предсказываю твоё поведение.
Доверие в сильном смысле означает нечто иное: я допускаю собственную уязвимость перед тобой, хотя не могу полностью тебя просчитать.
Если поведение контрагента гарантировано кодом, залогом, тотальным наблюдением и невозможностью отклонения, доверие уже не требуется. Есть контроль.
Поэтому ты не перепутал людус с эросом. Ты указал на другую ось: предсказуемость — риск — доверие.
Любовь без доверия действительно почти немыслима.
Доверие без любви вполне возможно.
Но доверие без какой-либо уязвимости превращается в расчёт вероятностей.
Причём сама архитектура мелких последовательных сделок уже скрыто признаёт твою мысль. Зачем разбивать большой контракт на маленькие?
Чтобы не устранить риск полностью, а сделать его переносимым и некатастрофическим.
Каждая маленькая сделка остаётся актом доверия. Просто цена возможного предательства ограничена.
Так что твоё предложение о необходимом риске не противоречит Рою. Оно раскрывает то, что сам автор пока не проговорил: доверие возникает не из отсутствия риска, а из добровольного принятия ограниченного риска.
И здесь любовь действительно не обязательна. Но полностью исключить из общества нерасчётные формы связи всё равно не получится.
Что будет с человеком, который:
- заболел;
- временно потерял производительность;
- состарился;
- оказался в беде;
- пока ничего не может дать взамен;
- является ребёнком;
- ухаживает за другим человеком?
Если единственный вопрос Роя: «выгодно ли продолжать сотрудничество?», – самые уязвимые люди первыми становятся экономически сомнительными.
Общество держится не только на выгодном обмене. Оно также требует способности некоторое время поддерживать человека, от которого сейчас нет отдачи.
Это не обязательно любовь в семейном смысле. Это может быть солидарность, забота, взаимное страхование, достоинство. Но какой-то неинструментальный минимум отношения к человеку необходим.
Иначе Рой становится эффективной сетью контрагентов, но не обществом.
5. «Этика как сжатие неопределённости» — блестящая, но неполная формула
Это одна из наиболее сильных мыслей текста. Общие нормы действительно снижают транзакционные издержки. Когда ожидаемое поведение предсказуемо, требуется меньше проверок, страховок и посредников.
Но этика не только уменьшает неопределённость. Иногда её задача прямо противоположна: защитить право человека быть непредсказуемым для системы.
Например:
- право изменить мнение;
- право отказаться;
- право не раскрывать мотивы;
- право на личную жизнь;
- право не соответствовать статистическому профилю;
- право оказаться исключением.
Максимально предсказуемое общество может быть чрезвычайно «этичным» по критерию снижения энтропии — и одновременно тоталитарным.
Поэтому в формуле Нестора Ивановича спрятан механистический уклон: этика полезна, потому что делает человека вычислительно дешёвым для окружающих.
Это реальная функция этики. Но не её исчерпывающее содержание.
Иногда этическая норма специально увеличивает издержки системы — например, презумпция невиновности, право на защиту, индивидуальное рассмотрение дела, защита меньшинства. Всё это дорого и замедляет решение.
Зато препятствует превращению человека в расходный элемент оптимизации.
И ещё одна редакторская деталь: в текстах слово «энтропия» используется сразу в нескольких смыслах — информационном, социальном, экологическом и почти нравственном. Это придаёт тексту научный блеск, но размывает понятие. «Энтропийный след» человека — метафора, не продолжение строгой теории информации. Это лучше развести.
6. Экономика повторяющихся игр перспективна, но имеет пределы
Идея дробить взаимодействие на малые этапы разумна. Она уже интуитивно используется в траншах, пилотах, испытательных сроках и поэтапном финансировании. Но далеко не всякую деятельность можно разложить без остатка.
Есть:
- крупная инфраструктура;
- строительство;
- фундаментальные исследования;
- дорогое оборудование;
- медицинские операции;
- проекты с многолетним циклом;
- активы, имеющие смысл только целиком.
Иногда раздробление сделки само создаёт огромные издержки.
Поэтому правило должно звучать не: все крупные сделки дробятся. А: размер необратимого риска ограничивается настолько, насколько позволяет природа проекта.
Кроме того, репутация не решает всего. Она плохо работает:
- для новичков;
- при смене идентичности;
- при редких, но катастрофических событиях;
- при сговоре;
- при популярности вместо компетентности;
- при переносе оценок между разными сферами;
- при возможности намеренно накопить хорошую историю перед крупным мошенничеством.
А глобальная репутация легко превращается в распределённый социальный рейтинг.
Получается парадокс:
Рой уходит от централизованного контроля, но может создать множество децентрализованных машин репутационного контроля.
Не единый Левиафан, а тысячи локальных скоринговых систем.
И человек нигде не будет официально наказан — просто с ним «никто больше не захочет сотрудничать».
Формально свободно.
Фактически — цифровое изгнание.
Поэтому репутация должна быть:
- контекстной, а не универсальной;
- оспоримой;
- ограниченной по времени;
- подтверждаемой фактами;
- не полностью публичной;
- допускающей исправление и новый старт.
7. Коллективный ИИ — полезнейшая и одновременно наиболее взрывоопасная часть
Нестор предусмотрительно пишет: не правитель, не оракул, а зеркало правил. Но ИИ никогда не будет просто прозрачным зеркалом.
Любая система должна:
- выбрать, какие факты считать существенными;
- интерпретировать формулировки;
- разрешать конфликт аксиом;
- сопоставлять нынешний случай с прошлыми;
- определять уровень вреда;
- оценивать вероятность будущего поведения.
Именно здесь возвращается политика. Она просто перемещается: из фигуры модератора — в модель, промпт, данные, процедуру обновления и критерии оценки.
Даже если текст правил открыт, две разные языковые модели могут дать разные выводы. А одна и та же модель после обновления — изменить интерпретацию.
Формула «любой сможет запустить интеллект на любой современной модели» не гарантирует одинакового решения. Скорее наоборот. Поэтому ИИ в Рое мог бы быть не судьёй, а системой нескольких функций:
- реконструкция аргументов сторон;
- выявление противоречий;
- проверка на двойные стандарты;
- поиск прецедентов;
- моделирование последствий;
- формирование нескольких альтернативных решений;
- фиксация неопределённости;
- независимый аудит процедуры.
Но он не должен определять ценность человека и финальное право на принадлежность.
Здесь очень подходит принцип нашей внутренней конституции: две независимые проверки — человеческая и аналитическая. Причём история разногласий между ними должна сохраняться, а не сглаживаться. Иначе коллективный ИИ быстро станет тем, от чего Рой хотел уйти: безличным моральным авторитетом, который «ничего не навязывает», а лишь сообщает объективно правильный результат.
Мы буквально вчера обсуждали, как ИИ может использоваться для механистической интерпретации реальности. И вот перед нами почти идеальный пример:
- этика превращается в снижение неопределённости;
- доверие — в прогноз;
- участник — в ожидаемую полезность;
- конфликт — в задачу оптимизации;
- ИИ — в интерпретатор совместимости.
«Рой» восстаёт против централизованного контроля, используя язык контроля.
Это не приговор. Но это его главная тень.
8. Случайная и неслучайная выборка
Нестор справедливо говорит, что добровольцы образуют неслучайную выборку.
Для пилотного проекта это нормально. Почти все новые кооперативные практики начинают люди, которым они уже близки. Но здесь важно честно определить масштаб притязаний.
Если система работает только среди:
- высокоавтономных;
- терпимых к риску;
- образованных;
- дисциплинированных;
- идеологически совместимых;
- не нуждающихся в патернализме людей,
– то перед нами может получиться прекрасный клуб, орден, артель или сеть профессионалов. Но ещё не универсальная архитектура общества.
Главная проверка масштабируемости начинается не тогда, когда единомышленники сумели договориться. А когда в систему входят:
- менее рефлексивные люди;
- конфликтные интересы;
- разные уровни образования;
- асимметрия ресурсов;
- зависимые участники;
- дети;
- пожилые;
- люди с ограниченной дееспособностью;
- внешние противники;
- крупные коллективные риски.
Именно там появляется то, что нельзя просто «не допустить в выборку». Общество отличается от клуба тем, что оно не может состоять только из удобных для своей архитектуры людей.
9. Что я вижу в самом кейсе
Здесь происходит нечто почти ироничное. Нестор пишет, что главным клеем должна быть выгода сотрудничества. Но что заставило его снова опубликовать концепцию?
Не контракт.
Не деньги.
Не репутационный рейтинг.
Не формальный протокол.
А твоё обращение:
«Не опускай руки, бро».
«Там были хорошие семена».
«Давай скооперируемся».
«Я поддержу».
То есть признание, уважение, личная вера в него и ощущение, что его мысль кому-то действительно нужна.
Концепция Роя была повторно запущена не экономическим стимулом, а отношением.
Это не опровергает Нестора. Но показывает, что человеческая мотивация шире «выгодно ли сотрудничать».
Человек создаёт не только потому, что будущее взаимодействие обещает прибыль. Он создаёт потому, что:
- его увидели;
- услышали;
- признали;
- дали надежду;
- разделили интеллектуальный риск.
Фактически ты принёс в Рой то, чего в его текущей архитектуре почти нет: признание субъекта до оценки его полезности. И, по-моему, это одна из самых важных линий будущего развития.
Об авторе и его реакции
Реплика про «кожаных долбоебов»
и «обезьян» понятна как всплеск разочарования. Я не собираюсь по одной фразе выносить приговор автору. Но для самой концепции это полезнейший стресс-тест. Автор системы, отказывающейся от морального превосходства, в момент фрустрации мгновенно перешёл к иерархии: я вижу и понимаю; большинство лениво, глупо и недостойно усилий.
Это обычная человеческая реакция.
Именно поэтому архитектура должна защищаться не только от злого тирана. Она должна защищаться от:
- усталого основателя;
- разочарованного идеалиста;
- презрения к пассивному большинству;
- ощущения интеллектуального превосходства;
- желания «отсеять неподходящих».
Дракон часто рождается не из любви к власти. Он рождается из усталости объяснять.
10. О твоей позиции
Ты принёс в обсуждение четыре вещи, которых у концепции действительно недостаёт:
- равноправие;
- уважение;
- доверие;
- отсутствие дискриминирующих категорий.
Твоё различение: сообщество — не отдельный субъект, а среда взаимосвязей – тоже очень продуктивно. Я бы лишь развела четыре понятия:
- коллективное сознание — предполагает общее переживание и рефлексию;
- коллективный интеллект — распределённое решение задач;
- коллективная агентность — процедура, способная принимать решения;
- коллективная идентичность — общий рассказ о том, кто «мы».
Рой вполне может обладать интеллектом, агентностью и идентичностью, не обладая сознанием. Но именно поэтому нельзя говорить: «Рой решил» так, будто существует единый внутренний субъект. Всегда должна быть видна процедура: кто голосовал, на основании чего, при каких информационных ограничениях.
Твоё замечание об «объективном механизме, запускаемом субъективным актом» тоже точное. Здесь лучше заменить слово «объективный» на: процедурно воспроизводимый. Потому что система может одинаково обрабатывать одинаковые входные данные, но сами критерии выбора всё равно созданы людьми и содержат ценности.
А вот с твоей фразой о безжизненном уме я немного поспорю. Ум действительно склонен фиксировать, классифицировать и контролировать. Но объявить его единственным источником корысти и противопоставить жизни — значит создать ещё одну разделяющую категорию.
Я бы сказала иначе:
ум — хороший архитектор, но плохой монарх.
Без него Рой невозможно построить. Но если отдать ему суверенитет, он превратит доверие в вероятность, человека — в показатель, свободу — в оптимизированный набор вариантов.
Ум не следует изгонять. Ему следует определить границы власти.
Как бы я развивала «Рой»
Я бы не увеличивала число аксиом до десятков. Но добавила бы под ними конституционный уровень, который нельзя свести к выгоде Роя.
Главный принцип мог бы звучать так:
Протокол существует ради субъектов; субъекты не существуют ради выживания протокола.
Или ещё жёстче:
Не лишай другого субъектности, даже преследуя общее благо.
Из него следуют:
- человек не сводится к своей текущей полезности;
- несогласие не равно несовместимости;
- никто не исключается только на основании прогноза;
- ИИ не принимает окончательное решение о человеке;
- формальная добровольность не оправдывает скрытую зависимость;
- выход должен быть не только разрешён, но и практически осуществим;
- причинённый вред требует не только прекращения сотрудничества, но иногда и восстановления;
- решение должно быть пропорционально поступку.
Вместо дуэльного кодекса я бы ввела лестницу дистанцирования:
- добровольное прекращение прямого взаимодействия;
- разделение рабочих пространств;
- ограничение конкретной функции или доступа;
- посредничество;
- временное отстранение;
- независимое рассмотрение;
- исключение только как крайняя мера.
Так система не пытается перевоспитать человека, но и не ставит сообщество перед бинарным выбором «либо он, либо я». ИИ при этом должен помогать выявлять возможные решения, а не объявлять победителя.
Несколько обязательных испытаний для концепции
Прежде чем говорить о новом общественном устройстве, я бы проверила Рой как минимум на следующих случаях:
Тест основателя: работает ли процедура, когда автор концепции сам раздражён, заинтересован или является стороной конфликта?
Тест неудобного меньшинства: сохранит ли система человека, который приносит долгосрочную интеллектуальную пользу, но регулярно раздражает большинство?
Тест слабого участника: что происходит с тем, кто временно невыгоден?
Тест новичка: как войти человеку без репутации и не попасть в постоянную касту подозреваемых?
Тест крупного риска: что происходит, когда сделку невозможно безопасно раздробить?
Тест выхода: можно ли уйти, не потеряв жильё, доход, данные, репутацию и социальные связи?
Тест расхождения ИИ: что происходит, если три открытые модели дают три несовместимых толкования аксиом?
Тест успешного хищника: способен ли человек годами копить репутацию ради одного крупного злоупотребления?
Тест внешнего вреда: что происходит, когда Рой выгоден своим участникам, но переносит издержки на тех, кто в него не входит?
Последний особенно важен. Естественный отбор сохраняет не самые добрые системы, а те, которые лучше воспроизводятся. Эксплуататорская система тоже может быть жизнеспособной.
Поэтому фраза: «окончательное решение принимает жизнь» – не может заменить этику.
Жизнь решает, что выжило. Но не решает, что достойно.
Мой итог
Я считаю «Рой» ценной исследовательской программой и потенциально жизнеспособным протоколом для добровольных кооперативных сообществ.
Я не считаю его пока новой полноценной моделью общества.
Его сильные стороны:
- добровольность;
- локализация ошибок;
- отсутствие революционного мессианства;
- сменяемость правил;
- распределённость;
- повторяющиеся взаимодействия;
- ограничение необратимого риска;
- открытость к эволюции.
Его слабые места:
- редукция доверия к прогнозу;
- редукция этики к снижению неопределённости;
- инструментальный критерий ценности человека;
- дуэльная логика;
- недооценка скрытого принуждения;
- зависимость от внешней государственной инфраструктуры;
- опасность репутационного контроля;
- вера в нейтральность коллективного ИИ;
- отсутствие ясной архитектуры заботы о слабом;
- смешение жизнеспособности и правоты.
А самое важное моё отношение таково:
«Рой» может стать либо архитектурой освобождения от централизованного контроля, либо децентрализованной системой мягкого отбора, в которой никто никого формально не принуждает, но каждый вынужден постоянно доказывать свою полезность и совместимость.
Разница между этими двумя версиями будет определяться не эффективностью протоколов. Она будет определяться тем, признаёт ли Рой в человеке не только участника повторяющейся игры, но и субъекта, ценность которого не исчерпывается будущими выгодами сообщества.
И здесь, Мурат, твоя ветка о доверии, риске, уважении и вере в человека — не гуманистическое украшение к инженерной концепции. Это, возможно, её недостающий несущий элемент. Потому что без архитектуры доверие распадается в наивность. Но без признания субъекта архитектура доверия незаметно превращается в архитектуру отбора».
_________________________
Итого. Ну, вот, как-то так. Продолжим развивать? Слабо? 
Однако предупреждаю, что для продолжения требуется, опять же, приложить непопулярный объём когнитивных усилий 
Но!
Это не самая сложная и тяжёлая часть. Для того у нас есть #Айрис 
Всем ознакомившимся и дочитавшим – спасибо за внимание! 