Мысли наружу

Писательская Муза очень непостоянная особа. Иногда полчаса сидишь, вымучиваешь пару абзацев - и все мимо. Потом внезапно шорох крыльев и шепот в ухо: «Милый, ну что же ты?.. я готова». И за полчаса пять страниц, да каких! При этом тему тоже Муза выбирает. Собираешься писать что-то серьезное - выходит хохма. Решил пошутить, а она, паршивка, явилась в офисном прикиде - белый верх, черный низ, строгий пучок и очки на носу… И вместо анекдота получается умняк. Вот и теперь - хотел написать короткую язвительную заметку, а получилось философское эссе.

Встречайте!

Третьего дня сразу из нескольких мест прилетела ссылка про новую технологию от Цукерберга Brain2Qwerty - конвертация мозговой активности в слова (кто не в теме - погуглите, там богато). Смотрю я на это дело и тревожусь. Человечество кое-как научилось не читать чужие сообщения в мессенджерах, а тут опять подбираются к черепной коробке с фонариком, блокнотом и вопросом: «А что это вы там, голубчик, подумали перед оплатой подписки?»

Формально всё пока выглядит чинно и благородно, никаких тебе людей в серебряных шлемах или зловещих операторов за пультом, никаких «объект думает о верблюдах, пишем». Человек печатает текст, вокруг гора умного железа начиненного ИИ ловит шумные сигналы мозга и пытается понять, какие буквы из этого душевного компота можно вытащить. В первой версии модель угадывала отдельные клавиши по сигналу с магнитоэнцефалографа, символ за символом, как на любимых мною телетайпах. А вот вторая модель декодирует целые предложения по семантическому контексту. По сути, нейросеть не просто распознает слова из шумов мозга, а понимает, о чём вы думаете.

Конечно пока это не чтение мыслей, скорее чтение следов мысли, оставленных на мокром песке моторной коры, языковых зон и всей этой богатой неврологической бухгалтерии. Мозг хотел написать слово, пальцы почти пошли, система такая: ага, кажется, тут была буква «р», потом «а», потом всё поехало в тартарары, зовите языковую модель.

Но направление-то понятно! И вот тут начинается интересное - куда, как и кто завернет эту красоту. Манихеи учили, что трагедия нашего мира в его двоичности - светлые искры Добра и Духа облечены в материальное Зло. И, знаете, я склонен согласится с манихеями, потому что куда не кинь - везде одно и тоже… Аверс неотделим от реверса, и благие начинания оборачиваются кромешным ужасом.

Иной читатель скажет - Дима, хватит воду толочь, ты что хотел сказать-то?

А вот.

Как можно использовать такую технологию? Первое и самое очевидное - тяжелые инвалиды, люди, запертые внутри тела. Хокинг-стайл, только без красивой легенды про гения, а просто, в обычной палате… где моргает лампа, сиделка устала, родные уже не знают, что и делать, а-то человек внутри живой… Думает, помнит, любит… Злится! Хочет сказать: «Поверните же меня на бок, гады, плечо уже отваливается!» Если технология даст такому человеку голос, это даже не рынок, это акт возвращения из мертвых, тут спорить не о чем.

Дальше интерфейсы. Игры, работа, управление компьютером, вся эта магия «человек-машина». Сейчас мы тычем пальцем в клавиши или экран, как дрессированная макака в автомат с бананами. А тут все пойдет через намерение, появится новый слой управления не руками или голосом, но вниманием… И это будет странно.

Потому что внимание - очень интимная штука. Рука может соврать, а голос изобразит ложную уверенность. А внимание, зараза, выдает всё. Ты вроде слушаешь презентацию про квартальный рост, киваешь, делаешь лицо «стратегия, синергия, EBITDA», а мозг уже третий круг нарезает вокруг мысли: «Какая все же у Людки жопа!.. А не заказать ли вечером хинкали?» И умный прибор тут как тут: фиксирую расфокусировку, субъект ментально покинул совещание, находится в районе грузинской кухни с эротическими фантазиями. Смешно? Да не очень…

Потому что следующий слой это контроль. Нет, я не верю в ближайшее дистанционное чтение мыслей через стену. Это пока фантастика для плохого сериала, где генерал ФСБ сурово смотрит в монитор и цедит: «У объекта политические сомнения, усильте наблюдение».

Скорее всё будет гораздо тупее, дешевле и страшнее… никто не будет ломиться тебе в мозг. Нам продадут удобное устройство - мягкие наушники для концентрации, обруч для сна или игровой шлем. Обычная гармония за 299,9 долларов. И мы сами всё наденем, с радостью, ещё и отзыв напишем: «стало легче работать, приложение показывает мои когнитивные пики». А внизу, на 17 странице инфернальной EULA, будет мелким шрифтом «…данные используются для улучшения сервиса, партнерских продуктов, рекламной персонализации, оценки эмоционального отклика и иных целей, включая, но не ограничиваясь».

Настоящий киберпанк это не когда безумный профессор, инфернально хохоча, вскрывает башку пилой, а когда улыбающаяся девочка из маркетинга говорит: «Мы заботимся о вашем ментальном благополучии». И в этот момент где-то в облаке появляется твой профиль - раздражается на начальника, склонен к тревожному выбору, покупает вечерамина фоне усталости, плохо сопротивляется ностальгической рекламе после полуночи. Красота!..

Четвертый слой - обучение мышлению. Вот это, как ни странно, мне кажется самым большим, светлым, но при этом - чудовищно опасным. Если мы научимся визуализировать не мысль как содержание, а сам ход мышления, как процесс, это будет революция в образовании и педагогике. Сейчас ведь что? «Вася, думай лучше!» - великая педагогическая методика, испокон веков работающая примерно никак. А как будет.

Смотри, Вася, вот ты читаешь задачу. Первые десять секунд всё хорошо. Потом внимание уходит в шум. Потом ты хватаешь первое знакомое слово и строишь на нем идиотскую версию, пугаешься, потому что не понял… Тут начинаешь угадывать. Вот здесь потерял условие, а тут подменил вопрос. Вот здесь начал злиться, мозг ушел в защиту… А вот появились пончики, они тут зачем?!

И сразу пример другого мышления - смотри, как делает сильный ученик. Сначала удерживает задачу целиком, потом разбивает на части, проверяет ограничения, отбрасывает мусор и формулирует гипотезу. Он не торопится, не мечется, как кот в ванной перед помывкой. Это же фантастика!

Мы сможем учить не ответам, а самой внутренней технике думания и концентрации, нахождению момента, когда ты уже не думаешь, а тревожно жуешь собственную растерянность. Сейчас это делают хорошие преподаватели и тренеры, иногда опытные родители. На глазок, по интуиции, по своим набитым шишкам и огромному опыту… А тут появится точный инструмент. Опасный…

Потому что родная школа превратит его в очередной электронный дневник из ада. И тебе по пять раз на дню будут приходить сообщения типа: «Ваш ребенок сегодня думал неэффективно 43 минуты, примите меры». И папа вечером: «Вася, почему у тебя снова красная зона когнитивного распада превалирует над конструктивом?..» А Вася такой - «нубляяя»… Молчит. Мечтает уйти в монастырь. Или в киберспорт, что примерно одно и то же по степени отрыва от реальности.

Вот мы добрались до десерта - мыслеэмодзи, это вообще отдельная песня. Когда-то смайлики казались баловством. Двоеточие, скобочка… Детский сад, штаны на лямках. А потом выяснилось, что эти два символа могут заменить целый абзац. Потом пришли эмодзи, стикеры, реакции. И вот уже человек отправляет баклажан, каплю, череп и улыбающуюся рожу - и все всё поняли, хотя лучше бы, возможно, не понимали…

Эмодзи стали иероглифами эмоций, но они плоские. А тут будет мыслеформа, такой коктейль состояния - в нем намешаны эмоция и логика, сомнение, оттенок иронии, намерение… близость. Не надо пространно писать другу: «Слушай, что-то мне тревожно… ну, не панически, а как-то фоново; при этом я понимаю, что идея хорошая, но есть такой мутный привкус будущей беды». Просто отправляем ему одну такую штуку - и он понимает! Не читает мысли буквально, нет. Скорее получает их сжатый отпечаток, как предчувствие, как запах грозы перед дождем.

Это может невероятно ускорить коммуникацию, но при этом чудовищно ее обеднить. Потому что наш язык - не только передача смысла, это сильнейшее сопротивление. Мысль, продираясь через слова, сама себя уточняет. Пока объясняешь - лучше понимаешь, а в споре находишь слабое место. Пишешь длинную фразу, и внезапно выясняешь, что думал совсем не то, чем гордо размахивал пять минут назад.

А если всё заменить быстрым обменом мыслеформами, мы получим не телепатию, а рынок полуфабрикатов души.

— Отправь мне грусть

— Лови

— Не та, нужна с легкой надеждой и запахом мокрых листьев питерского октября

— а это уже платная подписка, голубчик

И ты - мляяя, где моя кредитка?!..

Все идет не к чтению мыслей в старом смысле, не к тому, что кто-то услышит твой внутренний монолог. И слава Богу, иначе цивилизация рухнула бы к ближайшему понедельнику. Мы идем к внешнему интерфейсу нашей внутренней жизни, когда мысль станет вводом, эмоции - сигналом, а внимание окончательно превратится в товар… И личность будет лишь датасетом.

Вопрос не в том, можно ли это остановить (кстати - нельзя), вопрос в том, кто будет держать кассу… Там ведь целая хищная стая сужает круги - медицина, образование, игровые платформы… Рекламные сети, корпорации, которые уже сейчас знают о наших желаниях больше, чем мы сами, потому что мы-то себя оправдываем, а они изощренно считают клики. Спецслужбы, о да. Главный сюжет не «ой, они прочтут мои мысли!..», а в том - кто получит право превращать мое внутреннее движение в данные. Мысль, пока она внутри, принадлежит человеку, а вот мысль, записанная датчиком, очищенная моделью, размеченная, упакованная и отправленная на сервер это уже, идеальный продукт.

Все боятся, что данные утекут наружу, корпорация соберёт профиль, продаст рекламщикам, а тов. Майор подошьёт в папочку. Внешний враг опять же - классическая страшилка, мы её сто раз в кино видели… злой дядя за монитором, «объект думает о мамином борще, мы наконец-то получим рецепт, та-даам!..»

Беда придет совсем не оттуда. Вот ты полгода поносил обруч. Или год. Ты уже догадываешься, что черновик снимается 24/7, что первая, сырая, стыдная версия мыслей уходит на сервер раньше, чем ты успел их причесать. Что ты будешь делаешь? А начинаешь причёсывать заранее, внутри, еще до того, как подумал набело. Раньше секундный зазор свободы между мыслью и языком давал право скрыть внутреннюю мразь, труса и дурака… А теперь этот редактор переедет вглубь. Ты нанимаешь маленького цензора и сажаешь его уже не на язык, но на самый исток мысли. И он там сидит, гадина, в самой сердцевине, и правит тебя набело ещё до того, как ты сам себя услышал… И когда датчик наконец снимет твою мысль выяснится, что снимать уже нечего, ты сам всё вычистил, добровольно. И проблема уже не в том, кто держит кассу, а втом, что кассы-то нет. Товар кончился, мы сами перестали его производить.

Ладно, с нами все понятно, мы ещё аналоговые, битые. А дети?..

Выше я писал, что сила языка не в том, что он передаёт мысль, а в том, что он ей сопротивляется, что мысль продирается сквозь слова, как сквозь колючку, и по дороге сама себя уточняет и перестраивает. Трение это станок, на котором обтачивается мысль; правда рождается в сомнении, а сомнение - продукт внутреннего диалога, который невозможен без слов…

А теперь возьмем пацана, который с трёх лет обменивается не словами, а мыслеформами. Пакет туда, пакет обратно. Сжато, богато, мгновенно и без единого шва… Он не обеднел в общении, не смешите, он общается быстрее нас всех, вместе взятых. Он просто не умеет думать. Потому что думание живет вот в этом самом трении о язык, а трение отменили за ненадобностью. Зачем продираться сквозь колючку, если есть тоннель? Мы рискуем вырастить поколение с гладким, скоростным, идеально пустым сознанием. Орган думания просто усох, как хвост, как аппендикс, за ненадобностью… Есть ли в этом плюсы? Что бы сказал наш манихей? Ха! Это же идеальный рынок! Мечта любого, кто держит кассу… Эти дети не будут сопротивляться рекламе, манипуляции или вбросу не потому, что глупые, а потому что сопротивление жило в том самом органе, который им отключили в детстве, принеся в жертву прогрессу и скорости.

Но, знаете, это ещё не самое страшное… Полторы тыщи лет назад в нумидийском Гиппоне Блаженный Августин писал свою «Исповедь». Мучался, казнил себя, но не за то, что сделал, за то, что помыслил, за мимолетное движение души, которое проскочило раньше воли. Украл в детстве груши, не потому что был голодный, а потому что нельзя было… и вот это глодало его сильнее любого настоящего греха. Грех начинается не в руке, но в сердце. И Матфей туда же - всякий, кто смотрит с вожделением, уже прелюбодействовал в сердце своём. Только внутри шевельнулось - всё, уже виновен.

Тысячу лет это было духовным ужасом и одновременно убежищем. Потому что сердце видел только Бог. И человек каялся Ему… сам, добровольно, когда осознал, и стал готов. Между твоим помыслом и чужим глазом стоял Бог, а Бог (при всех претензиях) хотя бы молчал и не сливал в облако под разметку.

А теперь (барабанная дробь) у нас есть прибор, который ловит помысел ДО поступка. Ну буквально, ту самую вспышку в моторной и языковой коре, которая на полсекунды опережает волю. Сбылся древний богословский кошмар в железе - помысел стал виден и грех в сердце получил единицы измерения. И снова вопрос не в том, прочтут ли мысли. Вопрос - а кто сядет на место, которое две тысячи лет держали пустым, на место Сердцеведца. Кто получит право видеть тебя раньше, чем ты сам себя увидел, и судить по вспышке, а не по делу?

Августин исповедовался невидимому Богу по любви и по своей воле. А нам светит исповедь принудительная, непрерывная, с доставкой в облако и пометкой «данные используются для улучшения сервиса». Похоже, что теперь у Бога появился отдел маркетинга и аналитики.

А там и продажники подтянутся, куда ж без них?