О вере в "сильный ИИ"
I
Читатель комментирует идею о том, что от тотальной слежки нужно защищаться не криптографией, а герменевтикой:
Я думаю, что, чем выше, так сказать, стиль, тем труднее ИИ разобраться в тексте. Это было не так, когда литературные и профессиональные электронные тексты (то есть тренировочный материал для нейросетей) составляли заметную часть всего доступного массива. К нынешнему моменту вал мусорного бытового трёпа смыл всё. Соответсвенно ИИ именно там есть чем поживиться и оттачивать точность “погружения в контекст”. Поэтому, уводя контекст и стиль в область ослабленных ассоциативных связей и малого количества тренировочного материала, можно сбить ИИ с толку (пока).
Думаю, что сложнее всего машине будет разобраться с поэтическим текстом, поэтому, возможно, в будущем увидим патрициев, общающихся стихами, как в опере (кстати, можно петь, т.к. эмоциональная составляющая добавит ещё одно измерение). Готовая поэзия не пойдёт - на неё уже имеется масса критического материала. Так что придётся учиться импровизировать на ходу.
(Последующее восьмистишие я не цитирую, чтобы не давать АНБ материал для обучения. ;) )
Литературные игры (или их разработка, игра второго порядка ;) ) хорошо послужат созданию сообществ, но не ведут к достижению заявленной ими цели. Например, веганы не “спасают животных”. Игра в сокрытие смыслов от ИИ в первую очередь скрывает смыслы от непосвященных в игру. ;) Но катастрофы здесь нет.
В 1950х-1970х годах гремела “космическая эпоха”. Космофантастика стала частью поп-культуры (“Стар Трек”), и казалось, что уже скоро человек начнет заселять дальние планеты. Но мечты о “людном” космосе остались мечтами — незачем человеку жить на ледяных камнях. Наследием эпохи остались спутниковая связь и дешевые межконтинентальные полеты, что позволило поп-культуре переключиться на “киберпанк”. Мне кажется, что “сильного ИИ” (и, тем более, “сингулярности”) в ближайшие десятилетия, скорее, тоже не будет по схожим причинам — не понадобится.
Я упоминал несколько раз, что сегодняшний бум “ИИ” имеет два корня, проросших в 2000е: аппаратные архитектуры для быстрого перемножения огромных матриц и небольшие мобильные устройства для сбора с населения больших объемов данных для обучения. Чтобы бум прекратился, достаточно зачахнуть одному их них. Вряд ли это будет второй — как я уже писал, потерявшим работу из-за “ИИ” будут платить пособие за данные. Проблемы есть у первого.
Полупроводниковые компьютеры сейчас повторяют судьбу ламповых: ими приходится наполнять целые здания, они потребляют много энергии и выделяют много тепла. А с достижением предела размера вентиля на кристалле придется строить еще больше еще более крупных датацентров. Потребление энергии — первейшая проблема в компьютерной индустрии. Не потому что “жалко деревья”, а потому что она дорого стоит (у Гугла миллионы серверов), или её очень мало (в смартфонах маленькая батарейка). Разработки “нейропроцессоров” мотивированы исключительно энергосбережением — специализированный чип потребляет значительно меньше энергии (и, соответственно, выделяет меньше тепла) в пересчете на операцию.
Выделение тепла полупроводниками мешает еще и созданию “трехмерных” процессоров — стопок кристаллов в одном корпусе. Если сделать слишком толстый кремниевый бутерброд, он быстро сгорит. Третье измерение кремния сильно ограничено — в лучшем случае, десятки слоев (против десятков тысяч вентилей, считая в ширину и глубину). Коммуникации между слоями получаются медленные, хотя уже и в пределах одного кристалла не очень.
Создание аппаратуры, реализующей нейросеть, сравнимую по размеру и связности с мозгом собаки (даже не человека!), на современных технологиях, наверное, возможно. Только её габариты, энергопотребление и скорость работы не позволят использовать её для практических задач. Замену полупроводникам ищут (нанотрубки, фотоника), но до промышленных образцов еще десятилетия. Времени точно хватит на очередную “зиму ИИ”. ;)
Переживать, впрочем, не стоит: не полетели на Марс (и не полетят [1]), зато сколько теперь есть фильтров для селфи! Аналогично, не будет разумных секс-роботов, на лету расшифровывающих литературный перещёлк и докладывающих, куда следует, но благодаря “ИИ” расцветут другие отрасли народного хозяйства. Например, биотехнологии: в искусственное бессмертие как добавку к пенсии я верю. :)
Поэтому далее я рассмотрю духовный мир сторонников наступления “сингулярности”.
[1] Чем же тогда занимается нелегитимный внук Эдуарда VIII и вообще индустрия “частной космонавтики”? Очевидно, десантными челноками. США и Британии хотелось бы иметь относительно дешевый способ высадить за 90 минут в любой точке планеты батальон морскойкосмической пехоты.
II
Полеты в дальний космос, “сильный ИИ” и искусственное бессмертие имеют точку пересечения — “загружаемое сознание”. Это довольно старая по меркам поп-культуры идея, в 1980х она уже была мейнстримной. Согласно духу времени, в 18 веке технари воображали себе сознание состоящим из крохотных шестеренок, в 19 — из электрических импульсов, а в 20, ожидаемо, как “программу” для мозга-“компьютера”. Значит, “программу” можно отправить к звездам без надоедливого мешка с мясом и костями, “мозг” сделать искусственный и жить тысячу лет.
Как ни странно, такой позиции могут придерживаться не только молодежь, осыпанная бесплатными венчурными деньгами, но и академические философы. В 1991 году маститый американский философ сознания Дэниел Дэннет написал популярную книжку “Consciousness Explained” (вошла в список бестселлеров “Правды-на-Гудзоне”), где сообщил, что прогрессивный человек не может иметь иного взгляда на мироздание, кроме элиминативного материализма. Конечно же, другие маститые англоязычные философы с тех пор изложили свою критику Дэннета, но поскольку книжка старая и написана для широкой публики, её прочитало и приняло близко к сердцу множество технарей-любителей научной фантастики. Именно с позиции “истории идей”, а вовсе не “философии”, я пройдусь по личности Дэннета — выйдет иллюстрация мировоззрения “визионеров Кремниевой Долины”.
Само собой, Дэннет — ярый борец с религиозным дурманом, вроде Доукинза (который, впрочем, его близкий знакомый). Его аргумент за физическую природу сознания следующий. Мракобесную концепцию “жизненной силы” прогрессивное человечество переломило? Переломило. Живой организм — это такой, который построен по инструкциям, записанным в ДНК. Аналогично надо разделаться с идеей “бестелесной души”: сознание — это свойство достаточно сложной мозговой структуры. Ошибаются скептики, считающие, что сложный мозг может быть, например, у “зомби” — организма, внешне неотличимого от разумного, но не обладающего чувственным опытом. Никаких “зомби” не бывает.
Так, Дэннет считает что, в мысленном эксперименте “китайского мозга” (не путать с “китайской комнатой”) сознание возникает. Т.е. если миллиарду китайцев дать инструкции изображать из себя нейроны, то получится разумное существо (пусть и очень медленно соображающее). Надо сказать, что спустя четверть века, “китайский мозг” все-таки появился, но в неожиданной форме. ;) В исследованиях “машинного обучения” сейчас занято очень много китайцев. Ведь там много тупого “угадывания”, множество мало отличающихся друг от друга экспериментов (подкрутили параметры-запустили заново), объяснения результатов не требуется — белому человеку скучно таким заниматься.
Элиминативный материализм подается Дэннетом как атака на картезианский дуализм. В этом многие видят слабое место — все-таки, со времен Декарта были и другие люди, прорабатывавшие дуалистическую позицию. Надо сказать, что “разоблачения Декарта” в современной англоязычной философии встречаются весьма часто. Мне кажется, это потому, что он — последний континентальный философ, которого англосаксы читали. ;) Но англичане, все же, начали снова обращать внимание на континентальную мысль в конце 19 века, а американцы так и остались в 17м, вместе со своим пуританством. Поскольку они не признают разделения физической и духовной реальности, то и жизнь у них — охота на ведьм. Разумных роботов наверняка сделают раньше европейцев — потому что они сами разумные роботы, “стимул-реакция”. ;) Идеал американского общества будущего — Borg из “Стар Трека”.
Дэннет отрицает “картезианский театр”, т.е. идею о том, что можно выделить какую-то точку в мозге, куда поступают все чувственные данные и откуда исходят управляющие сигналы. Он приводит множество психологических экспериментов, показывающих, что такого единого центра нет, а есть “ворох черновиков” (multiple drafts) — постоянно обновляемых и не всегда целостных картин мира в разных частях мозга. В повседневной жизни просто не возникает ситуаций, когда это можно заметить. А раз центра нет, то и бестелесному сознанию негде прицепиться к телу! У меня давно уже возникла теория, что в аналитической философии тоже есть зашифрованный перещелк, и описание Дэннета как раз подходит, чтобы её испытать.
Англосаксонская система управления, одновременно состоящая из демократических и аристократических частей, может быть описана как процесс обучения. Политические убеждения гражданина это набор “весов”, определяющий как из прочитанного в газетах получается голос на выборах. По итогам голосования определяется, ускорять или замедлять движение по принятому государственному курсу. Когда курс корректируется бюрократией, избирателя надо обучать заново. Проводятся опросы, вычисляется, насколько избиратели ошибаются, затем при помощи СМИ ошибку распространяют обратно по слоям, и “веса” обновляются. :) Повторить необходимое количество раз до уменьшения ошибки до приемлемой.
Американский вариант англосаксонской системы управления, как известно, славится своим разделением ветвей власти и “сдержками и противовесами”. Прогнали своего деспота-короля, и их политика стала “ворохом черновиков”. По мере нарушения связей между управляющими центрами, начинается политическая шизофрения. А у англичан осталась монархия, служащая точкой сборки (“право монарха быть информированным”). Демократия (горизонт событий — годы) и аристократия (горизонт событий — десятилетия) у американцев есть и хорошо работают. Проблема в том, что нет никого с горизонтом событий в сто лет, а потенциальных кандидатов на такую работу коллективно затаптывают.
Интересно, что в качестве иллюстрации “вороха черновиков” Дэннет использует именно Британскую империю. :) В 1814 году Британия и США заключили мир, но информация о нем разошлась по миру не сразу. Поэтому в январе 1815 года произошла битва за Новый Орлеан (англичане проиграли). В Индии узнали о ней раньше, чем о предшествовавшем ей мирном договоре. И лишь благодаря датам отправки писем получилось разобраться, что же произошло. Аналогично, человеческая память постоянно редактируется по мере распределенной обработки информации. Таким образом, сознание это просто “центр притяжения нарратива”. А в американской академической традиции принято, что разбираться с художественной литературой — задача уже не для философа. ;)
Вдвойне интересно, что Дэннета поставили на лыжи именно в Британии — он получил докторскую степень в Оксфорде в 1965 году, а его научным руководителем был маститый английский философ сознания Гильберт Райл, чья классическая монография 1949 года “The Concept of Mind” и положила начало современной “борьбе с заблуждениями картезианства”. ;) Также в Оксфорде чуть раньше учился и защищался маститый американский философ сознания Джон Сёрл (не разделяющий, впрочем, позиций Дэннета). Я уже упоминал в раннем цикле, что в 1950х-1970х годах Оксфорд был “философской Меккой англосферы”.
Англичане отлично поработали. На протяжении всей первой Холодной войны, до самого перемирия 1975 года, они умудрялись затаскивать к себе практически всех американских государственных философов и компостировать им мозги “аналитическим методом”. Пока американцы учили, что человеческое сознание это “программа”, континентальные европейцы успели в собственно американское сознание записать вирусы деконструкции и критической теории. ;) Пока поставленные на официальную философию умники бормотали, перебирая в руках английские четки, что “словесные фокусы и неверное употребление языка не составляют философской проблемы”, постмодернистский дискурс беспрепятственно занял американские факультеты литературы и социологии. Как только Оксфорд перестал был “философской Меккой”, НЕОЖИДАННО оказалось, что американские гуманитарные науки целиком состоят из мультикультурных и гендерных штудий. ;)
Тут “выручило” и родное американское учение прагматизма. Дэннет пишет: почему спелые яблоки красные? эволюционное преимущество! (их быстрее съедают и дальше разносят семена) А почему появилось сознание? Потому что эволюционное преимущество! ВЫГОДНО. (Почему тогда появилась эволюция? КОМУ же она ВЫГОДНА? Наверное, это тоже “не вопрос философии”. ;) ) Американцам объяснили, что на самом-то деле им не прошивку поменяли, а в рамках атлантического партнерства поделились средствами для мобилизации рабочей силы и стимуляции потребления. Понять, что происходит, в США попросту НЕКОМУ.
Среди описываемых Дэннетом экспериментов есть один весьма забавный и хорошо отражающий ситуацию. Испытуемого сажают перед экраном, на который выводится текст. Отслеживая движение зрачков, определяют на какой участок экрана он смотрит в каждый конкретный момент. Текст постепенно изменяется по одному слову, пока взгляд направлен на другой участок. Испытуемому кажется, что текст неизменен. Дэннет описывает свой личный опыт участия в этом эксперименте так. Сел, перед ним включили экран и eye tracker. Минута. Вторая. Ничего не происходит. Спрашивает, когда же начнется. Лаборант отвечает: а уже началось. ;)
III
Читатель излагает, по собственному признанию, теорию заговора материалистов. Если принять материалистический взгляд на сознание, согласно которому оно является свойством физически существующего головного мозга, то пересадка мозга (или головы) в другое тело приведет и к переносу сознания. (Материалисты настаивают, что нужно говорить “пересадка тела”.) Но что если сознание — не физическое явление, и “пересадка головы” приведет к смерти донора головы и продолжении сознательной жизни владельца тела? Не оттого ли сорвалась программа итальянского нейрохирурга, планировавшего отрезать голову русскому программисту, потому что такая операция уже была проведена тайно, и выжило вовсе не то сознание, которое должно было?
Неплохая версия! Похоже на сюжетный поворот MGS4. :) Если воспользоваться словами Деннета (как титулованного материалиста), то не имеет смысла считать сознание “нефизическим” явлением, потому что его существование нельзя было определить физическими измерениями, а значит, оно никак не могло бы взаимодействовать с физическим телом человека. Подобная позиция довольно наивна для человека, выражающегося слоганами вроде “мозг это компьютер, сознание это программа”. Ведь компьютерные программы — нефизические объекты, и они прекрасно могут взаимодействовать с физическим миром (записали байт по некоторому адресу памяти — на экране загорелся пиксель, нажали кнопку на клавиатуре — управление передалось обработчику прерывания).
Читатель пытается поправить эту аналогию, сравнивая мозг с “оперативной памятью” (вмешательство в которую действительно приводит к нарушению сознания), но первоисточник сознания не “оперативная память”, а “облако”. Здесь аналогия вообще-то рушится. Датацентры “облака” и дающая к ним доступ сетевая инфраструктура ведь такая же часть физической реальности. :) Искать место “программам” нужно не в “облаке”, а в мире математических объектов. Далее возможны споры, чем же являются математические объекты.
Материалисты сознания стоят на номиналистской/антиреалистической позиции, т.е. для них “сознание” существует только в человеческом сознании. :) У англосаксов в принципе большая проблема с принятием платонизма и существования идеальных объектов в некоторой реальности, отдельной от физической. Представить пространство без свойства протяженности у них не получается (физически ;) ), поэтому они сводят разговоры об идеальном к “языковым фокусам”. Дремучий эмпиризм. ;)
Споры между реализмом и номинализмом можно, в принципе, обратить сами на себя, и сказать, что противоречие между ними — языковое (или наоборот, онтологическое ;) ). Т.е. “существуют” ли идеальные объекты, либо они просто условность речи — либо само по себе условность речи, либо же сам по себе вопрос включения “языка” в базовые категории бытия. ;) И так до бесконечности. Одной группе людей нравится одна неподвижная точка, другой — другая. На мой взгляд (крысы ;) ), разница здесь тождественна делению на религиозные школы. Схоластика. Но надо отметить, что этого взгляда я придерживаюсь из-за членства в определенной религиозной школе. ;)
Хорошую иллюстрацию этому дает сам читатель. Он приводит список попыток установить, какая же часть мозга ответственна за появление сознания, все из которых неудачные. Вывод читателя — сознание находится вне физического тела. А вывод материалиста-Деннета из тех же фактов — сознания нет вовсе, а то, что люди так называют, это “ворох черновиков” (не знаю, есть ли общепринятый русский перевод его фразы “multiple drafts”).
Американцы разрешают такие дилеммы при помощи своего “прагматизма” — “во что выгодно верить, то и истина”. Сейчас, конечно, эту максиму ради приличия начали трактовать примерно как “верить в отражающие реальность физические законы выгодно, потому что становится возможным управлять реальностью”. Но основатель прагматизма Джеймс имел ввиду кое-что другое. “Если твоя вера тебе строить и жить помогает, верь на здоровье, только никому не мешай”. В 1870х годах Америке было нужно как-то стать из сборища разношерстных сект централизованным национальным государством. Поэтому они приняли в качестве (неписанной ;) ) идеологии, что можно верить во что угодно, при условии веры в Америку. Столетие спустя добрые европейцы, пользуясь этой дыркой, объяснили им, что “истина и добродетель относительны, абсолютны только патриархат и белая привилегия”. ;)
Что же до итальянского нейрохирурга, собиравшегося резать головы русским (выражение читателя, а не мое :) ), история довольно мутная. В том числе, из-за отношения к ней прессы, многократно объявлявшей фальстарт. От горбуна с ЗИЛашарлатана до непризнанного гения один шаг. ;)