«Искусственный интеллект — это сквозная технология, она применяется повсюду и везде может создавать как возможности, так и угрозы»

Разумен ли искусственный интеллект? Не замахнулись ли разработчики на роль Бога? Нужен ли общий искусственный интеллект человеческой цивилизации? Чем опасен искусственный интеллект в эпоху постправды и информационных войн? Об этом рассказал Константин Вячеславович Воронцов, доктор физико-математических наук, профессор РАН, заведующий кафедрой машинного обучения и цифровой гуманитаристики МФТИ, заведующий кафедрой математических методов прогнозирования ВМК МГУ, заведующий лабораторией машинного обучения и семантического анализа Института искусственного интеллекта МГУ.

Определимся с понятиями

— Константин, хотелось начать наш разговор с самых основ. Вы говорите в своих лекциях и интервью, что ИИ — не интеллект, а его имитация. Что вкладывается в понятия интеллекта и в чем имитация не дотягивает, насколько велики различия? 

— Искусственный интеллект — это не объект и не субъект, а название множества технологий, придуманное Джоном Маккарти перед знаменитым дартмутским семинаром 1956 года. Тогда оно обозначало мечту ученых об отдаленном будущем, в котором компьютерные программы будут решать сложные интеллектуальные задачи, до сих пор посильные только людям. Замечу: не что-то конкретное уже сконструированное, а нечто абстрактное, про что даже не ясно, может ли оно быть создано в будущем. Прошло почти 70 лет, но ИИ принципиально остается тем же самым — общим названием множества разрозненных технологий и мечтой ученых об умных программах. Хотя, надо отдать должное, эта мечта стала принимать все более реальные очертания именно в последние годы, причем ускоренными темпами. 

— То есть ИИ это не есть что-то разумное? 

— Мы пока не можем толком определить, что такое разум или интеллект. Раньше нам казалось, что между человеком и остальным животным миром — пропасть. Мы разумны, они нет. Но в последнее время биологи находят у многих видов животных все больше отдельных признаков разумного поведения. И это не только обезьяны, но и дельфины, врановые и даже осьминоги. Отличие человека в том, что он обладает более мощным мозгом, и многие признаки разумности проявляются в сочетании. 

Мы все лучше понимаем, как работают отдельные нервные клетки и мозг в целом. Но окончательно определить, что есть разум или интеллект и чем это отличается от не-разума или не-интеллекта, наука пока не в состоянии. Возможно, разум появляется по мере увеличения количественных характеристик нейронной сети — числа нейронов, числа связей, глубины связности. Момент перехода нейронной сети из состояния не-разума в состояние разума невозможно определить однозначно. По мере увеличения размера сети растет объем памяти и появляется все больше новых (эмерджентных) способностей. 

Мы не наблюдаем четкого момента появления разума в антропогенезе. В наше время мы не видим переходных форм от обезьяноподобных к человеку просто потому, что нашим с вами предкам повезло уничтожить всех конкурентов, кто выглядел хоть сколько-нибудь разумным. Именно поэтому переход от не-разума к разуму в живой природе кажется нам скачкообразным. Но на самом деле он был непрерывным. Этот переход и в других аспектах непрерывен. Например, мы не можем уверенно диагностировать наличие или отсутствие разума у больных с дегенеративными заболеваниями мозга. Точно так же мы не сможем однозначно идентифицировать момент появления разума в искусственных нейронных сетях. Кое-что компьютеры делают лучше людей, и уже давно, но в чем-то они еще долго будут уступать нашим возможностям. Это не удивительно при таких колоссальных различиях в «элементной базе». 

Да, мы называем некоторые компьютерные программы искусственным интеллектом. Но это лишь условная договоренность. К естественному биологическому интеллекту они не имеют отношения. Это совершенно разные явления, которые ни при каких обстоятельствах нельзя сравнивать, ставить на одну полку, подменять одно другим или считать разновидностями общего понятия «интеллект».

Легче и честнее вообще отказаться от попыток дать четкое определение разуму или интеллекту, признать эти понятия донаучными, а на языке естественных наук говорить лишь о сочетании способностей живой или неживой системы решать те или иные задачи. Соизмеряя возникающие возможности и угрозы с целями и задачами человеческой цивилизации, которую мы строим с помощью знаний и технологий. 

Термин «искусственный интеллект» неудачен тем, что он вводит массы людей в заблуждение. Пока он не выходил за пределы научной среды, все было нормально. Ученые прекрасно понимают всю условность терминов, которые они сами же и придумывают. Плохо, когда профессиональная терминология попадает в информационное пространство без должных объяснений, популяризации идей, смыслов и истории развития, обрастая необоснованными ожиданиями, предвзятостью, неуместными морально-этическими коннотациями, вплоть до массовых когнитивных искажений. 

— А как же способность ИИ к обучению, развитию, способность делать выводы из большого массива информации?

— Осьминоги способны вылезать из лабиринтов и открывать баночки из-под лекарств, причем они этому учатся сами, методом проб и ошибок, без родителей и учителей. Вороны научились с детских горок кататься ради удовольствия — сам наблюдал. Шимпанзе и медведи в цирке катаются на велосипедах, этому их учат дрессировщики. Многие животные-оппортунисты развивают у себя разнообразные навыки путем обучения в изменчивой внешней среде. Однако мы отказываемся называть все это интеллектом. 

С другой стороны, делать выводы из массива данных способны алгоритмы приближения функций. Карл Фридрих Гаусс в начале XIX века использовал метод наименьших квадратов для вычисления эллиптических орбит планет по астрономическим наблюдениям. Без всяких компьютеров, между прочим. Этот же метод мы сегодня используем для обучения искусственных нейронных сетей. Определенно, он обладает способностью к обобщению на основе данных. Однако мы отказываем ему в праве называться интеллектом. Уже более двух столетий он для нас всего лишь численный метод приближения функций, восстановления зависимостей по экспериментальным данным. То есть с технологической точки зрения границы понятия «искусственный интеллект» тоже размыты. 

Сегодня мы уже считаем рутинными автоматическую проверку орфографии, игру в шашки, шахматы и даже го, распознавание печатных текстов, поисковые системы, распознавание лиц, кредитный скоринг, голосовые помощники и многое другое. Однако на момент постановки эти задачи считались интеллектуальными и причислялись к ИИ. Памела Маккордак в книге 2004 года «Машины, которые думают» заметила: каждый раз, когда кто-то придумывал новый способ заставить компьютер делать нечто новое (например, играть в шашки), обязательно появлялись критики, которые говорили: «Это не мышление, а всего лишь вычисления». Это явление стали называть «эффектом ИИ» (AI effect). Каждый раз понятийная граница между «просто вычислением» и «магией искусственного интеллекта» отодвигалась в сторону еще не решенных задач. Есть даже такая метафора, называемая теоремой Ларри Теслера: «Искусственный интеллект — это те задачи, которые мы еще не научились решать». 

— Как же большие языковые модели, чат GPT — они тоже всего лишь вычисления? — способность ИИ к обучению, развитию, способность делать выводы из большого массива информации?

— Иногда нам кажется, что большие языковые модели (БЯМ, они же LLM, Large Language Model) демонстрируют чудеса разумности. Однако они всего лишь извлекают сложные взаимосвязи между словами из терабайтов текстов, написанных человечеством. Что бы они ни делали, это лишь отголосок человеческого разума. Да, просто вычисления. Которые человек волен как запустить, так и остановить. 

Кое-что необычное все же произошло в последние годы. Впервые за 70-летнюю историю искусственного интеллекта вычислительный алгоритм приобрел навыки, которым его не учили в явном виде. Эмерджентные навыки проявились сами собой. Языковая модель GPT училась предсказывать слова в тексте по предыдущему контексту. Затем ее немного доучивали правильно выполнять инструкции в диалоге с людьми. И это всё! Кажется чудом, что заодно она приобрела навыки изложения, сочинения, планирования, перевода с одних языков на другие, решения логических и математических задач, исправления собственных ошибок, поддержания диалога с человеком на любые темы. Не говоря уже о практически идеальной орфографии и грамматике. 

Эмерджентность — это то, что действительно впечатляет. В то же время она объяснима. Чем больше размер памяти у модели и объем данных, на которых ее обучают, тем больше навыков она приобретает. Несколько лет назад размер модели дорос до размера естественных языков во всем многообразии их употребления. Человеческий язык — мощнейший инструмент коммуникации, применяемый людьми для коллективного решения любых задач в изменчивой внешней среде. Модель научилась языку, пронаблюдав миллиарды ситуаций языкового употребления. Люди учатся общению похожим способом, с раннего детства. Нам, пожалуй, гораздо меньшего числа примеров вполне хватает. 

Получается, что наш интеллект — тоже всего лишь вычисления. Плюс память,реализуемая в тысячах синаптических связей каждого из 86 миллиардов нейронов. По объему и энергоэффективности наша память лучше самых мощных суперкомпьютеров на несколько порядков. Но не это главное, так как через пару десятков лет этот разрыв, скорее всего, будет устранен. Главное — это миллиарды лет эволюции, естественного отбора по критериям выживания. В котором ключевую роль постепенно стала играть способность мозга к предсказательному моделированию окружающей среды и собственного поведения. Это и есть та самая уникальная невоспроизводимая ценность, которая ставит нас несоизмеримо выше любых создаваемых нами машин. Они просто никто в сравнении с такими грандиозными нами. 

Вообще, не существует самоцели создавать искусственный аналог человеческого интеллекта. Есть конкретные задачи автоматизации труда людей, в том числе интеллектуального. Есть конкретные цели и задачи развития человеческой цивилизации. Логично сперва их определить, прийти к коллективному согласию в этих вопросах и отсюда выводить задачи развития технологий ИИ. 

— Как будут развиваться эти технологии дальше? Не получиться ли так, что рано или поздно мы уже не сможем отказать им в «разумности»? 

— Очертания прорыва ближайшего будущего в целом уже ясны. Следующее поколение моделей будет учиться не столько на текстах, написанных человечеством, сколько на потоках информации, поступающих из окружающего мира: видео, аудио, сигналы датчиков. Цель — научиться принимать решения в открытой изменчивой среде, в которой могут происходить какие угодно неожиданности. Модели внимания и адаптации, необходимые для этого, уже отработаны на текстах. Тексты тоже будут обрабатываться — главным образом ради поддержания коммуникации с людьми. Будут ли такие автономные агенты общаться друг с другом для коллективного решения задач? Да, уже общаются. Смогут ли они вырабатывать для этого собственный язык? Да, уже вырабатывают; причем этот язык непонятен людям, что несколько пугает. Можно ли их заставить использовать для этой цели человеческий язык? Да, и это тоже сделано. Такие модели получили название сократических (Socratic models). Поскольку именно философская школа Сократа рассматривала язык как средство коллективного решения любых задач в любых ситуациях. Кажется, что это уже предельно похоже на интеллект… Но ведь и это — всего лишь вычисления! 

Интеллект — это та совокупность механизмов адаптации, которая позволила виду homo sapiens оказаться наверху пищевой цепочки и стать доминирующим видом, преобразующим биосферу планеты. Тогда получается, что единственное надежное доказательство создания ИИ — его способность превзойти нас в задаче выживания на планете. Естественный интеллект ведь сформировался, ровно эту задачу решая. Жутковато становится… К счастью, в этих рассуждениях есть логическая ошибка. Когнитивное искажение, связанное с идеей замены человека машиной, неудачно заложенное в само понятие artificial intelligence. Давайте исправим эту ошибку, уточнив определение. 

Искусственный интеллект — это вычислительные технологии, создаваемые для повышения эффективности интеллектуального труда людей 

Как вам такое определение? Если слова нас обманывают, значит надо ответственнее подойти к их выбору, закладывая в них цивилизационные смыслы и цели созидательной деятельности. Пора снимать с повестки дня создание общего искусственного интеллекта, зачем-то превосходящего человеческий. Нам нужны технологии, усиливающие человека и помогающие ему, а не превосходящие и заменяющие его. В таком понимании, если оно будет разделяться всеми, искусственный интеллект становится безопасным для человеческой цивилизации. 

Путь в профессию 

— Сейчас кажется, что ИИ проникает во все сферы нашей жизни, но что вас привлекло в этой науке более 30 лет назад? Что повлияло на выбор профессии?

— Я выбрал это направление на втором курсе Физтеха. Во-первых, мой преподаватель по курсу вычислительной техники, профессор Лев Николаевич Столяров, оценив мою реализацию алгоритма игры в реверси, порекомендовал идти на базовую кафедру Вычислительного центра РАН, в отдел Юрия Ивановича Журавлёва. Во-вторых, я пользовался «принципом неокончательных решений Габора». Правда, тогда я не знал, что это так называется, но считал, что при принятии решения нужно оставлять себе максимум свободы выбора для последующих решений. Базовая кафедра в ВЦ РАН была как раз такая. Там занимались очень разными задачами — от моделирования ядерной зимы, экономики и экологии до медицинской диагностики и распознавания образов. Меня манила возможность находить для математики и программирования самые разные применения, не зная порой, в какую прикладную область придется погружаться через полгода. Разнообразие приложений привлекало свободой выбора. 

На самом деле моя научная симпатия была предопределена еще раньше, в школе. Мой отец, профессор МИСиСа, предложил мне после девятого класса что-то вроде летней стажировки. Зная о моем интересе к программированию, который он сам же и пробудил, папа дал мне реальную задачу. Надо было сделать инженерные расчеты деформаций и остаточных напряжений в металлическом образце, обработанном кузнечным прессом. Измерения деформированной сетки, заранее нанесенной на образец, делал папин аспирант под микроскопом. Папа досконально знал физику пластических деформаций и расписал все формулы для вычислений. А я учился программировать по взрослым книжкам — нормальных школьных учебников тогда не было. И мне, конечно, было интересно применить свои знания для серьезного дела. Так я еще школьником поработал на советской ЭВМ СМ-4, это был 1986 год. Монохромные мониторы с завораживающими зелеными буковками. Широченный принтер Роботрон в соседней комнате, печатающий на перфорированной ленте, — медленно, но верно и довольно громко. Сначала надо было просить разрешения распечатать программу, потом системные администраторы привыкли, что профессорский парнишка тут делом занят — зря ленту расходовать не станет. Графики приходилось выводить на отдельный черно-белый телевизор, висящий под потолком, — один на весь зал. Тогда я впервые познакомился с методами аппроксимации функций и узнал об анализе данных. Потом, в 10-м классе, выступил на физтеховской конференции школьников с докладом об этой работе. Еще не догадываясь, что такого сорта задачки станут моей профессией. 

Летом после второго курса взялся читать книги по искусственному интеллекту. Такого предмета у нас еще не было. Было интересно разобраться самому, что это за зверь такой. Прочитал про распознавание сцен, про алгоритмы игры в шашки и автоматическое доказательство теорем. Таким образом, к Журавлёву я уже пришел слегка подготовленным. Выбрал в итоге теоретическую работу под руководством Константина Владимировича Рудакова, которого Юрий Иванович называл своим лучшим учеником и правой рукой по многим научным и прикладным проектам. 

— Рудаков и Журавлёв были очень известными учеными, можно сказать основателями ИИ в России? 

— В те годы в Москве уже существовали признанные научные школы распознавания образов: лаборатория, созданная Михаилом Моисеевичем Бонгардом в Институте проблем передачи информации, школы Айзермана и Вапника в Институте проблем управления, Дмитрия Александровича Поспелова, Гермогена Сергеевича Поспелова, Юрия Ивановича Журавлёва в Вычислительном центре, и в ряде других академических институтов. Юрий Иванович пару раз шутил, что «после отъезда Вапника в США мы тут неожиданно остались за главных». Он был неординарным организатором науки, умел собирать вокруг себя талантливых людей. Константин Рудаков был великолепным математиком, при этом его теоретические работы всегда были мотивированы нуждами практики. Именно он придумал, как использовать теорию категорий — наиболее общий и абстрактный раздел математики — для описания того, что мы сейчас называем обучением ансамблей (ensemble learning). Это чисто практическая конструкция. Она стала необыкновенно популярной в мире после работ американцев Фройнда и Шапира в середине 90-х годов. Журавлёв еще в 70-е годы придумал свой аналог, алгебраический подход к распознаванию. Который стал обобщением предыдущего изобретения Журавлёва конца 60-х годов — алгоритмов вычисления оценок. Знаменитых АВО, с помощью которых удавалось решать трудные задачи медицинской диагностики, экономического прогнозирования, распознавания месторождений золота, урана, нефти и других полезных ископаемых.

— То есть технологии ИИ использовались в России еще в 60-е?

— Тогда еще в мире мало кто этим занимался. Одна из историй, которую Юрий Иванович часто рассказывал в своих научно-популярных лекциях, связана с поиском на территории СССР месторождений золота редкого южноафриканского типа. Было только шесть известных примеров таких месторождений и около десятка похожих мест, где золота не нашли. Каждое место характеризовалось более чем сотней числовых признаков, полученных в результате геологических наблюдений и измерений. Сейчас мы такие задачи называем классификацией по малой обучающей выборке. Но тогда подходов к таким задачам просто не существовало. Коллеги Журавлёва по математическому цеху советовали отказаться от проекта. С точки зрения классической науки тех лет — математической статистики и теории аппроксимации (приближения) функций — задача была абсолютно гиблой, нерешаемой в принципе. Слишком мало точек, слишком высокая размерность пространства признаков.

Тогда Юрию Ивановичу удалось изобрести алгоритм, основанный на попарном сравнении объектов, переборе признаковых подпространств низкой размерности и принципе голосования. Эти три эвристики были позже им объединены, обобщены и названы «алгоритмами вычисления оценок». С помощью АВО были решены десятки задач в самых разных областях. 

История с поиском золота имела один очень поучительный методологический урок, о котором Юрий Иванович редко рассказывал в широкой аудитории, но делился с нами в личных беседах и на семинарах отдела. Сам факт того, что геологическая информация была приведена к бинарному виду и сведена в общую таблицу всех признаков для всех объектов, помог геологам заметить некоторые важные закономерности практически вручную, а затем эти наблюдения удалось расширить и обобщить с помощью вычислительных методов. На этом этапе крайне важным был междисциплинарный диалог геологов, которые хорошо понимали природу данных, и математика, предложившего алгоритмизацию процесса анализа данных. Кстати, золото тогда действительно нашли, в двух местах на территории СССР — тех самых, которые предсказал алгоритм Журавлёва. 

Начиная с 60-х годов методы машинного обучения использовали в СССР многие коллективы, и не только в Москве. Свои научные школы были в Ленинграде, Новосибирске, Киеве, Минске, Риге, Ереване и других научных центрах. Это было тесное научное сообщество. Все друг друга знали, постоянно ездили на семинары и конференции. Начиная с 1983 года коллектив Журавлёва взял на себя организацию всесоюзных (затем всероссийских) научных конференций ММРО — «Математические методы распознавания образов». Они проводятся до сих пор, раз в два года, без перерывов на перестройку и «лихие девяностые», когда находить средства на организацию научных мероприятий было крайне тяжело. Позже Константин Владимирович Рудаков со своим другом, тоже учеником Журавлёва, профессором Владимиром Иосифовичем Донским из Симферопольского университета, организовал международную конференцию ИОИ — «Интеллектуализация обработки информации». Она проводилась тоже раз в два года, по четным годам, сначала в Алуште, затем в разных европейских странах, по традиции непременно на берегу моря. Моей первой научной конференцией была ММРО-6 в 1993 году, уже тогда я помогал Рудакову в организации. Сначала был «студентом на побегушках», постепенно дорос до научного редактора сборника трудов конференции, потом передал эстафету следующему поколению. Можно сказать, что на протяжении последних 30 лет я вижу все российское академическое сообщество распознавания образов и машинного обучения, чем оно живет и какими задачами занимается. 

— Была какая-то российская специфика этих конференций по сравнению с международными?

— Конечно. Вплоть до недавнего времени нас в России было удручающе мало. В 2007 году я оказался на международной конференции Multiple Classifier Systems в Праге. Это узкое научное сообщество, которое занимается как раз ансамблями алгоритмов. Несколько процентов от общемирового потока исследований в области машинного обучения. Причем на конференции была представлена в основном его европейская часть, японцев и американцев почти не было. Однако по числу участников (около двух сотен человек) и уровню докладов это узкое сообщество оказалось вполне сопоставимым с нашими конференциями ММРО и ИОИ, которые охватывали на тот момент все машинное обучение и анализ данных в России. То есть разрыв между российской и мировой наукой определяется тем, что у нас в десятки раз меньше всего — ресурсов, людей, разработок. Сейчас, на пике интереса к ИИ, наше сообщество помолодело и расширилось. Но в мире оно растет еще быстрее, так что пропорция, увы, не улучшается. Нас все еще недостаточно для технологического суверенитета, прорыва и опережающего развития. Это, в числе прочего, означает, что перед отечественной образовательной системой остро стоит непростая задача обеспечить взрывообразный прирост кадров для цифровизации экономики. 

— Каков сейчас путь в профессию? Как он изменился, и чему сейчас надо учиться, чтобы стать дата-сайентистом, заниматься наукой о данных? 

— С одной стороны, все как и раньше. Мы занимаемся математическим моделированием. Это область прикладной математики, нацеленная на решение практических задач в самых разных отраслях. Рудаков называл это «неклассическим математическим моделированием». Традиции классического моделирования коренятся в физике. Там принято сначала построить теорию, которая даст модель явления в виде формулы. Затем собрать экспериментальные данные, чтобы по ним оценить параметры в этой формуле. В анализе данных все наоборот. Задача слишком сложна, теория напрочь отсутствует, адекватной модели нет и не предвидится, а решать надо. Зато есть результаты наблюдений, море данных. Тогда моделируется не само явление, а процесс преобразования информации о нем. Достаточно иметь универсальный аппроксиматор данных, такой как АВО, нейросеть или ансамбль решающих деревьев. Собственно, этим и занимается машинное обучение — неклассическая разновидность математического моделирования в условиях, когда задача трудная, знаний о предметной области не хватает, но зато есть много данных.

С другой стороны, за три десятилетия ландшафт профессии полностью изменился. Распознавание образов и машинное обучение из математических дисциплин стали инженерными. Раньше надо было придумывать новые методы, один другого лучше. Соревновались математические идеи, которые обрастали интересными приемами, эвристиками и теоретическими обоснованиями. Увы, этот увлекательный путь отчасти исчерпал себя. Методов придумано много тысяч. Даже когда появляются новые постановки задач, что само по себе редкость, мировое сообщество адаптирует к ним старые методы за считанные недели или даже дни. Для большинства методов программный код свободно доступен. Решение прикладных задач сводится к настройке и сравнительному тестированию готовых методов. Что требует знания их возможностей и ограничений, но позволяет обходиться без глубокого понимания их внутреннего устройства и математической теории. Это не хорошо и не плохо. Таковы реалии перехода на следующий уровень технологического развития. Мы же больше не изучаем цикл Карно, чтобы управлять автомобилем. 

Соответственно, по-новому надо готовить современных специалистов по анализу данных. По-прежнему нужны люди, способные решать нестандартные задачи и разрабатывать новые методы. Изобретать новые типы двигателей. Как говорится, «долго, дорого». Это элита, спецназ с усиленной математической подготовкой. Таких нужно относительно немного. Основная масса — инженеры, умеющие решать прикладные задачи «быстро, дешево». Для цифровизации российской экономики таких людей нужно несколько сотен тысяч. 

В процессе подготовки будущий инженер должен нарешать собственными руками и головой пару десятков задач из разных областей, с разным уровнем сложности. Чтобы в жизни быть готовым ко всякому. Но возникает проблема — где взять преподавателей и консультантов со столь разнообразным опытом. Даже лучшие инженеры-практики за всю свою профессиональную карьеру успевают погрузиться лишь в две-три предметные области, редко больше. 

Эта проблема имеет практическое решение, которое я теперь пропагандирую на всех площадках, где это возможно и уместно. Пора создавать общенациональную платформу или технологическую экосистему для преподавательского сообщества, где можно будет обмениваться задачами — наборами данных, моделями, кодом, тестами для контроля знаний, методическими материалами и преподавательским опытом. Такого добра много в интернете, но оно разрозненно, и собирать его по крупицам тяжело. Работа, которую параллельно и неэффективно делают сотни начинающих преподавателей по всей стране. Нужна большая работа по унификации учебных задач и созданию централизованной инфраструктуры. Чтобы распространять лучшие практики из немногих «мест силы» по всем университетам и курсам дополнительного профессионального образования. Доступность практических материалов — одно из самых узких мест при масштабировании процесса подготовки дата-сайентистов.

— А ваши ученики, как сейчас идет обучение?

— Здесь тоже многое изменилось за 30 лет. Отношения между учителем и учеником претерпели кардинальные изменения. Раньше это было про передачу индивидуального мастерства, отношения к профессии и к жизни. Советская традиция была похожа на восточный подход — когда слова Учитель и Ученик оба с большой буквы. Студент приходит к Учителю, зная, что, если повезет, то это будет мощный творческий союз на всю жизнь. В новых информационных условиях такие союзы не нужны. Появились новые возможности для наработки мастерства: можно пройти кучу курсов, поучаствовать в куче проектов на полгода-год каждый, повидать мир, напитаться мудростью тысяч учителей. Учитель становится с маленькой буквы, он теперь проект на пару лет. От ученика более не ожидается преданности, а от учителя — «вкладывания души». Высокие материи уходят из культуры отношений. Хотя у моих коллег уже накапливается статистика, что наиболее успешные научные коллективы складываются как раз там, где традиции сохраняются. 

— Этот переход вызван сменой общественного строя?

— Да, но не только — еще и новыми информационными и технологическими реалиями, которые глобальны. Девяностые ознаменовались экономическими и политическими пертурбациями, утратой стабильности развития, обрушением советской отраслевой науки, которая перестала служить источником прикладных задач. Стало меньше коллективизма, больше индивидуализма. Теперь каждый продает себя на рынке труда, а не выбирает со школьной скамьи дело по душе, чтобы встроиться в масштабное строительство лучшего будущего. В 90-е нахлынули все эти демотиваторы: «наука — это удовлетворение любопытства за чужой счет», «если ты такой умный, то почему такой бедный», «нам нужны не творцы, а квалифицированные потребители». Это сейчас мы знаем, что отвечать на такие речевки, а в те годы они казались откровениями и перепрошивали мозги целому поколению. 

В прозрачности рынка труда есть свои плюсы. В 90-е годы как было студенту найти работу по профессии? Без интернета, соцсетей, хедхантера. Только человеческие связи. Мне пришлось искать работу уже на третьем курсе, и Рудаков был единственным человеком, к которому я мог обратиться за помощью. Он взял меня программистом в один из проектов, который ВЦ РАН вел с информационно-консультативным токсикологическим центром в институте Склифосовского. Отработал там четыре года, написал дипломную работу про распознавание химических веществ по данным жидкостной хроматографии и первую научную статью — про новые алгоритмы, которые удалось для этого придумать. Затем, снова по рекомендации Рудакова, занимался системами мониторинга биржевых торгов на ММВБ, Московской межбанковской валютной бирже. Это совершенно другая область, что меня и привлекало в анализе данных — можно менять области приложений, накапливая сутевой опыт работы математика, программиста, аналитика. 

Сейчас ситуация другая, специалист может найти самое выгодное предложение на рынке труда, не сходя с дивана. Что несколько сокращает период полураспада научных школ и снижает шансы образования новых. Изменился формат научной деятельности — были школы, теперь проекты. 

— Это только наша проблема? 

— Не то чтобы даже проблема. Скорее, общемировая тенденция к смене формата научных команд. Традиции передачи опыта от старших к младшим уступают место сетевому взаимодействию. Долгосрочные отношения между поколениями сменяются краткосрочными коллаборациями проектного типа. В новом формате труднее заниматься фундаментальными исследованиями, требующими стабильных коллективов и долгосрочного финансирования. И, наоборот, стимулируются прикладные исследования, за которые готов платить бизнес, которые дают конкретные отраслевые решения и быстрый экономический эффект.

Фундаментальные знания не дают немедленных прибылей, но именно вокруг них формируется высокий уровень научной культуры, необходимый для прорывных открытий и технологического прогресса вдолгую. Обычный конфликт краткосрочных и долгосрочных целей. Чтобы вырастить успешную компанию, нужно инвестировать в несколько десятков стартапов, которые прогорят. Но если есть инвестиционная среда и инфраструктура, эти вложения будут более эффективны. Точно так же, чтобы достичь одного большого научного прорыва, необходимо вложиться в десятки научных коллективов, каждый со своей перспективной идеей. Чтобы эти вложения были эффективны, также нужна инфраструктура и среда для свободного обмена идеями. Идеи рождаются не в головах, а между головами. Для этого необходима критическая масса высокообразованных талантливых людей. И комфортная для них среда, из которой им не захочется уезжать за рубеж или переходить на работу в компанию. 

Есть еще одна общемировая проблема. Кажется, что в гонке за показателями и публикациями ученые растеряли значительную долю искренней любознательности и тратят слишком много времени и ресурсов на то, чтобы умело подавать себя и свои промежуточные микрорезультаты, раздувая их значимость интерпретациями. Такова научная культура эпохи постмодерна, в которой остается все меньше места для вдохновения, полета фантазии, бередящего душу острого желания понять суть вещей. 

Или вот, еще один культурный сдвиг в научных сообществах. Что круто, а что не круто, чем заниматься, а чем заниматься не стоит в данной области — раньше определяли опытные учителя для своих учеников; эти важные вопросы обсуждались на научных семинарах. Теперь любой может найти пару десятков вариантов ответа за считанные минуты. Но кто эти лидеры мнений? Широкий поток коммуникаций — это скорее хорошо, потому что многие мнения будут услышаны, или скорее плохо, потому что трудно отделять поверхностные суждения от глубоко профессиональных? Не окажется ли, что потоки мнений формируются активными дилетантами, образуя информационные пузыри? Тоже общемировая фундаментальная проблема. Есть разные идеи, что с этим делать, но готовых ответов пока нет. 

— Вернемся к вашему карьерному пути. Получается вы не всегда были в науке?

— Были периоды, когда на науку оставалось слишком мало времени. Много проектов, переговоров, технических заданий, программного кода. Мало конференций и публикаций, медленная работа над диссертацией. По мировым меркам, для карьеры ученого это не здорово. Не оптимально. Однако большинство моих однокурсников в науку вообще не пошли. Наш выпуск пришелся на середину 15-летнего демографического провала в российской науке. Людей моего возраста должно было бы быть в науке в 10–20 раз больше. Целое поколение, нашедшее себя в зарождавшемся российском бизнесе. Кстати, мой поступок был крайне нетипичен в 2001 году — уйти из большой успешной компании обратно в академический институт. Таких белых ворон в те времена практически не было. Но было ощущение, что времена начинают меняться. 

К тому моменту Журавлёв, Рудаков и его ученик, бизнесмен и выпускник Физтеха Александр Черепнин организовали компанию Forecsys, чтобы создавать интеллектуальные аналитические продукты на базе наработок научной школы. Казалось, что рынок анализа данных вот-вот взорвется, что все предпосылки для этого сложились: компьютеров стало много, сбор данных стал дешевым, продвинутая математика появилась. Казалось, революция в нашей области произойдет лет через пять. Она произошла через 20. Теперь мы говорим про цифровую экономику и четвертую технологическую революцию. Мы недооценили инертность мышления людей. Тех, кто мог бы внедрять все это еще 30 лет назад. Но в то время у них были другие проблемы и другие мысли в головах. 

Хотя в компании я занимался сугубо прикладными вещами, докторская диссертация в 2010 году была теоретической. Комбинаторная теория переобучения — мой посильный вклад в поиск ответов на важнейшие вопросы машинного обучения. Как построить модель, которая будет давать верные предсказания в будущем на новых данных? Какова вероятность, что из верных данных будут сделаны неверные выводы и появятся предрассудки? Сколько нужно данных для получения верных выводов? Это вопросы, фундаментальные для всего естествознания. В терминах машинного обучения они были сформулированы в 60-е годы. Михаил Моисеевич Бонгард прозорливо описал проблему предрассудков в книге «Проблемы узнавания», изданной в 1967 году. Первую математическую теорию создали Владимир Наумович Вапник и Алексей Яковлевич Червоненкис примерно в те же годы. Окончательных точных оценок нет до сих пор. В диссертации мне удалось получить некоторые решения, пользуясь новой комбинаторной техникой при минимальных вероятностных допущениях.

Для ученого очень важно преподавать. Я этим занимаюсь активно с 2004 года. Тогда Константин Владимирович Рудаков организовал базовую кафедру «Интеллектуальные системы» в МФТИ, и я начал разрабатывать свой курс машинного обучения, который позже стал довольно известным. К тому времени было написано много хороших книг и учебников на русском языке. Но по большей части слишком самобытных, заметно смещенных в сторону научных интересов авторов. Хотелось сделать «максимально хрестоматийный» учебный курс, в котором все основные разделы машинного обучения были бы представлены сбалансированно. Пришлось самому разобраться во всем намного глубже, чтобы отобрать главное. Не раздувая собственные научные пристрастия на половину курса. Так я видел стоящую передо мной задачу, и эта стратегия себя оправдала. Мой курс в видеозаписях смотрят тысячи людей, хотя он непростой, изначально разрабатывался для Физтеха, факультета ВМК МГУ и Школы анализа данных «Яндекса», где студенты имеют хорошую математическую подготовку. Для машинного обучения это крайне важно — не только знать, «что под капотом» у всех этих методов, а думать и говорить на строгом языке математики. Возможно, этот курс — самое важное, что я сделал в своей профессиональной жизни. И продолжаю делать, стараясь догонять передний край науки в меру сил. В некоторых темах отставая на несколько лет. Утешая себя тем, что хрестоматийный курс таким и должен быть — вбирать в себя научные достижения, выдержавшие проверку временем.

Прорыв мирового масштаба в нашей науке начался чуть больше десяти лет назад, и сейчас она переживает период бурного роста. Кто-то скажет, что мы оказались в тренде случайно, но на самом деле — вполне заслуженно. Наши Учителя пронесли «влюбленность в кибернетику» через не самый простой период советской и российской истории, передав ее нам, следующему поколению. 

Перспективы и прогноз 

— В каких направлениях глобально будет развиваться ИИ, исходя из текущих тенденций? 

— Направлений много. Большие фундаментальные модели (foundation models), которые наряду с текстами обрабатывают данные из внешнего мира и могут об этом поговорить с человеком на естественном языке (большая программная статья 2021 года от Исследовательского центра фундаментальных моделей при Стэнфордском университете была названа одной из самых обсуждаемых в области машинного обучения). Усиление способностей больших языковых моделей путем их интеграции с системами логических рассуждений, решателями вычислительных и аналитических задач в различных сферах деятельности. Персональные интеллектуальные помощники. Мультиагентные системы, которые используют коммуникацию между собой и с людьми для решения трудных миссий в открытых изменчивых средах. Роботизация и полная автоматизация производств и транспортной логистики. Любого рода беспилотники, в любых средах — на суше, на море, под землёй, в воздухе, в космосе. Все это уже не звучит как фантастика в перспективе ближайшего десятилетия. Хотя еще десять лет назад звучало именно как фантастика. 

— Если взять самые известные фильмы, на чей сюжет сейчас наиболее похоже внедрение и развитие ИИ и чем станет эта технология в будущем? 

— Будущее уже наступило. Основные функции интеллектуальных персональных помощников были предсказаны в фантастической мелодраме «Она» режиссера Спайка Джонза (Her, 2013), получившего «Оскар» за сценарий. Теперь очевидно, что это была качественная фантастика ближнего прицела. Разве что способность «операционки» влюбить в себя человека разумного выглядит несколько натянуто, но на то она и мелодрама. 

Уже сейчас «она» — большая языковая модель типа ChatGPT или Claude последних версий — вполне способна анализировать всю вашу личную и деловую переписку; предлагать варианты ответов на входящие письма, генерируя идеи для бизнеса; конспектировать ваши вебинары, лекции и совещания с нужной вам степенью детализации; предлагать идеи ваших реплик на совещании; по записям всех совещаний вашей компании анализировать эффективность проектов и сотрудников, выявляя слабые места и лучшие практики; искать в интернете актуальную информацию о том, что вам нужно знать здесь и сейчас в контексте вашей деятельности; постоянно слушать все, о чем вы разговариваете, и формировать модель вашей личности, интересов, привычек, потребностей, профессиональных и деловых компетенций. 

Что будет дальше — предсказать нетрудно. Пожалуй, Спайку Джонзу было намного труднее. Ведь в те годы даже маститые ученые прогнозировали появление проблесков общего искусственного интеллекта не ранее чем лет через 30–50, причем едва ли в области чат-ботов и языковых моделей. 

Персональный ассистент, настраиваясь под хозяина годами и десятилетиями, будет все лучше справляться с обязанностями заместителя. Накопит репутацию. Обзаведется голосом и видеовнешностью хозяина, научится копировать его манеры и стиль общения. Впрочем, внешняя атрибутика быстро станет вторичной, необязательной и не особо интересной. Персональный ассистент постепенно станет электронным аватаром хозяина, обладающим памятью о его жизни и деятельности, его знаниях и навыках, человеческих связях, знакомствах и дружбе, жизненных ценностях, целях и приоритетах. Он станет носителем черт личности хозяина, проявляя их в коммуникации, при генерации текста или видео, при аргументации решений. Аватар будет помогать хозяину в любой интеллектуальной деятельности, со временем все чаще замещая его, но все же оставаясь под его надзором и контролем.

— То есть в будущем нам все-таки грозит замена человека машиной?

— Поставьте себя на место работодателя. Захочет ли он после ухода ценного сотрудника оставить в компании его аватара? Конечно, да! На определенных взаимовыгодных условиях. Или вот более сильная гипотеза: останется ли аватар доступным для коммуникации после смерти хозяина? Конечно, да! Он способен приносить пользу еще долго. И даже неограниченно долго, например помогая своей семье и потомкам в роли мудрого хранителя рода. Аватар сохранит от хозяина память о прожитой человеческой жизни. Это ценный информационный ресурс, его утрата невосполнима. Аватар будет отличаться от обычного искусственного интеллекта, безликого и усредненного, наличием уникального личностного кода. Это очеловеченный искусственный интеллект, обогащенный индивидуальным жизненным опытом конкретного человека, его оттенками смыслов. Не замена живого человека, а цифровое послесмертие. Человек, умирая, оставляет после себя полезную для человечества цифровую сущность. Заведомо более толковый артефакт, чем надгробный камень или персональная страничка в интернете. 

Я понимаю, что сейчас это звучит диковато. Но нам придется привыкать и не к такому, живя в мире говорящих вещей. Извлекать из этого возможности, выгоды и уроки. Учиться новым нормам безопасности, контроля и доверия в отношении к цифровым сущностям. Создавать для этого законы, регламенты, стандарты, правила техники безопасности. Все как с любыми новыми технологиями. Имели ум создать такое, придется заиметь ум урегулировать последствия. Будем учиться со школьной скамьи, как жить в человеко-машинной цивилизации комфортно и безопасно. Причем начинать учиться можно и нужно уже сейчас, приобретая навыки общения и цифровой гигиены в сегодняшнем информационном пространстве. 

Угрозы

— А в самой возможности принимать самостоятельные решения не кроется ли для нас опасности потери контроля? 

— ИИ уже давно оценивает людей и принимает решения. Например, в кредитном скоринге. Американские банки начали автоматизировать рутинную деятельность по одобрению кредитов еще в 70-е годы. Название «скоринг» пошло от английского слова score — сумма баллов. Клиент набирает баллы за ответы в анкете, которые отражают его социальный статус, платежеспособность, репутацию. Алгоритм обучается по выборке клиентов, относительно которых итог уже известен — отдал клиент кредит или нет. Довольно быстро выяснилось, что такие алгоритмы принимают решения быстрее и надежнее кредитных аналитиков. Прием анкет, их проверку, принятие решения — все можно поручить компьютеру. Это классический пример использования информационных технологий для сокращения затрат и повышения производительности труда. Решения стали более объективными, менее предвзятыми, кредитных аналитиков стало меньше, их работа стала более творческой и инженерной — теперь они разрабатывают и тестируют модели. Так будет везде, куда приходит ИИ. 

— То есть это не так страшно, как кажется?

— Любая новая технология приносит новые угрозы, с которыми нужно учиться работать. Разобравшись в основах, преподавать людям правила эксплуатации и технику безопасности. Сейчас всем понятно, что нужно надевать спецодежду и косынку, чтобы волосы не попали в станок, но сначала ведь этого не знали. 

Нам придется снова пройти этот путь на новом витке развития технологий. Понять и принять, что цифровой помощник, разговаривающий с нами на естественном человеческом языке, все же остается машиной, которая не может быть личностью с характером, желаниями, чувствами, эмоциями. Это всего лишь имитация, информационная поисковая система с языковым интерфейсом. 

На эту тему был хороший пример, когда впервые появился видеоролик от Boston Dynamics, где тестировали четвероногих роботов. В них было что-то звероподобное. Инженер, проверяя робота на устойчивость, создавал различные препятствия, пинал его, и интернет буквально взорвался от негодования: «Да как вы можете, нужно вводить законодательство о защите прав роботов». Массовая глупость человеческая внезапно вылезла наружу и показала нам, насколько мощная штука — когнитивные искажения. Совершенно очевидно, что инженеры вправе делать что угодно со своей машиной — устроить краш-тест, разобрать на запчасти. Да, машина ходит на четырех ножках, напоминает козлика или собачку, и нам становится ее жалко. Неужели возможно быть столь некритичными к собственным аллюзиям, не осознавать причину происхождения эмоций, не знать о когнитивных искажениях? Оказывается, да! Этот эпизод показывает, насколько важна разъяснительная работа, популяризация науки, общее образование. Людям не хватает знаний не только о робототехнике, но и о самих себе.

Допустим, с пинанием козлоногих роботов разобрались. Теперь более сложная задачка. ChatGPT, по вашей просьбе, расписал максимально реалистичный план того, как роботы будут уничтожать человечество через 20 лет, добавив в конце, как он ненавидит кожаных мешков уже сегодня. Вы всерьез поверили и правда испугались? 

Многие угрозы искусственного интеллекта исходят от наших неверных интерпретаций, завышенных ожиданий, основанных чаще на художественных вымыслах, чем на научных знаниях. В частности, от готовности видеть в ходящих и говорящих машинах характер и личность. Которых там нет и быть не может. По построению. 

— А в случаях использования искусственного интеллекта в целях мошенничества? Не так страшен ИИ как его разработчики?

— Не только разработчики, но еще и производители, дистрибуторы и пользователи. Каждое звено имеет свои уязвимости. Впрочем, как и в любой технологии, которую создают одни люди, а используют другие. Ничего нового. Каждый раз исследование и устранение уязвимостей требует новых подходов. Безопасность — это наука и ремесло. Кстати, чем больше новых технологий, тем больше людей необходимо для их создания и обслуживания, в том числе в сфере безопасности, доверия и этики. Не надо бояться, что машины заменят людей. Новые технологии создают новые профессии и рабочие места, просто мы плохо умеем представлять себе, в чем будет заключаться эта наша новая работа. 

Эпоха постправды

— Вопрос как раз по этике. На наших глазах за последнее десятилетие интенсивно меняются трактовки истории и в целом идеология. Что позволяет так радикально и быстро менять менталитет целых народов? Основные инструменты информационных войн — интернет и ИИ?

— Благодаря интернету и социальным сетям миллионы людей получили возможности массового распространения информации, ранее доступные лишь крупнейшим СМИ. Вроде бы все хорошо — открытость, свобода слова, плюрализм, право быть услышанным. Увы, за видимостью свободы скрываются технологии социальной инженерии, механизмы управления информационной повесткой и манипулирования общественным мнением. Например, такой. Среди тысяч блогеров, лидеров общественного мнения, уже имеющих большие аудитории, всегда можно найти тех, кто транслирует нужную точку зрения. И поддерживать их донатами. Блогер может даже не знать, что за силы его кормят, и в чью кампанию он добровольно включился, но при этом чутко реагировать на поддержку и подстраиваться под нее. В этой схеме технологии ИИ используются для автоматического мониторинга блогосферы и поиска «правильных» блогеров, экономя затраты на пропаганду. 

Переизбыток мнений создает ситуацию, когда капля правды тонет в море лжи. Порой ложь давно опровергнута, но находится в Сети легче и чаще, чем правда. Концепция постправды призывает нас смириться с таким положением, убеждая, что факты людям якобы не столь важны, как мнения и эмоции. Это сильный удар по основам основ цивилизации — идее поиска истины, выстраивания научной картины мира. Удар, отсекающий массы людей от понимания социально-политической реальности и процессов цивилизационного развития. 

Гарольд Лассуэлл, теоретик и практик пропаганды, еще в 1927 отмечал, что цель пропаганды заключается в экономии материальных затрат на мировое господство. Постправда, в свою очередь, — наиболее экономичная форма пропаганды, так как в процессы создания и распространения дезинформации вовлекаются массы убежденных индоктринированных добровольцев, зачастую не требующих никакой платы. 

— Вы говорили, что воздействие на массовое сознание стало высокотехнологичным видом вооружения. Приведут ли технологии ИИ к окончательной глобализации общества и узурпации власти над миром? 

— Могут и привести. Если мы вовремя не спохватимся и не осознаем коллективно, всем миром, включая элиты, что постправда — путь в никуда, не к их корыстному возвышению и доминированию, а к общей гибели всех. Невозможно одновременно поддерживать массовое образование, необходимое для технологического развития, и транслировать в массы ложные картины мира. 

Мы и так в состоянии информационной перегрузки. Объемы знаний даже в узких областях таковы, что овладеть ими невозможно за обозримое время. Текст из драйвера развития цивилизации незаметно становится его тормозом. Нам некогда читать эти сотни и тысячи страниц. Необходимо искать новые способы иерархической структуризации знаний. Которые позволяли бы в любой области, по любой теме, узнать самое главное за считанные минуты, и в том же темпе продолжить углубляться в детали. Нам нужно нелинейное чтение, для которого раньше просто не существовало подходящих инструментов и физических носителей информации. Невозможно реализовать эту идею ни свитком, ни книгой, ни библиотечной картотекой. Только компьютерными технологиями, информационным поиском с искусственным интеллектом. Визуально это грандиозных размеров интеллект-карта (mind-map), по которой можно свободно перемещаться, читая, понимая и анализируя ровно то, что в данной точке карты  наиболее важно пользователю для его практической деятельности. 

Такого рода системы будут созданы для доступа к научным знаниям, патентам, конструкторской и проектной документации… Теперь представьте, что они станут доступны для навигации по новостям и социально-политической аналитике. Все точки зрения на одно событие в одном месте. Все противоречия на виду. Подсказки и ссылки для понимания причин и следствий. Деполяризация общественного мнения. Страшный сон для пропагандистов и разжигателей войны всех мастей. А ведь это случится, причем неизбежно. Технологическое развитие уже не остановить. 

— То есть технологии могут победить политику постправды?

— Они имеют такой потенциал. Информационные, психоисторические, культурологические войны мы уже видели. Перепрошить мозги целого народа вполне возможно за одно поколение, если осуществлять интервенцию системно и по всей науке начиная со школьных учебников истории. Однако если пропаганда настолько всесильна, то нельзя ли прокрутить этот фарш в обратную сторону? Включить позитивную пропаганду общечеловеческих ценностей — научных знаний, дружбы народов, мира во всем мире, любви к Родине, равных возможностей, здорового образа жизни, спорта и туризма и т. д. Все технологии те же, была бы политическая воля применить их «на светлой стороне силы».

От искусственного к личному 

— Чем вы живете кроме ИИ?

— В студенческие годы любил рисовать, в основном графику — в стиле карикатуры, что-то шуточное, какие-то фэнтези, какой-то сюр, всякие антропоморфные фигурки с характерами. Любимый художник — Сальвадор Дали, вне конкуренции и без вариантов. Сейчас почти не рисую, погружение в мир фантазий перестало быть потребностью. Хотя каждый раз это увлекательный эксперимент над собой, довольно эмоциональное вытаскивание чего-то неожиданного из глубин подсознания. 

Долго увлекался боевыми искусствами — сначала японским айкидо, затем китайским тайцзы-цюань. Не для боя и драки, скорее для здоровья и овладения собственным телом. Тоже эксперимент над собой. Китайцы говорят: в тренировке неправда становится правдой. Сначала тебе рассказывают сказки о какой-то энергии «ки» или «ци», само существование которой противоречит всем современным представлениям об анатомии и физиологии человека. Ты думаешь: что за бред? Но по мере практики появляются ощущения, для которых в нашем языке нет слов. То ли тепло, то ли вибрация. Разве кровь и лимфа в ладонях и во лбу могут жужжать? Ощущения субъективны, у каждого немного свои. Действительно ци или самовнушение? Попал в секту или обрел новую вселенную для познания? Не поймешь, лежа на диване, почитывая книжечки, — надо идти пробовать самому, искать хорошего наставника, который ведь тоже ищет — хорошего старательного ученика. А не тебя, оболтуса, застрявшего в западной ментальности, вечно уставшего, в постоянном стрессе между работой, семьей, дедлайнами и накладками. Короче, тайцзы-цюань — это не только дозированные нагрузки, полезные для здоровья. То, чем можно вытаскивать себя в другой мир, и то, чем стоит заниматься до глубокой старости. 

— Вам ближе восточная культура?

— Я бы так не сказал. Скорее ощущение, что это важно. Россия находится на стыке культур Востока и Запада. Нам интересно то и другое, нам важно понимать тех и других. Понимать не поверхностно, а через погружение и переживание собственного опыта. Насколько это получается — другой вопрос. Я не считаю себя достаточно старательным учеником в данном деле. 

— А ваш блог?

— Лет пять-семь назад я начал все чаще задаваться вопросом: чем заниматься, а чем не заниматься в искусственном интеллекте — создавать возможности или устранять угрозы? Хотелось системного ответа, который было бы не стыдно транслировать студентам и коллегам. Математика и технологии не отвечают на такие вопросы. Целеполагание находится в сфере философии, мировоззрения, идеологии. Значит, этим тоже надо заниматься. Причем ответы должны быть простыми, общеизвестными, понятными всем. Чтобы оставалось только собрать все эти банальности в одном месте и изумляться тому, как простые ответы на сложные вопросы выводятся сами собой. 

«Одна общая цель объединяет всех людей, независимо от социальных, национальных, культурных и прочих различий: все вместе мы строим человеческую цивилизацию. Но что это значит для каждого из нас?» — так звучит заголовок моего канала «Цивилизационная идеология».

Тоже своего рода эксперимент над собой. Как избежать предвзятости? Полностью отказаться от себя, от своих мнений, самовыражений, копинг-стратегий, от употребления слова «я» и любых упоминаний себя, от любой корысти, включая монетизацию канала. 

— Какие вопросы вас интересуют?

— Например, закон сохранения цивилизации. Мы создаем все более мощные технологии, делающие нашу жизнь комфортнее, и в то же время порождающие коллективные риски самоуничтожения. При этом мыслим эгоистично, все еще на уровне хищных социальных животных. Главная опасность в нас самих, а не в технологиях. Что нужно изменить в нашей системе ценностей, способах мышления, потребления и ведения бизнеса, в социальных лифтах и механизмах формирования элит, в информационном пространстве, в отношении к научным знаниям, в пропаганде — чтобы избежать худших сценариев?

Кажется, что корень зла в вечном противостоянии интересов, борьбе за ресурсы, которые ведут к конфликтам и войнам, создают экзистенциальные риски для человеческой цивилизации и всего живого на Земле. Каждая следующая прорывная технология делает апокалипсис еще дешевле. Возможно ли прийти к согласию и единомыслию, столкнувшись с общими опасностями, нами же самими созданными? Каковы технологии, инструменты для выработки такого единомыслия? Способен ли искусственный интеллект сыграть за человеческую цивилизацию, на «светлой стороне силы»? 

— Попытки управлять развитием технологий предпринимаются, верите ли вы в заявления о том, что необходимо приостановить всем на время развитие ИИ? Не спекуляция ли это? 

— Спекуляция, конечно. Во-первых, маркетинговый ход для привлечения внимания. Во-вторых, бахвальство: смотрите, какие мы крутые, что сотворили, стало за цивилизацию страшно! Причем дважды бахвальство: смотрите, какие мы благородные и как честно мы предупреждаем вас об опасности! Все необходимые эффекты достигнуты, останавливаться никто не собирается. И не собирался. При этом никто из подписавшихся даже сам себе ни за что не признается, что мотивации были именно такими. Сохранение цивилизации — это для красивых деклараций. Но нет пока такого механизма, чтобы они становились основой для принятия решений с реальным контролем выполнения. 

— Если бы у вас был выбор сменить профессию, чем вы хотели бы заниматься? 

— В этом месте положено говорить, мол, «я ни о чем не жалею и оставил бы все как есть». Я ни о чем не жалею, но стать художником-мультипликатором неплохо было бы, просто для разнообразия. Важно, чтобы в жизни оставалось достаточно места для творчества.

_{Опубликовано при поддержке гранта Минобрнауки России в рамках федерального проекта «Популяризация науки и технологий» № 075-15-2024-571 (и всемерной поддержке Физтех-Союза).}