Большой Брат - не за горами
Казахстан может стать одним из важных игроков на рынке искусственного интеллекта
Через пять лет большинство нынешних популярных профессий уйдет в небытие. Среди них юристы, бухгалтеры, менеджеры, турагенты, переводчики, аналитики и многие другие. Это произойдет по той простой причине, что их всех заменят автоматизированные программы, проще говоря, роботы. Такой прогноз дает эксперт по системам искусственного интеллекта Евгений ВОЛКОВ.
Евгений перебрался в Астану из Москвы. В Казахстане он занимается созданием компании, в задачи которой входит в том числе и реализация проектов, связанных с искусственным интеллектом (ИИ).
- Евгений, не так давно, выступая на конференции MediaHub, вы заявили, что через пять лет такие профессии, как юристы, журналисты, менеджеры по продажам, переводчики, туроператоры, аналитики, попросту исчезнут, потому что их заменит искусственный интеллект. Этот прогноз касается только западных стран или же речь идет о мировой тенденции?
- Алгоритмы, на которых построены современные системы ИИ, разрабатывались еще в 60-е. Тогда просто не было достаточного количества доступной вычислительной мощности для реализации действительно “умных” систем. После появления сетей Deep Learning (сложные сети с возможностью многоступенчатого обучения) стало возможным решение задач, которые ранее казались непреодолимыми для компьютеров. Например, победа над человеком в китайской игре го. И вот команда от Google справилась - их продукт AlphaGo разнес действующего чемпиона мира со счетом 4:1 в одном матче. Началась новая эпоха конкуренции между человеком и машиной - борьба за когнитивные задачи, требующие навыков по обработке информации (классификация, экспертные системы, аналитика).
Под угрозой замещения оказались те, кто всегда чувствовал себя достаточно спокойно в эпоху индустриализации, так называемые белые воротнички, люди, работающие с информацией. Юристы, бухгалтеры, переводчики, биржевые трейдеры, менеджеры всех сортов, операторы call-центров и еще сотни офисных профессий. Этим людям пора начинать волноваться за свое рабочее место. Бизнес, к сожалению, не сможет быть стабильным, если издержки будут выше, чем у конкурентов. А мы все понимаем что ИИ-сотрудники намного дешевле людей.
Тренд общемировой, скорость интеграции не зависит от продвинутости регионального рынка. Все помнят про то, как быстро по всему миру распространились смартфоны. Просто технология стала доступна. Прогноз по массовому замещению людей в информационной индустрии в течение следующих пяти лет, на мой взгляд, вполне реалистичен.
- А что насчет госуправления? Возможно ли, что в будущем ИИ заменит чиновников, благодаря чему исчезнут коррупция, лоббизм, трайбализм и другие негативные факторы, свойственные исключительно человеческой форме правления?
- То, о чем я говорил в предыдущем ответе: увеличение эффективности при работе с информацией относится к любым процессам управления. Государственные структуры тоже будут вынуждены активно использовать ИИ для повышения собственной эффективности. Не секрет, что между странами идет такая же конкуренция, как и между крупным бизнесом, все пытаются сократить неэффективные расходы и увеличить доходы. Как будет развиваться автоматизация в госуправлении, мы увидим в ближайшие несколько лет.
- Еще один интересный момент, о котором вы говорили: совсем скоро видеозаписи перестанут быть доказательством в суде, поскольку современные программы позволяют создать любое видео с любым человеком. Изменится ли в связи с этим законодательная база и методы работы правоохранительных органов?
- Пока что, насколько мне известно, не существует законодательной базы для синтезированных образов, которые могут включать в себя как речь, так и видео. Мне кажется реалистичным прогноз, по которому через несколько лет аудио- и видеозаписи, особенно плохого качества, перестанут служить доказательством в суде, поскольку на распознавание подделки придется тратить значительные ресурсы - как экспертные, так и вычислительные, что не всегда будет иметь смысл. Скорее всего, правоохранительным органам придется искать новые доказательные инструменты.
- Человечество активно внедряет ИИ во всех сферах жизни, начиная от услуг и заканчивая системами обороны. Насколько это правильная позиция? Не ждет ли нас появление SkyNet, ядерная зима и другие ужасы, красочно описанные в различных фантастических фильмах и романах?
- Ключевой темой в истории вселенной Terminator служит то, что SkyNet: а) получил самосознание, то есть смог сформулировать, что такое “я”, со всеми вытекающими экзистенциальными вопросами; б) немедленно решил, что человечество с доступом к условному рубильнику представляет угрозу, и принял меры.
Я не очень верю в такое развитие событий, как не верю и в стерильный мир андроидов Азимова. Как мне кажется, нормальным путем развития нашего сотрудничества с ИИ будет подход не господин - слуга, а партнерство, которое поможет нам, как биологическому виду, преодолеть эволюционные преграды и стать чем-то совсем новым, с новыми возможностями и горизонтами.
- Рассказывая о системах вооружения и обороны, вы отметили, что единственное, что сейчас не может делать ИИ, - это нажимать на курок. Однако люди активно способствуют тому, чтобы исправить этот недочет. Есть ли конкретные примеры, подтверждающие это утверждение?
- В Интернете можно увидеть ворох материалов, посвященных теме орудийных комплексов, от маленьких дронов до огромных беспилотных бомбардировщиков, которые должны принимать решение о поражении цели самостоятельно, основываясь на запрограммированных правилах и работе ИИ, который поможет отделить “правильные” цели от “неправильных”. Разработка подобного вооружения не может не беспокоить людей, ведь право на убийство всегда оставалось за нами, а теперь мы готовы его делегировать машине. Вы также найдете много петиций о запрете LAW (Lethal autonomous weapons) систем, которые, конечно, осложняют жизнь производителей high tech-вооружений, но по эффективности, как мне кажется, сравнимы с выступлениями хиппи в 70-х о запрете ядерных бомб. В истории человечества война всегда была двигателем технологий, так же как и технологии зачастую становились причиной войн. Пройдет всего 10-15 лет, и в основной массе вооруженных конфликтов, которые при всем старании не прекратятся, будут участвовать роботизированные подразделения. Это позволит сократить потери среди людей (хорошо), но также даст подавляющее превосходство в конфликте странам, которые смогут позволить себе массовое производство такого вооружения (плохо). Я надеюсь, что ученые, политики и военные смогут договориться о рамках, в которых подобные машины будут использоваться, чтобы исключить возможность глобального конфликта “человек против ИИ”
- В Китае активно внедряется система оценки личностных характеристик граждан. Буквально каждый поступок, каждое действие определяет социальный рейтинг человека Social Credit Score (SCS). От этого рейтинга будет зависеть качество жизни каждого гражданина: сможет ли он получить кредит, в какой школе будут учиться его дети и т. д. То есть, по сути, рейтинг будет определять ценность человека для общества. И общество будет вынуждено принимать эту оценку как абсолют. К чему это приведет?
- Кредитный, или социальный, рейтинг в Китае - это одна из попыток адаптировать существующий порядок в управлении обществом к новому цифровому миру. В докомпьютерную эпоху контролем за соблюдением законов занимались правоохранители, информационным обеспечением - медиа, а образовательная система обеспечивала стабильную доставку среднего уровня знаний. С ростом населения старые механизмы перестают быть эффективными, необходим качественный скачок по всем направлениям как в сфере соблюдения законности, так и в информации и образования. Нас, выросших во время, когда измерить, проанализировать и сделать выводы для каждого человека в отдельности было совершенно невозможно, все эти новые механизмы пугают и заставляют задуматься о потере общества в том виде, к которому мы привыкли. Системы, похожие на китайский эксперимент, будут появляться по всему миру, где-то они приведут к оруэлловскому Большому Брату, где-то позволят обществу развиваться с небывалой скоростью. Я всегда говорю, что инструмент не может быть плохим или хорошим, вопрос в том, как его используют люди.
- Все ваши прогнозы, на мой взгляд, касаются исключительно технически развитых стран, но никак не Казахстана. Какой с учетом этого имеется временной лаг у нашей страны?
- Здесь я с вами не соглашусь. IT перевернули мир. Раньше, для того чтобы страна могла себе позволить, скажем, производство ядерного оружия, была необходима мощнейшая элементарная и научная база, годы подготовки и значительные расходы. Теперь все иначе. Компьютеры, даже высокопроизводительные, доступны любой стране. Благодаря сообществу Оpen source библиотеки программного кода, необходимые для создания сложных решений, доступны в Интернете, а знания лежат просто за поисковой строкой Google. Говорить, что “ну вот у нас, конечно, все будет не скоро”, ошибочная позиция, которая приведет к неготовности к переменам. С выпуска iPhone прошло всего 10 лет, а теперь вы можете купить смартфон на свой вкус практически в любом городе мира. Темп распространения технологий продолжает расти. Так что я верю в то, что Казахстан сможет стать одним из важных игроков на рынке ИИ-решений как Центральной Азии, так и мира.
- И последний вопрос: как вы относитесь к тому, что ИИ заменяет человеческий интеллект? Чем займутся люди, которых ИИ освободит от работы, и что нас ожидает?
- Я считаю, что наш мир ждут крайне интересные перемены. Они не всегда будут радостными, но то, что они изменят все, очевидно. Рабочие места, которые сократятся в результате очередной технологической революции, видоизменятся, появятся новые профессии, новые типы занятости. Какими они будут - понятия не имею, честно, это задача, которую нам еще предстоит решать, причем, возможно, в самое ближайшее время. Важно понимать, что ИИ - это новое электричество для промышленности, бизнеса и управления. В прошлом веке люди настороженно относились к “дьявольским молниям в проводах” и думали, что конец света близок. Ничего не меняется: мы всегда относимся к новым технологиям с опаской и ждем худшего. Через 10 лет наши дети уже не будут задумываться, что им помогает ИИ, как мы не задумываемся о том, почему лампочка горит. Главное, что мы должны культивировать в себе сейчас, - это способность адаптации к быстрым изменениям среды, тогда все будет хорошо.
Руслан БАХТИГАРЕЕВ, фото из личного архива Евгения Волкова, Алматы