ЕВГЕНИЙ КУЗНЕЦОВ: МЫ – ПОСЛЕДНЕЕ ПОКОЛЕНИЕ, ЖИВУЩЕЕ В ЧЕЛОВЕЧЕСТВЕ

В нейросеть данные законы робототехники заложить нельзя. Дело в том, что в процессе самообучения нейросеть может прийти к убеждению, что ее учили ерунде, переучиться и выработать свои собственные законы. Является ли это самосознанием? Отличный вопрос, на который мы пока не знаем ответа.

NToday поговорил о развитии искусственного интеллекта (ИИ) с директором дочерних фондов Российской венчурной компании (РВК) Евгением Кузнецовым. Евгений Борисович поддержал нас в применении элементов ИИ для создания информационных материалов, а мы обсудили опасности ИИ.

NT: С одной стороны, очевидно, что в обозримом будущем вся интеллектуальная работа, которую можно превратить в цифру, будет делаться ИИ. С другой стороны, прогресс в этой области идет очень медленно. Те же искусственные нейронные сети, как известно, появились в 1950-х годах и только сейчас обретают масштабность применения. Не рано ли мы начали их бояться? 

ЕБК: Прогресс идет всегда очень неравномерно, я бы сказал — взрывами. В области ИИ действительно произошёл взрыв, о котором у нас в стране, увы, не принято широкого говорить. Фактически история искусственного интеллекта в его современном понимании началась буквально несколько лет назад. Методы и системы развития ИИ, появившиеся 50 лет назад, давали очень медленный результат. Прорыв обеспечила нейросеть, обеспечившая совершенно другое качество и другие принципы формирования ИИ. Обрисую ситуацию, сильно ее упростив. Если раньше люди пытались алгоритмизировать правила, по которому человек приходит к каким-то умозаключениям, то новая модель стоит на том, что человек вообще не знает, как машина приходит к тому или иному решению или выводу.

Лучше всего этот принцип иллюстрирует история про победу машины в игру ГО. Известно, как учили машину одолеть человека в шахматы – её загрузили правилами игры, массой примеров, разного рода критериями выработки эффективной стратегии, и машина просто быстрее, чем человек, перебирала готовые шаблоны решений интеллектуальной задачи. Как учили машину играть ГО – ей «показали», что есть доска, есть шашечки, и у этих шашечек есть определённые правила передвижения. И всё, больше ИИ не учили ничему, ни правилам, ни стратегии, ни каким бы то ни было иным кейсам ГО. Машина играла сама с собой огромное количество времени, выработала собственные правила и методы победы и в конце концов переиграла человека. В игре ГО очень много построено на интуиции. Поэтому я уверен, что эта победа – прообраз того, что машины в итоге обретут и интуицию и даже эмоции.

NT: А эмоции и интуиция предполагают самосознание у машины?

ЕБК: Это отличный вопрос. С одной стороны, предполагают, но может быть вполне достаточно некоего восприятия себя как субъекта, который имеет собственные определённые приоритеты, то есть рефлексии. Давайте на проблему посмотрим по-другому. Сейчас качество ИИ развивается фантастическими темпами. Чип, обладающий свойствами интеграции в нейросеть, уже становится массовым девайсом. Он может быть вмонтирован во что угодно, в машину, в чайник, в дом и работать на принципе самообучения и адаптации. Принципиальным отличием раннего искусственного интеллекта было то, что он не мог самообучаться, он нуждался в том, чтобы человек вложил в него программу. Принцип детерминированности. В новой системе ИИ человек как источник программы вообще не нужен. Человек необходим машине как источник данных и источник опыта. Но самое интересное в том, что источником опыта может выступать другой ИИ, другая машина! Приведу свой любимый пример — современные роботы, разрабатываемые для алгоритмизации автомобильного вождения, обучаются не человеком, а программами – симуляторами дорожного движения. Этот процесс обучения происходит даже лучше, чем человеком, то есть роботы успешнее учат роботов, чем человек.
Знаменитый Реймонд Курцвейл, автор идеи сингулярности, уже несколько лет трудится в корпорации Google над созданием эмоционального искусственного интеллекта. Я знаю ещё несколько лабораторий, которые занимаются этим проектом, это сейчас мировой тренд. И я думаю, что в ближайшие пять лет может появиться аналог эмоционального ИИ. Таким образом, мы можем получить искусственный интеллект, работающий почти как у человека.
А дальше начинается чисто техническая гонка за параметрами.

NT: Мы же понимаем, что способность обрабатывать огромные математические массивы не говорит о возникновении самосознания у машины.

ЕБК: Как появилось самосознание – это фундаментальный вопрос. И все современные гуру ИИ говорят именно о необходимости понимания этого процесса. Причем они возникновение самосознания у машины формулируют как опасность. Постепенно мы придем к тому, что системы ИИ станут настолько дешевыми, эффективными и массовыми, что их начнут применять буквально во всех областях деятельности человечества. Мощность этих систем, как индивидуальных, так и объединенных в сеть, станет настолько сильной, что неизбежно начнут возникать эффекты самостоятельной постановки задачи, самостоятельного принятия решений, выработки собственной этики и собственных принципов, на основе которых машиной принимаются решения. И в итоге мы все не застрахованы от того, что эта колоссальная машина-нейросеть-ИИ придет к выводу, что человек – неправильное существо и лишний на этом празднике жизни.

Как известно, в классической интеллектуальной модели в роботы можно заложить, к примеру, три закона робототехники Айзека Азимова. В нейросеть данные законы робототехники заложить нельзя. Дело в том, что в процессе самообучения нейросеть может прийти к убеждению, что ее учили ерунде, переучиться и выработать свои собственные законы. Является ли это самосознанием? Отличный вопрос, на который мы пока не знаем ответа. Я скажу так — принципиальных доказательств того, что ИИ, развивающийся на принципе самообучения, рано или поздно не перейдет к самосознанию, нет.

NT: Нейросеть – это грубое копирование работы человеческого мозга. Пока мы не поймем, как работает наш мозг, мы не поймем, что такое сознание и как оно появляется.

ЕБК: Согласен. Но не стоит забывать, что грубые модели работы нашего мозга уже есть. Да, пока мы находимся на той стадии научного познания, когда наше представление о мозге человека сильно упрощено. Но в последние 10-15 лет идет бурный прогресс в этой области и появились модели, которые на некоторых отдельных уровнях описывают работу мозга достаточно хорошо. Я считаю, что более важно другое. Как известно, сознание человека развивается в обществе. Во многом мы как индивидуумы, являемся продуктом коллективного сознания. К примеру, мы с тобой прекрасно понимаем, как людям навязываются вынужденные решения, или мнения. Я говорю о системе масс-медиа, включая новые истории от выдачи инфы поисковиками до фейковых новостей в СМИ.
Иными словами, человеческое решение обусловлено коллективными процессами и информацией, получаемой в обществе. Индивидуальное сознание интегрировано в коллективное и во многом развитость когнитивных функций человека является следствием того, что он коммуницирует не с пятью соседями, а как минимум с 50 или 500 или 5 тысячами людей. То есть, больше число коммуникаций резко увеличивает объем когнитивных функций и делает объем сознания гораздо больше. Именно поэтому основного мыслительного эффекта в области ИИ ждут не от появления одного мегамощного устройства, а от того, что машины с ИИ начнут коммуницировать. Один умный электрический чайник – это вообще нестрашно, а миллиард умных чайников, принимающих решения, могут превратиться некую мегасистему с невероятными мегаэффектами. В этом то и риск.

NT: Ключевой вопрос – доверие машине. Если мы доверяем что-то ИИ, то возникают вопросы – что будут делать в этом процессе люди и где заканчивается грань доверия машине? Не появится ли цепочка машин в виде системы, которая проверяет систему, которая проверяет систему?

ЕБК: Обязательно появится.

NT: Тогда если возникнет ИИ, сравнимый с нашим, мы перестанем доверять машине априори. Мы должны ее проверять.

ЕБК: Это та самая причина, из-за которой техногуру боятся искусственного интеллекта. Использование колоссального и постоянно увеличивающегося объема данных, которыми оперирует современная цивилизация, и скорость принятия решений на основе этих данных требуют передоверия принятия решений от человека машине. Уже понятно, что мы не сможем удержать контроль нам системами, которые оперируют большими данными, если не будем доверять этот контроль другим системам ИИ, которые с ними синхронны по способности обработки информации и по скорости принятия решений. Человек не способен быть контролером над машинной системой.

NT: Но ведь мы не можем полностью доверять ни одной машине.

ЕБК: В этом и состоит парадокс, — мы последнее поколение, которое живет человечестве. Все следующие поколения людей будут существовать в новой человеко-машинной общности, где машины субъектны, правомочны, принимают решения и более того, в каких-то ситуациях могут стоять выше человека. Мы сейчас переживаем момент, сравнимый с эпохой становления гуманизма, когда стало понятно, что владение другим человеком невозможно. Рабство невозможно. То есть, к другому человеку нельзя относиться как к животному или вещи. Если сейчас еще можно рассуждать о том, стоит ли доверять машине и как ее контролировать, то следующие поколения людей уже не будут задаваться этими вопросами. Через 20 лет одним из предметов в школе в рамках ОБЖ будут принципы и логика ИИ и как с ним договориться. Мы уже проскочили точку, когда можно было запретить ИИ или ограничить его. Ограничить нейросеть человек не может в принципе. Попытаться ввести запрет на объем мощности конкретного процессора, ограничить мощность конкретного робота-субъекта – это да. Но из-за масштаба нейросети и общего ИИ мы этого сделать не сможем. Нам тогда надо запрещать вообще ИИ, что и предлагают, кстати, некоторые лидеры Силиконовой долины. Поэтому я считаю, что через несколько десятков лет роботы в этическом и юридическом плане будут признаны такими же существами, как и люди. И если РоботоОтечество решит, что людям нельзя что-то делать, нам придется с этим считаться. Думаете, я фантастику рассказываю? Да мы уже вынуждены соглашаться с решениями, которые нам предлагают роботы – тот же Яндекс Навигатор.

NT: Чем тогда будет заниматься человек?

ЕБК: Человеку в появляющейся экосистеме ИИ нужно найти новую нишу. Люди утрачивают функцию единоличного планировщика, архитектора той среды, в которой живут. Человек превратится в поставщика информации, решений и разного рода артефактов для роботосистем. То есть, не исключено, что РоботоОтечеству будет нужно, чтобы люди просто жили, являясь источниками данных для машин. Еще одна функция человека – сверхкомпетенция, творческие озарения. Что еще – увидим при нашей жизни.

Источник

Загрузка...

One thought on “ЕВГЕНИЙ КУЗНЕЦОВ: МЫ – ПОСЛЕДНЕЕ ПОКОЛЕНИЕ, ЖИВУЩЕЕ В ЧЕЛОВЕЧЕСТВЕ

  1. перспектива конечно пугающа.Я просто хочу задать этим продвинутым технарям вопрос,а как с вашими детьми и внуками и правнуками машины будут поступать? ВДРУГОНИ ТОЖЕ ОКАЖУТСЯ ЛИШНИМИ В ЭТОЙ ЖИЗНИ.?

Есть что сказать? Оставьте комментарий.

Ваш email адрес нигде не публикуется и не передаётся третьим лицам.