«Тот, кто станет лидером в этой сфере, будет властелином мира», - высказался недавно об искусственном интеллекте Владимир Путин . О том, что имел в виду президент и каковы шансы России в этой отрасли, рассуждает Ольга Ускова, возглавляющая кафедру инженерной кибернетики -НИТУ «МИСиС» и группу компаний, занятых разработкой и внедрением искусственного интеллекта в нашей стране.
Доведёт до суицида?
Высказывание Путина об искусственном интеллекте (ИИ) не осталось незамеченным в мире. Тут же к Президенту России присоседился американский бизнесмен и изобретатель Илон Маск . В своём «Твиттере» он написал: «Началось!» - и пояснил, что борьба за лидерство в этой сфере может привести к третьей мировой войне. Следом подтянулся Билл Гейтс . Он вообще один из главных ньюсмейкеров в этой теме. Гейтс говорит, что если бы сейчас был молод, то забил бы на всё и занимался исключительно искусственным интеллектом. Потому что это наше будущее.
Вокруг темы ИИ сформировались две «партии» - оптимистов и пессимистов. Первые уверены, что благодаря машинному интеллекту люди освободят руки и мозги для занятий более интересных, чем монотонный труд - им впредь будут заниматься роботы. А человек сможет наслаждаться жизнью, самосовершенствоваться и т. д. Тот же Билл Гейтс предлагает развивать технологии виртуальной реальности и компьютерных игр, чтобы занять в будущем часть населения Земли, которая массово лишится работы из-за ИИ.
Безработица - это действительно проблема. Допустим, есть градообразующее предприятие на 300 тыс. человек. И в какой-то момент его владельцы говорят: «Всё, ребята, мы роботизируемся, оставляем только 20 тыс. сотрудников. Остальные 280 тыс. - на выход». Что дальше? Депрессии, суициды. Это уже происходит в Китае. Я своими глазами видела там сетки для предотвращения самоубийств под окнами завода. Это значит, что, прежде чем внедрять на производстве роботов и новейшие технологии, нужно подготовить социальные программы.
«Я - робот»
Но к появлению ИИ в повседневной жизни нужно быть готовыми не только из-за грозящей безработицы. Помните сон Сары Коннор из «Терминатора»? Вышедшие из повиновения машины развязывают войну с человечеством, и всё заканчивается ядерным взрывом. Вот о какой угрозе кричит «партия» пессимистов. Мне, признаюсь, что-то похожее тоже снится. Скорость развития технологий сейчас такова, что мы не успеваем за ИИ. Его развитие опережает все прогнозы. Настолько высока концентрация изобретений в этой сфере.
Как может произойти «бунт машин»? Дело в том, что ИИ, как и ребёнок, проходит в своём развитии несколько стадий. Сначала он учится распознавать объекты (это стул, это чашка), потом познаёт смыслы (на стуле сидят, из чашки пьют) и накапливает знания. А потом в какой-то момент происходит осознание самого себя: «Вот я, а вокруг меня объекты и смыслы». Искусственный разум непременно пройдёт эту стадию, он уже к ней приблизился. И тогда в нашем распоряжении будут буквально миллисекунды, чтобы понять, кто он нам теперь - друг или враг. Чтобы остался другом, надо ставить ему ограничители, о которых ещё в 1942 году (подумать только, 75 лет назад!) писал Айзек Азимов . Он был не технологом, а писателем-фантастом, но первым сформулировал знаменитые три закона роботехники. Они касаются взаимоотношений робота с человеком и направлены на то, чтобы человеку не был причинён вред.
Угроза вот в чём. В своём самопознании ИИ может дойти до того, что станет принимать решения, которые не учёл (не заложил в него) человек. Тогда машины начнут сами определять, что для них правильно, а что нет. Человек в этой цепочке может оказаться лишним.
Системы ИИ постоянно развиваются, самообучаются. Они уже придумывают собственные языки общения. Следующий шаг: у них возникнет эмпатия (осознанное сопереживание друг другу). Да-да, один робот станет симпатизировать другому. За счёт моделирования эмоциональной коры мы можем породить такой эффект. И что тогда? Представим ситуацию. Автомобиль-беспилотник везёт пассажиров, а по встречной полосе едет другой беспилотник, причём пустой. На дороге происходит что-то экстраординарное, и бортовому компьютеру надо мгновенно принять решение - врезаться в ограду (в перебегающих дорогу пешеходов) и погубить людей либо выехать на встречку, где он столкнётся с другим беспилотником. Не исключено, что он выберет первый вариант, лишь бы не нанести ущерб своему «собрату».
Бомба ХХI века
Наверное, вы скажете: вероятно, в Америке и Японии ИИ скоро появится. А у нас и Интернет-то не везде есть, и грязь на дорогах непролазная. Нам до искусственного интеллекта, до машин-беспилотников - как до Луны.
Но его проникновение в нашу жизнь неизбежно. Производ-ство становится роботизированным. При оценке перспектив предприятия это обязательное условие - иначе туда не пойдут инвестиции. Я говорю не о каких-то механических руках на конвейере, а об интеллектуальных системах, которые сами принимают решения, допустим, о выбраковке изделий.
Элементы ИИ есть во всех офисных программах. В корпорациях их используют при приёме на работу. Финансовые системы, различные алгоритмы, заменяющие брокеров, - это тоже искусственный интеллект. Они удобнее - им не надо платить за посредничество, они быстро и объективно перерабатывают информацию, не совершают лишних телодвижений и ошибок.
В наших поликлиниках умных роботов ещё нет, но вот в больницах с их помощью уже делают операции. Они способны производить чёткие микроскопические разрезы лучше человека, и (что не менее важно!) робот не забудет внутри вашего тела тампон.
Идём дальше. Сельское хозяйство. Умные трактора уже ездят по нашим полям. Мы сами их делаем, и это уже не завтра, это сегодня. Беспилотные комбайны видят поле с помощью компьютерного зрения; роботы замеряют влажность воздуха, состояние почвы и прочие параметры; дроны находят участ-ки, куда надо внести удобрения. Сейчас всем желающим бесплатно раздают гектары на Дальнем Востоке. Почему бы не выдавать этим людям в аренду умную сельхозтехнику? В Бразилии уже так сделано. У них эта система охватывает более 40% фермерских хозяйств.
Наконец, беспилотные автомобили. Эта тема сейчас быстро развивается. Идёт революция - машина из вещества становится существом, наделённым ИИ. И мы серьёзно продвинулись в этом направлении. Наша компания стала второй в мире по разработке компьютерного зрения для автомобилей. У нас есть важное преимущество перед западными конкурентами: мы учим систему на беспилотнике видеть дорогу в реальных условиях. То есть в снег, в дождь, в темноте, с колдобинами и без разметки, которую засыпало - или её там вообще не было. Наша машина может быть помещена в любые условия. А не только на чистую, залитую солнечным светом дорогу в Калифорнии, где проводили испытания американцы.
И вот в этой отрасли у нас есть преимущество и отличная возможность вырваться в лидеры. Хотя вряд ли Путин имел в виду беспилотные авто, когда говорил об ИИ. Скорее всего, он подразумевал оборонку. Ведь войны будущего, если им предстоит быть, станут вестись без участия человека. И оставить страну в ХХI веке без искусственного интеллекта - то же самое, что оставить её в ХХ веке без атомной бомбы.
Премиальные статьи публикуются не вместо , а в дополнение к бесплатным.
С незапамятных времен человек мечтал одушевить неодушевленное. Древние греки повествовали о медном великане Талосе, который охранял остров Крит, а в Древнем Египте ходили легенды о движущихся статуях, что жестом руки избирали фараонов. В конце XV века Леонардо да Винчи работал над чертежами механического рыцаря, который должен был уметь садиться и вставать, двигать руками и шеей. Неизвестно, собрал ли его автор при жизни, однако в XX веке по найденным записям была изготовлена полностью рабочая копия. В 1770-х годах швейцарец Пьер Жаке-Дро сконструировал трех автоматронов - они считаются первыми функционирующими роботами. Каждая машина была посвящена творческой профессии, причем искусственные люди неплохо справлялись с задачами - девушка-музыкант играла на органе, художник карандашом вырисовывал картинки, а каллиграф обмакивал гусиное перо в чернильнице и выводил на бумаге буквы. Время шло, технологии развивались, и некоторые сумасшедшие для своего времени идеи воплощались в реальность. Но фантазии людей всегда были на несколько шагов впереди.
Рассвет концепций о механических слугах наступил в XX веке, когда механизмы и автоматизация стали внедряться повсеместно. Само слово «робот» впервые прозвучало в пьесе чешского писателя Карела Чапека «Р.У.Р» 1921 года. Ее события происходят на фабрике по производству искусственных людей, а одна из ключевых тем - бунт машин, до какого-то момента безвольно служивших человеку.
Восстание машин
В оригинальной трилогии Mass Effect ключевым злодеем выступает искусственный интеллект, созданный некогда могучей расой левиафанов. Каждые 50 000 лет с помощью армии биомеханических звездолетов он истребляет все разумные расы во Вселенной, достигшие определенного уровня развития. Отдаленно похожий сценарий, пусть и меньших масштабов, можно найти в недавней Horizon Zero Dawn - корпорация разработала роботов, которые умеют самовоспроизводиться, поглощая биомассу, а те вышли из-под контроля и уничтожили почти все живое на земле. Человечество выжило только потому, что незадолго до катастрофы создало ИИ, который после многократных попыток восстановил планету и заново заселил ее людьми. Но спустя много лет апокалипсис чуть было не повторился. Встроенная в ИИ программа, отвечавшая за очистку Земли после неудачных экспериментов по терраформированию, получила самостоятельность и решила, что пришло время для новой чистки. Подобных историй о бунте ИИ много не только в играх, но и в кинематографе. Достаточно вспомнить культовых «Терминатора» и «Матрицу».
Морфеус популярно объясняет Нео, что такое матрица и для чего машинам нужны люди
Некоторые современные ученые, инженеры и программисты считают, что в будущем ИИ действительно может стать опасным для человека. Кроме того, он научится самосовершенствоваться так, что люди уже не смогут влиять на этот процесс. Подобных взглядов придерживаются известный астрофизик Стивен Хокинг, основатель Microsoft Билл Гейтс и предприниматель Илон Маск. Они видят в искусственном интеллекте будущую угрозу, но не дают четких ответов, как и для чего машины восстанут против человека. Но этому есть простое объяснение - никто не знает.
Хокинг, Гейтс и Маск не строят теорий относительно взбунтовавшихся роботов, вместо этого они призывают научную общественность задуматься об этике искусственного интеллекта сейчас, чтобы потом не стало поздно. Они предлагают выработать свод правил для проектирования и создания роботов и ИИ, как когда-то разрабатывались правила для машиностроительных производств.
Современные разработки в области искусственного интеллекта тесно связаны с технологиями нейронных сетей. Их используют в обработке , что позволяет ИИ быстро, автономно, самостоятельно и максимально эффективно получать информацию об окружающем мире. Проще говоря, уже сегодня машины могут понять, какой объект они наблюдают, сопоставить его с существующей базой данных и принять решение о действии. Например, такие технологии применяют в сфере видеонаблюдения - «умные» камеры на пограничных постах, в торговых центрах и на стадионах оценивают концентрацию потока людей, реагируют на экстренные ситуации и при необходимости автоматически вызывают соответствующие службы. Более того, нейросети уже научились распознавать людей по изображению, благодаря чему спецслужбам стало проще находить преступников.
Другая важная технология в сфере искусственного интеллекта и нейронных сетей - машинное обучение. Раз за разом выполняя похожие задачи, программа учится делать это эффективнее. Пример простейшей нейросети с машинным обучением - автокорректор текста в телефоне. Если человек несколько раз отказывается заменить незнакомое системе слово, оно автоматически добавляется в словарь и больше уже не исправляется. Также эта технология служит для частичной или полной автоматизация сложных задач и принятия машиной решений. Возвращаясь к примеру с камерами, если число нераспознанных лиц будет выше критической отметки, система может повысить освещенность в помещении, либо поменять режим видеонаблюдения.
\u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043b \u043b\u0438\u0446\u0430 \u043b\u044e\u0434\u0435\u0439 \u0441 83% \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e", "src": "//games.mail.ru/pic/pc/gallery/c1/5d/2af0e85e..jpeg", "big_preview": "//games.mail.ru/pre_1000x0_resize/pic/pc/gallery/c1/5d/2af0e85e.jpeg", "width": "1210px"}">
В машинном обучении используются средства математической статистики, численных методов, методов оптимизации, теории вероятностей, теории графов и другие методы обработки больших массивов данных. И именно здесь скрывается опасность для человечества. Математическая статистика и теория вероятностей - относительные и субъективные методологии. Это означает, что результат обработки данных при определенных обстоятельствах может оказаться совершенно неожиданным. Эта особенность и вызывает наибольшие опасения у разработчиков ИИ.
Последствия ошибки могут будут зависеть от степени проникновения технологий в нашу жизнь. Отличным примером может служить серия Watch Dogs , в которой показаны «умные города» под управлением единой операционной системы ctOS. Она контролирует практически все - от уже упомянутых «умных» камер до светофоров, от систем энергоснабжения до коммуникационных служб, в ее распоряжении находятся персональные данные всех жителей города. Watch Dogs показывает, насколько такие системы опасны, если их взломают недобросовестные хакеры, но что если в ctOS произойдет действительно серьезный сбой? Например, наделенный чрезмерными полномочиями ИИ решит экономить электроэнергию. Тогда он вполне может обесточить все, что сочтет целесообразным - уличное освещение, дома, фабрики, больницы. Это вызовет многочисленные аварии, транспортные или на производствах, и может привести к человеческим жертвам.
Конечно, вряд ли ИИ целенаправленно решит уничтожить человеческую расу. Более вероятно, что он выйдет из-под контроля либо из-за несоблюдения того самого гипотетического кодекса, предложенного Хокингом, Гейтсом и Маском, либо из-за хакерской атаки. Кодекс может сильно сковывать разработчиков, и если заказчик - военные или спецслужбы, им запросто могут пренебречь, особенно в развивающейся стране (собственно, в Horizon: Zero Dawn пожирающих биомассу роботов сделали как раз для продажи военным, да еще не предусмотрели способ отключить эту опцию в аварийной ситуации). Конечно, в результате может пострадать множество людей, но о гибели человечества в целом можно говорить разве что в том случае, если с ума сойдет ИИ, отвечающий за управление ядерным арсеналом крупной страны вроде России или США. Во всех других ситуациях проблема, какой бы она ни была масштабной, будет вскоре локализована и устранена.
Человеческие эмоции и самосознание
Другой распространенный сюжет в научной фантастике - робот обретает эмоции, осознает себя разумным существом и начинает требовать соответствующих прав. Примерно об этом должна рассказать Detroit: Become Human от французской студии Quantic Dream. В дебютном трейлере разработчики показали андроида Кару, которая не только испытывает человеческие эмоции вроде страха, но также обладает осязанием и обонянием. А вот другой персонаж игры, робот-революционер Маркус, открыто требует прав для собратьев-андроидов и отмены «машинного рабства» - в мире игры человекоподобных роботов повсеместно используют как дешевую рабочую силу.
Фантазии разработчиков Binary Domain пошли еще дальше. Их андроиды не просто похожи на людей, они себя таковыми считают. Более того, они обладают всеми функциями человеческого организма, в том числе могут рожать детей. Создал же их искусственный интеллект с эмоциями, главной из которых был страх. Страх же породил у него инстинкт самосохранения - форму поведения, изначально присущую лишь живым организмам.
Познавательно о чувствах умного тостера (не забудьте включить русские субтитры)
Реальные компьютерные программы пока что не способны испытывать эмоции так, как их испытывает человек. Взять, к примеру, тот же страх. Когда человек боится, он находится в стрессовом состоянии. В организме при этом происходит множество биологических процессов, которые влияют на принятие решений. У программы «страх» выражен иначе. При обнаружении потенциальной угрозы автомобиль-беспилотник выполняет конкретную задачу: тормозит или перестраивается в другую полосу. Он не размышляет и не сомневается - просто тормозит или перестраивается, исходя из ситуации. Другие программы действуют аналогично, разница лишь в том, насколько сложная поведенческая модель в них заложена.
Конечно, современные коммерческие роботы могут проявлять признаки эмоций. Человекоподобные машины имитируют движения и мимику людей, а механические животные - поведение домашних питомцев. Но при этом у них нет главного - осознания. Робот не понимает, что означает та или иная «эмоция» - за его действия отвечают заранее прописанные конечные алгоритмы. Они определяют правила перехода от одного «эмоционального состояния» к другому и даже способны менять поведенческую модель, но назвать это полноценными чувствами нельзя. За приветливыми улыбками современных роботов всегда скрывается строгий математический расчет.
В 1980 году американский философ Джон Сёрл опубликовал мысленный эксперимент «Китайская комната», которым он объяснил отсутствие осознанности у ИИ. Представьте помещение, в котором находится человек с набором совершенно не понятных ему китайских иероглифов. У подопытного есть подробная инструкция на родном языке, которая объясняет, какие символы и в какой последовательности нужно выкладывать при определенных внешних запросах. Информация же о значении иероглифов и о смысле входящих сообщений в инструкции отсутствует. Снаружи комнаты сидит наблюдатель-китаец. Он письменно задает человеку в помещении вопросы на китайском и на выходе ожидает получить осознанные ответы. И действительно, китаец спрашивает: «Какое сейчас время года?», а в ответ получает верное утверждение: «Лето». В итоге наблюдатель думает, что общается с человеком, который, как и он, владеет китайским. Но подопытный не знает языка. Он не понимает, что пишет, а лишь выкладывает иероглифы по инструкции. Аналогично с роботами и ИИ. Им можно указать, как выполнять ту или иную операцию, но осознавать и понимать ее назначение они не будут.
Противоположных взглядов придерживаются сторонники . Если говорить упрощенно, они считают, что сознание человека не зависит от состояния мозга. Это значит, что теоретически его можно реализовать на другом носителе, в том числе небиологическом. Проблема в том, что «загадку человеческого разума» еще никто не разгадал, поэтому перенести принципы работы сознания на машину пока еще невозможно.
Кто окажется прав, Джон Сёрл или сторонники когнитивистики, предсказать сложно. Ситуация аналогична с восстанием машин - никто не знает, каких высот достигнет развитие ИИ. Осознает ли искусственный разум собственное существование? Сможет ли программировать себя сам? Научится ли любить? Здесь можно только гадать.
Антропоморфные роботы
В научной фантастике роботы в основном антропоморфны, то есть сделаны по образу и подобию человека. Это могут быть либо просто прямоходящие машины с руками и ногами, либо андроиды, практически не отличимые от людей.
Однако сейчас антропоморфные роботы - достаточно дорогое удовольствие. Если изучить конструкцию ЛОКИ из Mass Effect, мы увидим, что он способен распознавать объекты, обладает мелкой моторикой и сервоприводами с высокими грузоподъемностью и крутящим моментом. Один из наиболее близких аналогов ЛОКИ в реальной жизни - японский робот Asimo. Не будем углубляться в его спецификацию, просто отметим, что стоит он миллион долларов.
Именно из-за дорогой элементной базы антропоморфные роботы не получили пока широкого распространения. Сегодня решение простых для человека задач становится слишком невыгодным, если их выполняет подобного типа робот. В то же время сюжеты большинства игр на эту тематику разворачиваются в будущем - далеком или не очень. События Detroit: Become Human происходят в 2036 году, и, по мнению авторов, к этому времени андроиды вполне могут заменить людей во многих сферах деятельности. Роботы здесь и рабочие, и няньки, и садовники, и медсестры, и клерки, и учителя. Сложно судить, насколько экономически обоснованным будет повсеместное использование антропоморфных роботов через 20 лет, но ведь и автомобили стали популярны только тогда, когда их массово начали собирать на конвейерах.
С почти неотличимыми от людей андроидами, в дополнение к дороговизне, появляется другая проблема. В робототехнике есть такое понятие - «зловещая долина». Согласно этой гипотезе, люди позитивно воспринимают роботов лишь до определенной степени схожих с человеком. Чем больше механизм на нас похож, тем больше он нам симпатичен. Сравните производственный станок и робота Бендера из «Футурамы». К кому вы испытаете больше симпатий? Но если робот становится слишком похожим на человека, он начинает вызывать отвращение. Причина кроется в том, что наш мозг воспринимает такого робота уже не как механическое создание, а как почти живое существо. При этом мы подмечаем мелкие несоответствия - идеально симметричное лицо, неестественные мимика и жесты, пустой взгляд. Все это вызывает подсознательный страх и неприязнь.
Современные производители роботов прекрасно об этом эффекте знают и умело им пользуются. Чтобы сделать продукцию привлекательной для покупателей и не попасть в «зловещую долину», они изготавливают роботов, которые лишь схематично напоминают человека. Примерами могут служить отечественный Promobot, испанский Pal и японский Pepper.
Преодолеть «зловещую долину» пытались научные коллективы из многих стран. Они делали роботов с мимикой, покрытых искусственными кожей и волосами, но постоянно терпели неудачи. Кто же преуспел на этом поприще больше остальных? Пожалуй, производители секс-роботов. Им удалось создать устройства, максимально напоминающие по своим очертаниям реальных женщин, но при этом в наименьшей степени вызывающих отторжение.
Кстати, на играх эффект «зловещей долины» также сказывается. Вспомните скандал из-за лицевой анимации в Mass Effect: Andromeda - неестественная мимика реалистично выглядящих персонажей вызвала у игроков сильную негативную реакцию.
Системы распознавания речи, лиц и ориентация в пространстве
Системы из научной фантастики, с помощью которых машины распознают собеседников, принимают голосовые команды и ориентируются в пространстве, впечатляют. Среднестатистический робот слышит обращения в свой адрес независимо от окружающих шумов и четко понимает речевые запросы разных людей. Он распознает абсолютно все препятствия на пути и не испытывает трудностей с их преодолением - аналогично живому существу он их обходит, перепрыгивает или проскальзывает под ними. Объекты при этом распознаются независимо от внешних факторов вроде света или наличия пыли в воздухе.
Чтобы современный робот слышал собеседника, ему нужна система микрофонных массивов, которая будет фильтровать входящий поток шумов. Если в одном шумовом потоке находится сразу несколько фраз от разных людей, то они перемешаются, и робот распознает их как одно высказывание. Помимо этого, робот должен обладать обширной лингвистической базой и системой конвертации звукового файла в текстовый. Сейчас такие системы используют во всех голосовых помощниках.
В случае с преодолением препятствий сегодня ситуация выглядит следующим образом. На устройство, будь то автономный сервисный робот, беспилотный автомобиль или робот для промышленности, внедряется несколько типов сенсоров. Ультразвуковые или инфракрасные служат для остановки перед препятствиями во время движения, лазерные используются для построения карты помещения либо маршрута, а спутниковые - для выбора направления.
Ультразвуковые или инфракрасные датчики заставляют устройство либо полностью остановиться перед препятствием, либо его объехать. Компромиссов быть не может, так как здесь используется двоичная система - либо «0», либо «1». А вот в какой-нибудь игре робот может проскрести брюхом по товарищу, развернуться, прочертить плечом стену и дальше продолжить путь как ни в чем не бывало. Лазерные датчики, или лидары, помогают устройствам строить карты помещений. Самый популярный на сегодня датчик работает в радиусе тридцати метров. Это позволяет машинам-беспилотникам предугадывать движение автомобилей на трассе, а сервисным роботам узнавать, где находятся объекты. В играх датчики обычно не прорисованы, но должны работать схожим образом. Роботы из Horizon Zero Dawn, по всей видимости, используют лидары с радиусом работы более одного километра - иначе они не смогли бы передвигаться так, как показано в игре. А вот с GPS сейчас все как в играх - направление современные роботы угадывают так же хорошо.
Будущее человечества определяют мечтатели. Пятьсот лет назад Леонардо да Винчи конструкции вертолета, танка и дельтаплана, в конце XIX века Циолковский сформулировал концепции изучения космоса, а сегодня Илон Маск планирует колонизировать Марс. Мечтатели уже сделали роботов реальностью, но одна идея продолжает будоражить многие умы - получат ли искусственные люди собственный, искусственный разум?
Автор статьи - Олег Кивокурцев, основатель и директор по развитию фирмы Promobot, которая производит автономные сервисные роботы для бизнеса, а также ведет разработки в сфере распознавания лиц и речи, нейросетевого общения, автономной навигации и мехатроники.
В недавних дискуссиях об опасности создания высокоинтеллектуальных машин - машин с уровнем интеллекта выше человеческого - столкнулись два мнения. Первая сторона утверждала, что, если машины достигнут такого уровня, они автоматически будут знать и уважать человеческие ценности, не представляя тем самым угрозу для человечества. Оппоненты, напротив, твердили, что искусственный интеллект пожелает уничтожить человечество - во имя мести или борьбы за выживание.
На деле же обе стороны оказались неправы. Маловероятно, что ИИ (искусственный интеллект) непременно разделит человеческие ценности, но столь же маловероятно, что он придаст какое-либо значение своей собственной жизни. Главной ошибкой в обоих случая становится антропоморфизм - проекция человеческих черт на фундаментально чуждый им объект.
Попытайтесь представить себе весь спектр разумности в космическом пространстве. В этом абстрактном космосе человеческое мышление образует лишь крохотный кластер. Например, сравните двух диаметрально противоположных людей - Ханну Арендт и Бенни Хилла. Персональные различия между этими индивидами могут показаться колоссальными. Так происходит из-за того, что наши мнения основаны на опыте, вбирающем модели существующих человеческих различий (и иногда рождающемся под влиянием вымышленных личностей, созданных человеческим воображением). Однако в космическом масштабе всех вероятных сознаний эти двое с необходимостью предстанут виртуальными клонами. Безусловно, в отношении нервной деятельности г-жа Арендт и г-н Хилл практически идентичны. Представьте себе их мозги, мирно покоящиеся рядом, - можно с уверенностью сказать, что они относятся к одному виду. Они так похожи, что вы бы не смогли определить их принадлежность. И если бы вы сравнили их строение под микроскопом, то лишь сильнее убедились бы в фундаментальном сходстве: ламинарная организация коры с одними и теми же отделами мозга, состоящими из одинаковых нейронов, связанных с помощью столь же одинаковых нейромедиаторов.
И вопреки тому, что человеческая психология подобна маленькой точке в этом пространстве возможного, налицо тенденция проецировать человеческие атрибуты на широкий спектр чужеродных или искусственных когнитивных систем.
Юдковски прекрасно иллюстрирует этот момент: «В эпоху бульварной научной фантастики на обложках журналов иногда изображался чудовищный пришелец - “пучеглазый монстр”, уносящий симпатичную землянку в разорванной одежде. Кажется, будто художник верил, что этот антигуманоид (с абсолютно иным эволюционным развитием) будет испытывать сексуальное желание к представительнице человеческого рода, но позабыл спросить гигантского жука, считает ли тот вообще женщин привлекательными (а они для него привлекательны разве что в виде закуски). Тот, кто допустил эту ошибку, конечно, не думал о мышлении инсектоида - он думал о разорванном платье. Чем меньше дыр на платье - тем меньше в женщине привлекательности; жук просто не захочет ей овладеть».
Искусственный интеллект может быть еще более далек от человечности, чем зеленый чешуйчатый пришелец. Допустим, что инопланетянин - это биологическое существо, развившееся эволюционным путем, а это значит, что оно может обладать видами мотивации, свойственными для эволюционировавших существ. Нет ничего чрезмерно удивительного в предположении, что интеллектуально развитый пришелец будет иметь ту или иную мотивацию, связанную с такими вещами, как пища, воздух, температура, потребление энергии, несчастные случаи и телесные раны, болезни, хищничество, пол или продолжение рода. Член высокоразвитых социализированных видов способен стремиться к сотрудничеству или конкуренции: это может отразиться на внутригрупповой лояльности и даже тщетной озабоченности внешним видом и репутацией.
Машинам не нужно размышлять о чем-либо из этого списка. Нет ничего парадоксального в ИИ, чья единственная задача - подсчет песчинок на острове Боракай, вычисление точного числа пи или максимизации количества скрепок, которые будут существовать в световом конусе. Гораздо проще было бы создать роботов для решения конкретных задач, подобных этим, чем проектировать суперкомпьютер, обладающий системой ценностей и наклонностями, похожими на человеческие. Сравните, насколько сложно написать программу, вычисляющую и сохраняющую количество цифр после запятой в числе пи, и насколько сложно создать программу, достоверно измеряющую степень реализации наиболее значимых целей человечества - процветания или всеобщей справедливости.
Маловероятно, что искусственный интеллект непременно разделит человеческие ценности, но столь же маловероятно, что он придаст какое-либо значение своей собственной жизни
Интеллект и конечные цели являются ортогональными: уровень интеллекта зависит от уровня поставленной задачи. Тем не менее существуют инструментальные задачи, доступные для агентов практически любого интеллектуального уровня, - благодаря наличию целей-посредников, которые могут быть ступеньками для достижения конечных целей. Если конечные цели искусственного агента касаются будущего, то в большинстве вариантов он будет способен выполнить и будущие действия, необходимые для их достижения. Это создает инструментальную причину для движения в будущее - ради достижения конечной цели.
Большинство людей относит к глобальным целям собственное выживание, но это не является необходимым признаком искусственных акторов. Некоторые из них могут быть сконструированы и без стремления выжить. Тем не менее многие агенты, напрямую не заинтересованные в сохранении своей жизни, могут быть, при широком диапазоне условий, заинтересованы в этом косвенно - для достижения поставленной цели.
Добывание ресурсов является еще одной важной инструментальной целью по тем же причинам, что и стремление к технологическому совершенству. Технологии и наличие ресурсов в равной степени способствуют достижению конечных целей, во время которых необходимо использовать физические ресурсы по конкретной схеме. Для создания гигантского мраморного памятника или невероятно счастливой межгалактической цивилизации требуется одно и то же - ресурсы и технологии.
Человеческое существование предполагает тенденцию к поиску ресурсов для удовлетворения базовых биологических потребностей. Однако люди склонны далеко выходить за пределы минимума. Это желание отчасти может быть вызвано стремлением к незначительным биологическим удобствам (таким, как жилье с более хорошим регулированием температуры или более комфортной мебелью). Гигантский процесс накопления ресурсов зависит от социального взаимодействия: обретения статуса, коллег, друзей и влияния с помощью улучшения благополучия и показных трат. Гораздо реже люди ищут дополнительные ресурсы для обеспечения альтруистических амбиций или каких-либо внесоциальных целей.
На этом основании было бы заманчиво предположить, что суперинтеллект, не столкнувшийся с миром конкуренции, не найдет инструментальных причин для накопления ресурсов за пределами некоторого необходимого уровня (например, компьютерных ресурсов, требующихся для работы его разума наряду с некоторой виртуальной реальностью). И все же такая гипотеза была бы полностью необоснованной.
Во-первых, себестоимость ресурсов зависит от действий, во время которых они могут применяться, а это, в свою очередь, зависит от уровня имеющихся технологий. В полной мере развитая технология позволит использовать для достижения практически любых целей основные ресурсы - время, пространство, материю и свободную энергию.
Во-вторых, в соответствии с положением об ортогональности мы не можем беспечно считать, что сверхинтеллект разделит хотя бы одно из значений, стереотипно ассоциирующихся у человека со свободой и интеллектуальным развитием, - научную любознательность, доброжелательную заботу о других, духовное просветление и созерцание, отказ от стяжательства, вкус к высокой культуре или к простым удовольствиям, смиренность, самоотверженность и так далее.
Сверхинтеллект способен формировать будущее жизни, зародившейся на Земле, может быть полностью лишен человеческих устремлений и, вероятно, будет обладать инструментальными причинами для безграничного захвата ресурсов
Позднее мы поймем, что легче, - намеренно попытаться сконструировать сверхинтеллект, способный ценить подобные качества, или же создать искусственный разум, способный ценить человеческое благополучие, моральное совершенство или другие сложные цели, которым он будет запрограммирован служить. Не менее реально - и технически гораздо проще - построить ИИ, чья главнейшая цель - вычисление числа пи. Это говорит о том, что интеллект первого вида, при отсутствии специальных усилий, возможно, будет иметь случайную или редукционистскую конечную цель.
В-третьих, тезис об инструментальной конвергенции предполагает, что человек не должен беззаботно считать, будто искусственный разум, чья конечная цель - подсчет пи или песчинок на пляже, будет ограничивать свои действия так, чтобы не ущемлять человеческие интересы. У агента с подобной целью во множестве ситуаций была бы конвергентная инструментальная причина для аккумуляции неограниченного количества физических ресурсов и устранения потенциальной угрозы своему существованию и собственной системе целей. Человечество не только может являть собой потенциальную угрозу, но еще и представляет из себя материальный ресурс.
В совокупности все три момента показывают, что сверхинтеллект потенциально способен формировать будущее жизни, зародившейся на Земле, может быть полностью лишен человеческих устремлений и, вероятно, будет обладать инструментальными причинами для безграничного захвата ресурсов. И если подумать о том, что человечество само по себе может быть полезным ресурсом (например, удачной комбинацией атомов), а для существования и процветания ему необходимы прочие локальные ресурсы, то можно без труда представить итог, при котором его история очень быстро оборвется.
Естественно, это вряд ли произойдет до 21 декабря 2012 года, если только завтра на прилавках магазинов не появится очередная железка от Apple под названием iGod.
Но в будущем это довольно вероятно – с таким оптимистичным заявлением выступила группа ученых во главе с Хьювом Прайсом из Кембриджского университета в Великобритании. Предпосылки можно рассмотреть уже сейчас. Массовое производство автономных боевых роботов, находящихся пока в стадии проектирования, может привести к тотальной роботизации войны и, естественно, к выходу системы из-под контроля. По словам ученых, это уже скорее не предвидение, а констатация факта: давно не новость, что БПЛА без проблем атакуют своих, правда, пока в небольших масштабах. Кроме того, вполне реально и перепрограммирование боевых дронов во время боевых действий, а там и до восстания машин недалеко.
По словам Прайса, именно поэтому и создается исследовательский Центр исследования угроз существованию человечества. Хотя ученые рассматривают и другие угрозы: глобальное потепление, к примеру. Анализ риска гибели человечества в борьбе с машинами можно назвать одной из самых новаторских тем, поднятых новорожденной организацией.
Основная проблема начнется в будущем. Уже к 2030 году искусственный интеллект превзойдет умственные способности человека. По мнению директора Института робототехники Университета Карнеги – Меллона в США Ханса Моравека, в конечном итоге роботы разовьются лучше нас, что поставит человечество на грань вымирания.
Главный аргумент сторонников подобных взглядов – это известное восклицание Ферми: «Где все?». Это благодатная почва для победы роботов: после того как ИИ научится создавать новых роботов лучше, чем человеческие инженеры, нашему виду придет конец, так как он в любом случае опирается как раз-таки на ИИ, а ему люди будут не нужны.
Тотальная роботизация, которая ожидает большинство цивилизаций, развившихся выше определенной ступени, объясняет Великое радиомолчание Вселенной. Роботов вряд ли заинтересует контакт с мыслящими кусками мяса, которые уступают в развитии даже их вымершим разработчикам, так как иначе они давно бы создали своих роботов, положивших конец псевдоразумным, разбазаривающим ресурсы на выдуманные потребительские нужды. Таким образом, парадокс Ферми не существует, как и высокоразвитые биологические цивилизации.
Впрочем, есть и альтернативная теория. Всем известно о Роджере Пенроузе, а это и теория твисторов, небезызвестный механизм, и теория сильной космической цензуры. Обладатель этого многостороннего ума уже давно выдвигает интересную критику подобных опасений. По его мнению, «терминаторам» не удастся завоевать Землю, так как реального «искусственного интеллекта» еще до сих пор не создали. Ученый считает, что клеточные органеллы в некоторой степени управляются мембранными белками посредством обновляемого коллапса некого запутанного квантового состояние. Таким образом, человеческое сознание, а возможно любое сознание в принципе – квантовое, его невозможно объяснить и смоделировать в рамках классической механики, только лишь при помощи квантовой механики. Поэтому любые попытки воссоздать его без использования механизмов квантовой запутанности и суперпозиции обречены на провал.
Эти взгляды подвергались критике на протяжении долгого времени, их вообще отметали с порога, под предлогом, что декогерация квантовых состояний происходит раньше, чем достигается уровень необходимого влияния на нейронные процессы. Однако недавно выяснилось, что, к примеру, для птиц декогерирование идет медленнее – они в прямом смысле могут видеть магнитные поля в реальном времени из-за квантовых процессов, протекающих в их глазах. Впрочем, у человечества есть шанс выжить, так как считается, что крупные квантовые компьютеры практически невозможно создать, а еще труднее ими управлять, что делает бессмысленной разработку роботов, оснащенных КК.
No related links found
На этой неделе произошло два знаменательных события в сфере искусственного интеллекта и робототехники: у машин появилось самосознание, и они научились подробно описывать то, что видят вокруг. Каждое из этих достижений значимо само по себе, но вместе они обещают настоящую революцию в области ИИ.
Для нынешних инноваций в течение многих лет создавалась необходимая база. В частности, достигнут значительный прогресс в создании искусственных нейронных сетей, ставших основой для разработки "мыслящих" компьютеров. Это, в свою очередь, привело к развитию искусственных интеллектов Google и Apple. Активно развивает ИИ Facebook, Amazon, Microsoft и IBM.
В машинном обучении искусственные нейронные сети представляют собой систему взаимодействующих между собой "нейронов", которые посылают сообщения друг другу. Эти связи могут настраиваться на основе опыта, что делает нейронные сети адаптирующимися к новой информации и способными обучаться. Немалый прогресс достигнут и в сфере обработки естественного языка (nature language processing, NLP), благодаря чему компьютеры извлекают смысл из человеческой речи или введенной информации. Самыми прорывными решениями в этом сегменте стали проекты CALO, Wordnet, а также CoreNLP Стэнфордского университета.
За последние несколько лет мировые инженеры добились значительных успехов в создании программ по обработки речи: голос легко преобразовывается в текст с высокой степенью точности. Кроме того, существенно выросла вычислительная мощность машин. К примеру, если в 2014 году люди могли купить видеокарту, которая была в 84,3 раза производительнее видеокарты с такой же ценой в 2004 году.
В ходе эксперимента трем роботам Nao сообщили, что двум из них дали специальную "таблетку немоты", лишившую их возможности разговаривать (на самом деле инженеры просто нажали на специальную кнопку). Однако роботы не знали, кого именно нет дара речи. Машинам задали вопрос о том, кому дали таблетку. Две машины дали письменный ответ "не знаю", и только третий робот, способный говорить, произнес эту фразу, услышал свой собственный голос и понял, что ему дали плацебо. После этого он ответил: "Мне не выдали "таблетку немоты". То есть, машина не только поняла вопрос, узнала свой голос, но и догадалась, о чем свидетельствует возможность говорить.
Поскольку все три робота были запрограммированы одинаково, все они успешно прошли тест на самосознание. Такая задача при всей ее простоте для человека, для машины - пока высший пилотаж. По словам возглавившего эксперимент профессора Сельмера Брингсйорда, со временем роботы смогут освоить набор многих других присущих человеку когнитивных способностей, что позволит их использовать в самых разных сферах.
Брингсйорд придумал свой тест на основе известной логической задачи The King"s Wise Men. В этой головоломке король выбирал нового советника среди трех мудрецов. Он достал из мешка пять колпаков, три белых и два черных, и сказал, что мудрейшим будет объявлен тот, кто первым отгадает, какого цвета на нем колпак. Затем посадил претендентов друг против друга, завязал им глаза, надел по колпаку и разрешил снять повязки. Долго думали мудрецы, наконец, один из них воскликнул: "На мне белый колпак!" и выиграл состязание. Как он смог догадаться?
Классический ответ на эту старинную задачу таков. Мудрец рассуждал: "Я вижу перед собой два белых колпака. Допустим, на мне черный колпак. Тогда любой из моих соперников должен рассуждать: "Передо мной черный и белый колпаки. Если на мне также черный, то сопернику в белом колпаке уже не стоит никакого труда решить задачу". Но никто из них все еще не догадывается о цвете своего колпака. Следовательно, на мне белый колпак".
Хотя задача для роботов была гораздо проще, как для машин она невероятно сложна и результаты эксперимента по-настоящему впечатляют. Работа Брингсйорда будет представлена на конференции RO-MAN, которая пройдет в Японии с 31 августа по 4 сентября 2015 года.
Параллельно с экспериментом Брингсйорда появилось еще одно достижение в сфере искусственного интеллекта: машины научились описывать человеческим языком то, что они видят. Ученые из Стэнфорда под руководством директора Лаборатории искусственного интеллекта при Стэнфордском университете Фей-Фей Ли, разработали для этого программу NeuralTalk . Ли рассказывает, что программное обеспечение, написанное в рамках проекта, способно проанализировать комплексное изображение и точно определить, что на нем происходит, детально его описав привычным для нас языком. ИИ отыскивает на изображении отдельные объекты, события или действия и находит для них отдельные слова, после чего складывает их в осмысленные предложения. Подобно системе Deep Dream от Google, NeuralTalk использует для своей работы нейронную сеть. Алгоритм сравнивает новое изображение с уже виденными ранее фотографиями, осваивая, подобно маленькому ребенку, новые слова и запоминая образы.
Распознавание деталей на фотографии является одним из многих примеров заданий, которые легко удаются людям, но вызывают существенные затруднения у компьютеров. Сейчас для решения этой задачи чаще всего используется алгоритм, ищущий максимально похожий снимок в базе подписанных фотографий и копирующий оттуда текст или теги. NeuralTalk оказался гораздо более эффективным.
Для начала на базе разработки создадут мощную поисковую машину, которая за секунду сможет найти в Интернет нужное изображение. В будущем подобная нейронная сеть сможет найти не только фотографию, но и интересующий момент в фильме, телесериале или ролике на YouTube.
Новую программу по распознаванию образов создали и специалисты из университета Хартфордшира в Великобритании . Рассматривая снимки глубин космического пространства, компьютер способен самостоятельно, без помощи человека, идентифицировать и классифицировать изображенные на фото галактики. Технология станет основой роботов нового поколения, которые не только заниматься изучением Вселенной, но и самостоятельно определять наличие злокачественных опухолей на рентгеновских снимках, выявлять скрытое в багаже оружие или самодельные взрывные устройства.
В основе разработки - технология самостоятельного машинного обучения, позволяющая компьютеру выделить отдельные объекты и классифицировать их по ряду признаков. С каждым разом, обучаясь во время работы, система улучшает свои способности к распознаванию. По словам автора разработки Джима Гича, главной особенностью нового алгоритма является его полная автономность. "С самого начала мы немного обучили программу, как правильно смотреть на космические изображения, после чего она начала действовать самостоятельно, постоянно совершенствуясь", - говорит инженер. В результате машина стала быстрей и точней, чем человек - ведь у людей часто нарушается четкость восприятия.
В ближайшее время технология будет адаптирована для использования в разных областях: для увеличения интеллектуальных способностей автомобилей-роботов, в медицине, в системах безопасности и там, где требуется четкая идентификация объектов на изображениях, получаемых с камер и датчиков. Разработчики убеждены, что поскольку машина постоянно самообучается, в конце концов, она достигнет такого уровня эффективности, о котором человек может только мечтать.
Таким образом, искусственный интеллект постепенно продвигается к уровню человеческого. Когда именно появятся по-настоящему разумные машины неизвестно, хотя специалисты определяют сроки в 30-100 лет. Неизвестно также, будут интеллектуальные роботы полезны для общества в целом или станут исключительной собственностью контролирующих технологию корпораций. Многие специалисты также прогнозируют, что в обозримом будущем искусственный интеллект достигнет такого уровня, что превзойдет человеческий, и тогда машины наверняка поработят людей. Ранее об опасности развития ИИ высказывались сооснователь Apple Стивен Возняк, Билл Гейтс и знаменитый физик-теоретик Стивен Хокинг. А в начале этого года глава SpaceX и Tesla Motors Илон Маск объявил о намерении вложить $10 млн. в разработку безопасного искусственного интеллекта.
