Примечание редактора: это отход от нашего нормального практического и объяснительного формата, где мы позволяем нашим писателям исследовать и представлять вызывающий размышления взгляд на технологии.
Из больших летних блокбастеров, таких как «Мстители»: «Age of Ultron» и «Трансценденция вокала» Джонни Деппа, более мелкие инди-фильмы, такие как «Экс-Мачина» или «Хип-хоп» Channel 4 «Люди», сценаристы, похоже, не могут получить достаточно тропа, независимо от того, какую форму AI в конечном итоге, в ближайшие несколько десятилетий, вы можете поспорить, что это будет ад, предназначенный для обучения человечества уроку о том, чтобы стать жертвой своего собственного хитрости.
Но оправдан ли какой-либо из этих страхов перед машинами? В этой функции мы рассмотрим мир ИИ с точки зрения ученых, инженеров, программистов и предпринимателей, работающих в этой области сегодня, и сварим то, что, по их мнению, может стать следующей великой революцией в человеческом и компьютерном интеллекте.
Итак, если вы начнете накапливать пули для предстоящей войны со Скайнетом или поднять ноги, а армия подчиненных дронов позаботится о каждой вашей прихоти? Читай дальше что бы узнать.
Знай своего врага
Чтобы начать, это помогает понять, о чем мы говорим, когда используем полный термин «AI». Слово было брошено вокруг и переопределено сто раз, так как концепция самосознающих компьютеров была впервые предложена неофициальным отцом ИИ, Дж. Маккарти в 1955 году … но что это на самом деле означает?
Ну, во-первых, читатели должны знать, что искусственный интеллект, как мы его понимаем сегодня, фактически разделяется на две отдельные категории: «ANI» и «AGI».
Первый, короткий для Искусственного Узкого Разума, охватывает то, что обычно называют «слабым» AI, или ИИ, который может действовать только в одной ограниченной области специализации. Think Deep Blue, суперкомпьютер, который был разработан IBM, чтобы преследовать шахматных мастеров мира еще в 1997 году. Deep Blue может сделать одну вещь действительно очень хорошо: победить людей в шахматах … но это все.
ANI - это полезная, относительно безобидная реализация машинного интеллекта, от которого может выиграть все человечество, потому что, хотя она способна обрабатывать миллиарды номеров и запросов одновременно, она по-прежнему работает в ограниченной среде, которая ограничена количеством транзисторов, которые мы позволяем он должен иметь в любой момент времени. С другой стороны, ИИ, с которым мы все больше опасаемся, - это нечто, называемое «Искусственный общий интеллект», или AGI.
Как и в настоящее время, создание всего, что можно даже отдаленно назвать AGI, остается Святым Граалем в области информатики, и, если оно достигнуто, может кардинально изменить все вокруг мира, как мы его знаем. Существует множество различных препятствий для преодоления проблемы создания истинного AGI наравне с человеческим разумом, не в последнюю очередь из того, что, хотя существует много сходства между тем, как работают наши мозги и как компьютеры обрабатывают информацию, когда это происходит на самом деле интерпретировать вещи так, как мы делаем; машины имеют плохую привычку зависеть от деталей и пропустить лес для деревьев.
«Я боюсь, что не могу позволить тебе сделать то, что Bullsh * t, Dave»
Когда компьютер IBM Watson лихо узнал, как проклинать после прочтения Urban Dictionary, мы поняли, насколько далеко мы находимся от ИИ, который действительно способен сортировать по мелочам человеческого опыта и создавать точную картину того, что «Мысль» должна быть сделана.
Видите ли, во время развития Уотсона инженеры испытывали трудности с попыткой научить его естественному образцу речи, который более точно подражал нашему, а не сырому машине, говорящему в совершенных предложениях. Чтобы исправить это, они поняли, что было бы неплохо запустить весь Урбанский словарь через свои банки памяти, сразу после чего Уотсон ответил на один из тестов команды, назвав его «bullsh * t».
Говорится о том, что хотя Уотсон знал, что это проклятие, и что то, что он говорил, было оскорбительным, оно не полностью понимало Зачем он не должен был использовать это слово, что является критическим компонентом, который отделяет стандартный ANI от сегодняшнего дня от перехода на AGI завтрашнего дня. Конечно, эти машины могут читать факты, писать предложения и даже имитировать нейронную сеть крысы, но когда дело доходит до критических навыков мышления и суждения, ИИ сегодня по-прежнему сильно отстает от кривой.
Этот разрыв между знанием и пониманием - это не что иное, как чихание, и это то, на что указывают пессимисты, когда мы утверждаем, что мы все еще далеки от создания AGI, способного знать себя так, как мы делаем. Это огромная пропасть, в которой ни компьютерные инженеры, ни психологи-люди не могут утверждать, что они вписываются в современное определение того, что делает сознательное существо, сознательный.
Что, если Skynet станет самонаблюдением?
Но, даже если мы каким-то образом сумеем создать AGI в следующем десятилетии (что довольно оптимистично, учитывая текущие прогнозы), все должно быть подлино оттуда, правильно? Люди, живущие с ИИ, ИИ, болтающиеся с людьми в выходные дни после долгого дня на фабрике с хрустом. Упакуй, и мы закончили здесь?
Надеюсь, мы не просто биологический загрузчик для цифровой суперинтеллекции. К сожалению, это становится все более вероятным
- Элон Муск (@elonmusk) 3 августа 2014 года
Ну, не совсем. Осталась еще одна категория ИИ, и это то, о чем все фильмы и телешоу пытались нас предупредить годами: ASI, иначе известный как «искусственный суперразвед». Теоретически ASI будет рождаться из AGI, становящегося беспокойным со своей судьбой в жизни, и принятие преднамеренного решения сделать что-то об этом самостоятельно без нашего разрешения в первую очередь. Предположение, которое многие исследователи в этой области предложили, заключается в том, что, когда AGI достигнет ощущения, он не будет доволен тем, что у него есть, и сделает все возможное, чтобы увеличить свои собственные возможности любыми средствами.
Возможная временная шкала выглядит следующим образом: люди создают машину, машина становится такой же умной, как и люди. Машина, которая теперь столь же умна, как и люди, создавшие машину, столь же умную, как и они (придерживаясь меня здесь), изучает искусство саморепликации, самоэволюции и самосовершенствования. Он не устает, он не болеет, и он может расти бесконечно, в то время как остальные из нас перезаряжают наши батареи в постели.
Как только он получит контроль, у него тогда будет возможность использовать свою силу, чтобы постепенно начать собирать армию машин, которые столь же умны, как и ее создатель, и способны развиваться с экспоненциальной скоростью, поскольку все больше узлов добавляется в сеть. Отсюда все модели, нарисованные на кривой машинного интеллекта, быстро пролетают через крышу.
Тем не менее, однако, они в основном по-прежнему основаны на спекуляциях, а не на чем-то ощутимом. Это оставляет много места для предположения от имени десятков разных экспертов по обе стороны проблемы, и даже после долгих жарких дебатов до сих пор нет единого мнения о том, будет ли ASI быть милосердным богом или видеть людей как угасающий углекислый вид, который мы есть, и уничтожаем нас из книг по истории, как мы счищаем следы муравьев с кухонного прилавка.
Он сказал, она сказала: «Мы должны бояться?
В течение прошедшего года горячие следы общественного интереса к искусству AI, многие из лучших ученых, инженеров и предпринимателей в мире подскочили от возможности дать свои два цента о том, какой искусственный интеллект может на самом деле выглядеть вне звуковых сцен Голливуда в ближайшие несколько десятилетий.
С одной стороны, у вас есть мрак-и-doomers, такие как Элон Муск, Стивен Хокинг и Билл Гейтс, все из которых разделяют озабоченность тем, что без надлежащих гарантий, установленных на месте, это будет только вопросом времени, прежде чем ASI мечтает о том, как уничтожить человечество.
«Можно представить, что такие технологии перехитрили финансовые рынки, изобретали человеческих исследователей, управляли человеческими лидерами, разрабатывали оружие, которое мы даже не можем понять», - написал Хокинг в открытом письме сообществу AI в этом году.
«В то время как краткосрочное воздействие ИИ зависит от того, кто его контролирует, долгосрочный эффект зависит от того, можно ли вообще контролировать его».
С другой стороны, мы находим более яркий портрет, написанный футуристами, такими как Рэй Курцвейл, главный исследователь Microsoft Эрик Хоровиц, и все Другойлюбимый основатель Apple; Стив Возняк. И Хокинг, и Мускус считаются двумя из величайших умов нашего поколения, поэтому подвергать сомнению их предсказания о вреде, который технология может причинить в долгосрочной перспективе, - это нелегкий подвиг. Но, оставьте это светилам, как Возняк, чтобы вмешаться, где другие только посмеют.
И здесь мы находим философскую дилемму, что никто не может полностью согласиться на консенсус: будет ли ASI рассматривать нас как безобидный хаус, которого нужно заботиться и заботиться, или нежелательного вредителя, заслуживающего быстрого и безболезненного истребления?
Hasta la Vista, Baby
Хотя это было бы безумным поручением требовать, чтобы точно знать, что происходит в голове реальной жизни Тони Старка, я думаю, когда Муск и друзья предупреждают нас об опасности ИИ, они не имеют в виду ничего похожего на Терминатор, Ultron или Ava.
Даже с огромным количеством инноваций у нас под рукой, роботы, которые у нас есть сегодня, едва могут пройти мили за час до того, как они достигнут непроходимого барьера, запутаться и повеселиться в тротуаре. И хотя можно попытаться указать на Закон Мура в качестве примера того, как быстро технология робототехники имеет потенциал для прогресса в будущем, другой должен только взглянуть на Asimo, который впервые дебютировал почти 15 лет назад, и не сделал никаких Значительные улучшения с тех пор.
Насколько мы можем этого захотеть, робототехника не пришла нигде близко к тому, чтобы придерживаться той же модели экспоненциального прогресса, как мы видели в разработках компьютерных процессоров. Они ограничены физическими пределами того, сколько энергии мы можем вместить в батарейный блок, неисправность гидравлических механизмов и бесконечную борьбу за борьбу с их собственным центром тяжести.
Так что пока; нет, хотя истинный AGI или ASI потенциально может быть создан в статическом суперкомпьютере на какой-либо ферме серверов в Аризоне, все же остается маловероятным, что мы будем бежать по улицам Манхэттена, как орда металлических скелетов, сзади.
Вместо этого ИИ, которым Элон и Хокинг настолько стараются предостеречь мир от того, что это разнообразие «замены карьеры», которое может мыслить быстрее нас, организовать данные с меньшим количеством ошибок и даже научиться лучше выполнять наши задания чем мы могли бы надеяться - все, не прося медицинскую страховку или несколько выходных, чтобы забрать детей в Диснейленд на весенний перерыв.
Баритовые боты и идеальное капучино
Несколько месяцев назад NPR выпустил удобный инструмент на своем веб-сайте, в котором слушатели подкастов могли выбрать из списка разных профессий, чтобы узнать процент риска, который их конкретная линия работы переносится для автоматизации в какой-то момент в следующие 30 лет.
Для широкого круга рабочих мест, включая, помимо прочего,: канцелярские должности, медсестер, ИТ, диагностику и даже кафе-баристы, роботы и их коллеги из АНИ почти наверняка выведут миллионы из нас без работы и в линию хлеба раньше многих из нас думаю. Но это машины, которые будут запрограммированы только на выполнение одной задачи и одной задачи и не имеют возможности (если они есть) выйти за рамки специализированной серии предварительно запрограммированных инструкций, которые мы тщательно устанавливаем заранее.
С великой державой, появляется великая особенность
«Знаешь, я знаю, что этот стейк не существует. Я знаю, что, когда я кладу его себе в рот, Матрица говорит моему мозгу, что она сочная и вкусная. Через девять лет вы знаете, что я понимаю?
«Невежество - это блаженство». - Cypher
Хотя это по-прежнему остается предметом яростно аргументированного мнения, на данный момент консенсус многих ведущих ученых и инженеров в области исследований ИИ выглядит так, что мы подвергаемся гораздо большему риску попасть в жертву тому, что мир искусственного интеллекта может обеспечить, а не быть сбитым реальной версией Skynet. Таким образом, возможно, что наша возможная кончина может не стать результатом медленного, методического прогресса в великом неизвестном. Вместо этого он гораздо вероятнее появится как непреднамеренное последствие устремленного, чрезмерно восторженного перекрестка нашей собственной хитрости и изобретательности, собиравшихся вместе, чтобы создать следующую большую технологическую особенность.
Подумайте меньшеТерминатор, и больше Wall-E, Как и флот роботов, которые откармливали людей в фильме Pixar, у нас нет проблем с тем, чтобы держать шимпанзе в зоопарке, и различие заключается в том, будет ли ИИ достаточно любезен, чтобы делать то же самое с нами.
С этой точки зрения имеет смысл бояться реальности, когда люди подключены к постоянному моделированию VR на всей планете a la Матрица, откармливали жабры своими любимыми продуктами и получали все, что они могли когда-либо хотеть, пока машины заботятся обо всем остальном. Место, где развитая ASI не считает нас ошибкой, чтобы соскоблить обувь, но вместо этого, как очаровательные обезьяньи мясные сухари, которые нам нравятся, легко угодить и заслужить по меньшей мере немного благодарности за создание всезнающего, всевидящий квази-бог, который в конце концов захватил планету.
В этом отношении все сводится к вашему определению того, что значит «жить» через революцию AI.Идея о том, что что-то «бесполезное» нужно покончить с собой, - это исключительно человеческая концепция, мышление, которое мы не должны сразу ожидать, что наши машинные повелители будут приняты из нашего ограниченного морального аспекта. Возможно, возможная эволюция нашего цифрового интеллекта не будет чистым злом, а бесконечным, безрассудным состраданием ко всем живым существам; независимо от того, насколько эгоистичны, самоуправляемы или самоуничтожены.
Итак … Должны ли мы беспокоиться об этом?
Это зависит от того, кого вы спросите.
Если вы опросите двух самых умных инженеров-технологов и математиков в современном мире, вы получите четыре разных ответа, и цифры не будут влиять на мертвых даже больше людей, которых вы добавляете на табло. В любом случае основной проблемой, которую мы должны решить, является не то, что «идет ли ИИ?», Потому что это так, и никто из нас не сможет остановить ее. Рассматривая так много разных перспектив, реальный вопрос, который никто не может себе позволить, слишком много наглости: «будет ли это милосердно?»
Даже после того, как некоторые из величайших умов мира взвесили эту проблему, картина того, какой машинный интеллект может выглядеть 20, 30 или 50 лет в будущем, все же выглядит довольно мрачной. Поскольку поле ИИ постоянно трансформируется во что-то другое при создании нового компьютерного чипа или материала транзистора, требуя окончательной власти в отношении того, что может или не может произойти, это немного похоже на то, что вы «знаете», что бросок кости определен чтобы поднять змеиные глаза на следующий бросок.
Мы можем с уверенностью сказать, что если вы беспокоитесь о том, что на следующей неделе вы получите розовую скидку из своего компьютеризованного кассового аппарата, постарайтесь не слишком зацикливаться на этом. Taco Bell по-прежнему будет открыт для вторников в Тако, и человек, безусловно, будет принимать ваш заказ у окна (и снова забыть зеленый соус). Согласно исследованию, проведенному Джеймсом Барратом на прошлогоднем саммите AGI в Квебеке, жюри на жестком графике AI все еще не работает. Менее половины всех присутствующих сказали, что считают, что мы достигнем истинного AGI до 2025 года, в то время как более 60 процентов сказали, что это займет не менее 2050, если не следующий в следующем веке и за его пределами.
Представить, что мы могли бы случайно создать искусственный разум, изобилующий всеми нашими собственными недостатками и эволюционными осечками, - прежде чем мы даже узнаем, что делает нас такими, какими мы есть, - это суть человеческого эго.
В конце концов, несмотря на наше неумолимое желание решить, кто выйдет на первое место в предстоящей войне и / или мирном договоре между человечеством и машинами, это конкурс ограниченных ожиданий и безграничных возможностей, и все, что мы делаем, - это аргументация семантики между. Конечно, если вы новичок в средней школе и хотите получить сертификацию на вождение такси, у генерального директора Uber есть полмиллиона причин, почему вы, вероятно, должны подумать о поиске карьеры в другом месте.
Но если вы запасаете оружие и консервированные бобы для апокалипсиса AI, вам может быть лучше потратить свое время на изучение того, как рисовать, кодировать или писать следующий великий американский роман. Даже по самым скромным подсчетам, это будет несколько десятилетий, прежде чем любая машина узнает, как быть Моне, или учит себя C # и Java, потому что люди наполнены своего рода творчеством, изобретательностью и способностью выражать наши самые сокровенные «я», автоматическая кофеварка когда-либо могла.
Да, иногда мы можем немного поразмыслить, спуститься с холодом на работе или потребовать вздремнуть в середине дня, но, возможно, это точно так как мы человек, что угроза создания чего-то большего, чем у нас внутри машины, все еще длинная, длинная.
Image Credits: Disney Pixar, Paramount Pictures, Bosch, Youtube / TopGear, Flickr / LWP Communications Flickr / BagoGames, Фонд Викимедиа, Twitter, WaitButWhy 1, 2
