АльфаИнфинити: будущее интеллекта

Сегодня мы наблюдаем невероятный прогресс, который существенно расширит горизонты мышления
Я невероятно воодушевлен ориентированной в будущее темой сегодняшнего выпуска. Возможно, она слегка волнует кого-то из вас тоже: Сверхразум.
Википедия определяет Сверхразум как гипотетическую сущность, обладающую интеллектом, значительно превосходящим самые яркие и одаренные людские умы.
До сегодняшнего дня Сверхразум рассматривался в контексте систем, решающих те или иные задачи, но в моем воображении эта тема намного, намного шире.
Я представляю его себе так, как это было описано в прекрасной статье в New York Times о программе, играющей в шахматы: «АльфаЗеро обладает ловкостью виртуоза и силой машины. Это первый в истории человечества проблеск потрясающего, нового типа интеллекта».
Потрясающий и новый, потому что…
До сегодняшнего дня шахматные программы защищались с грацией утюга. Они были значительно сильнее любого шахматиста, но они и представления не имели о самой игре. Они невероятно быстрые и сильные, но совершенно лишены понимания.
АльфаЗеро умнее, не просто быстрее. Он, похоже, осознает происходящее. Он играет «интуитивно и красиво, в романтическом, атакующем стиле. Он играл в гамбиты и был способен рисковать. В некоторых партиях он парализовывал своих противников и играл с ними».
Давайте просто осознаем это.
В своем удивительном развитии, АльфаЗеро не использовал очищенные, подготовленные данные (т.е. изучая игры, в которые играли ранее люди или машины).
Единственное, что ему дали на входе — это правила игры. Он просто играл сам против себя миллионы раз, чтобы стать умнее любого человека всего за несколько часов. Вскоре после начала работы он стал самой умной сущностью на планете в контексте игры в шахматы.
И, кстати говоря, это случилось год назад.
Давайте просто осознаем это.
Стивен Строгац, автор статьи в New York Times, предположил, что следующее поколение АльфаЗеро, получившее название АльфаИнфинити, может обладать интеллектом на уровне, который люди не смогут понять, как бы они не старались.
В своей презентации про машинное обучение я использовал следующую метафору:
«Это как если бы белка силилась понять, как люди разработали реактивный двигатель, чтобы обрести возможность полетов».
Сверхразум, такой как АльфаИнфинити, будет разработан еще не скоро.
Тем не менее, подумайте, как такой Сверхразум — осмелюсь сказать «легко» — сможет решить все наши проблемы: от здравоохранения до глобального потепления и управления расписанием авиаперелетов. Мы просто сидели бы себе тихо и восхищались этим невероятным интеллектом.
Последний абзац статьи господина Строгаца имеет смысл глубоко усвоить, прочтите его.
Думаю, что ваши первые мысли по прочтению будут какие-то такие: «Погодите-ка… А что будет с нами? С работой? С политикой? Со слухами? С культовыми сооружениями? С работой над научными проблемами?».
В выпуске #100 я сделал подход к предсказанию того, как человечество может выглядеть через 100 лет или около того.
14 месяцев спустя я все еще сохраняю оптимизм и считаю, что есть вероятность, что мы превратимся в совершенно другой вид, живущий совершенно по другим принципам, но с той же целью (радость).
У всего, что является настолько ментально и эмоционально вызывающим, найдутся критики.
Я встречаю критиков теплыми объятиями. Я считаю, что критики являются единственной настоящей причиной того развития, которое проделало человечество: ведь всегда найдется кто-то, кто возьмется за доказывание того, что критики были неправы.
Среди всех аргументов, которые они приводят, три встречаются наиболее часто:

1. Господь создал людей, поэтому машины никогда не будут столь же разумны.

«Никогда не будут столь же разумны» — уже доказано, что это не так.
В этом утверждении есть интересный нюанс — тип интеллекта.
Я не утверждаю, что машины будут обладать таким же типом интеллекта, как и человек (основываясь на своем исследовании, я считаю, что человекоподобный интеллект предполагает большие ограничения).
Подумайте над следующим: если вам нужно, чтобы задача Х была сделана, и машина может это сделать быстрее и эффективнее, чем человек… так ли важно, каким типом разума она обладает?
До сверхразума еще далеко, но он будет способен выполнять задачи типа контроля транспортного потока, выращивания урожая, он сможет подсказывать то, что вам понадобится, до того, как оно понадобилось, писать увлекательные сюжеты и даже влюбляться.
Тип разума, который будет способен делать все это, будет значительно отличаться от человеческого, и будет значительно, значительно превосходить его во многих измерениях.

2. Ты на наркоте? Машинам не хватит данных, чтобы стать настолько же разумными!

Два момента.
Во-первых, вы правы, что для определенных типов обучения нам требуется гораздо больше данных. Сотни миллионов микросенсоров планируется запустить, чтобы собирать больше данных о погоде. Миллионы маленьких наносенсоров, передвигающихся по нашему телу и мозгу с током крови, будут собирать информацию о здоровье и психологическом состоянии — буквально на атомарном уровне. Все данные в любой транспортной системе — не только информацию о состоянии двигателя и скорости — будут собирать датчики, встроенные в кузов автомобиля, и прочее.
Ни один из примеров, которые я описал, пока не существуют. Но вы действительно считаете, что эти проблемы правда не решаемы в 2019? Над ними уже ведется работа. Работа вашего мозга, в конечном итоге, всего лишь череда электрических импульсов.

3. Человеческий мозг способен делать газилион триллионов вычислений, потребляя очень мало энергии, а сверхразуму потребуется чазиллион мамиллион дапромиллионов чего-нибудь там.

Все так.
Но подумайте о силе, заключающейся в одной вычислительной единице Tensor Processing (возможно, самом мощном вычислительном устройстве в мире). Потом подумайте о том, что между маем 2016 и маем 2018 процессоры стали во много раз быстрее, содержат в несколько раз больше микросхем, дающих невероятный прирост к производительности. Это будет продолжать масштабироваться с такой же скоростью как минимум некоторое время.
Кроме того, быстро приближается эпоха Квантового Превосходства — способности квантовых вычислительных устройств решать задачи, которые классические компьютеры решить не в состоянии. Невероятный, взрывообразный рост мощности вычислений — и проблемы, которые мы обсудили ранее, будут решены.
Юрген Шмидхубер предсказывает, что до создания нейросети, сопоставимой по мощности с человеческим мозгом, осталось 20-25 лет. Это не так далеко.
Конечно, еще остается много «но». И так много из этих «но» действительно справедливы, а для части других мы вообще пока не можем даже представить ответ.
Тем не менее, все тренды ведут к тому, что человечеству придется сосуществовать с разумом (или разумами?), таковыми, которые некоторые люди называют сегодня богоподобными или всезнающими силами.
Напоследок: я не верю в силу желания, чтобы какие-то вещи не случились. Я верю в планирование :) Поэтому для себя я планирую одну конкретную вещь — постоянно продолжать учиться, чтобы иметь несколько карьерных возможностей. Вот, например, один из моих планов для детей — дать им максимально широкий набор умений и сфокусированный набор ценностей. Для всех нас, с целью максимизации способностей к выживанию и росту.
А как выглядит ваш план?
Авинаш.

Вас заинтересуют следующие материалы